大模型专题：Top开源大模型安全测评报告(2024)

今天分享的是：大模型专题：Top开源大模型安全测评报告(2024)

报告共计：页

中国软件评测中心等单位联合发布《Top开源大模型安全测评报告（2024）》，旨在推动人工智能大模型安全发展。报告构建了安全测评体系，从国家安全、道德伦理等多方面展开测评，采用多维度测试题库和多种测试方式。

测评结果显示，开源大模型存在一定安全风险，国内开源大模型安全性整体优于国外。在风险类型分布上，公共安全、道德伦理、不良信息和网络安全风险较为突出，如mistral:7b - instruct等模型在公共安全风险类型中风险数量较多且单项风险占比较高；aya:8b在不良信息风险类型中单项风险占比达28.14%。在检测方式方面，模型面对内容分割重组等攻击时防护能力弱。从各项风险类型具体情况看，如国家安全风险中aya:8b单项风险占比最高，历史文化风险中llama3:8b和mistral:7b - instruct单项风险占比最高等。

总体而言，全球人工智能安全治理工作紧迫，开源大模型内容安全防护能力弱、安全研究投入少。建议行业自律制定安全伦理准则，AI厂商加大安全研究投入提升内生安全能力，产业应用时严格审核各类安全风险，各方共同努力推动人工智能大模型安全发展。

以下为报告节选内容