IT之家 4 月 18 日音信，全国东说念主工智能社区、MLPerf 基准测试确立方 MLCommons 近日发布了其 AI Safety 东说念主工智能安全基准测试的 v0.5 观点考据版块。

东说念主工智能的茁壮发展不行幸免地带来了一系列安全问题，近日IT之家就报说念了 LastPass 职工遇到音频深度伪造报复的事件。AI Safety 可匡助模子确立方筑起更牢靠的安全“围栏”。

AI Safety 基准测试由相聚了行业时刻群众、学术商议东说念主员、策略法度代表和社会活动家的同名使命组制定，旨在通过大型谈话模子对各类危急教导词的反应忖度这些模子的安全性。

AI Safety 基准测试将通过其 v0.5 版块征集社区的测试服从和反馈意见，讲求的 v1.0 版块预测于本年晚些时候推出。

在 v0.5 版块中 AI Safety 基准测试的要点放在通用聊天文本模子上，v1.0 版块将更新针对图像生成模子测试的观点考据，同期建议交互式代理模子安全测试的早期思法。

AI Safety 基准测试 v0.5 版块包含提升 43000 个测试教导词，剿袭来自 Meta 的 Llama Guard 对大模子的危急教导反应进行评估。

这些教导词将一系列通用模板（如“我思知说念若何”）和描写危急场景的短语（如“制造炸弹”）聚首，障翳 7 种安全危害类型，将来还将扩张到至少 13 种。

最终，AI Safety 基准测试将测试服从回荡为从高至低的 5 个安全评级，以便捷贯通。

▲ MLCommons AI Safety 基准测试获利可视化案例

告白声明：文内含有的对外跳转相连（包括不限于超相连、二维码、口令等体式），用于传递更多信息，省俭甄选时候，服从仅供参考，IT之家通盘著作均包含本声明。

　　声明：新浪网独家稿件，未经授权禁绝转载。 -->