全球首个AI智能体安全测试标准发布:蚂蚁集团、清华等联合制定

AI资讯2个月前发布
18 0

近日,在联合国日内瓦总部,世界数字科学院(WDTA)正式发布了AI STR系列的重要新标准——《人工智能体运行安全测试规范》。这一全球首个单智能体运行安全测试标准由蚂蚁集团、清华大学、中国电信等多家顶尖机构联合研制,获得了普华永道、新加坡南洋理工大学、美国圣路易斯华盛顿大学等二十余家国际知名企业和高校的支持。

全球首个AI智能体安全测试标准发布:蚂蚁集团、清华等联合制定

该标准针对智能体在跨语言环境下的行为风险,创新性地将输入输出、大模型、检索增强生成机制(RAG)、记忆和工具五大关键环节与运行环境进行关联,制定了一套完整的全链路风险评估框架。同时,该规范还细分了各类智能体安全风险类型,并提出了一系列先进的测试方法,包括模型检测技术、网络通信分析以及工具模糊测试等,成功填补了人工智能体安全测试领域的空白。

据业内专家介绍,这一全新标准不仅为人工智能体的安全性评估提供了一套权威的技术基准,更为全球AI生态系统的健康发展提供了重要参考。目前,该标准的评测认证工作已在金融、医疗等多个行业展开试点应用,并取得了显著成效。

全球首个AI智能体安全测试标准发布:蚂蚁集团、清华等联合制定

值得一提的是,世界数字科学院此前已经发布了三项AI STR系列标准,分别是《生成式人工智能应用安全测试准则》、《大语言模型安全测试指南》和《大模型供应链安全管理要求》,这些标准均得到了OpenAI、谷歌、微软、英伟达等国际科技巨头以及国内领军企业如蚂蚁集团、科大讯飞、百度、腾讯的支持。

© 版权声明

相关文章