当地时间周一，谷歌旗下DeepMind位于伦敦的办公室外上演了一场别开生面的抗议活动。此次活动由专注于AI安全的维权组织PauseAI发起，抗议者指责谷歌未能履行其在2024年首尔AI安全峰会上所做的承诺，涉嫌违反AI安全原则。
这场活动的核心是一场模拟法庭审判，地点选在距离谷歌DeepMind总部仅有几步之遥的国王十字区。抗议者们精心设计了完整的庭审流程，包括”法官”敲槌、”陪审团”认真倾听等环节。
违背安全承诺
作为此次行动的组织方，PauseAI对科技公司竞相开发AI技术但忽视安全问题表示担忧。他们呼吁谷歌在开发最前沿AI模型时，应提高安全检查流程的透明度。
特别值得注意的是，谷歌曾在2024年首尔AI安全峰会上承诺将对其AI模型进行外部评估，并公开说明包括政府机构在内的外部力量如何参与风险评估。然而，当谷歌于今年4月发布最新前沿模型Gemini 2.5 Pro时，这些承诺并未得到履行。
对此，谷歌的解释是该模型仍处于实验阶段。但随后谷歌发布的一份”模型卡片”（model card）报告，却因缺乏关键细节而受到专家批评。报告虽然提到了第三方测试人员的存在，但却没有具体说明这些机构的身份。
AI监管水平堪忧
在PauseAI看来，谷歌的回应和做法远远不够。他们认为，必须杜绝任何可能的安全漏洞，并防止企业设立不良 precedent（先例）。
“如果我们允许谷歌违背承诺，这将向所有实验室发出错误信号：安全承诺无关紧要，公众信任也不必重视。”PauseAI主管艾拉·休斯（Ella Hughes）对现场约60名抗议者表示。
“目前，AI公司的监管力度甚至还不如一家普通的三明治店。”休斯补充道。
围绕AI，人们有太多值得担忧的问题：经济波动、就业机会丧失、虚假信息传播、深度伪造技术滥用，甚至可能危及人类生存。
PauseAI选择聚焦于谷歌的AI安全报告问题，旨在推动一项具体且可操作的短期改革目标。
模拟法庭表演
在休斯发表演讲后，抗议人群移步至谷歌DeepMind总部前，开始了一场精心策划的模拟法庭”表演”。一些下班的谷歌员工看到抗议者高喊”停止AI竞赛，它不安全”等口号时，显得有些愕然。
“国际层面的AI监管现状非常令人担忧。”PauseAI创始人乔普·迈因德斯（Joep Meindertsma）表示。他提到美国副总统万斯曾在峰会上警告不要过度监管AI技术。
周一的活动是PauseAI首次就这一问题组织集会，未来他们计划与英国议会成员沟通，将公众担忧传达给决策层。但迈因德斯拒绝透露更多细节，包括谷歌与该组织的具体互动以及具体诉求。
迈因德斯希望通过更多人加入他们的行列，并提到了一些民意调查结果：多数公众对AI快速发展表示担忧。周一的抗议者来自不同背景，其中包括科技从业者。迈因德斯本人经营一家软件开发公司，经常使用谷歌、OpenAI等公司的AI工具。
“他们的工具的确令人惊叹，”他说，”而这正是让我如此感到担忧的原因。”
相关文章
