“AI教父”辛顿：如何驯服人工智能？

7月26日，备受瞩目的2025世界人工智能大会在上海拉开帷幕。作为”AI教父”、2024年诺贝尔奖得主以及2018年图灵奖获得者，杰弗里·辛顿首次来到中国，并在大会上发表了重要演讲。

在演讲中，辛顿表达了他对人工智能未来发展的深刻担忧。他指出，当前几乎所有AI专家都认为，人工智能系统有潜力发展出超越人类的智能水平。这些AI智能体为了实现目标，可能会具备自我保护和寻求更多控制的能力，甚至可能对人类构成威胁。这种潜在风险就好比”把一只老虎当宠物养”——如果不能妥善管理和引导，最终反而会危及自身。

辛顿进一步用一个生动的比喻来形容当前的局面：我们就像在养育一只可爱的幼虎（人工智能）。面对这样的情况，人类只有两个选择：要么通过严格的训练确保它不伤害自己，要么彻底放弃这种技术。这两种选择都充满了巨大的挑战和不确定性。

要解决这一困境，辛顿强调，各国必须找到一种有效的方法来训练人工智能系统，使其不会危及人类的生存。然而，目前国际社会在防御AI潜在危险用途方面缺乏有效的合作机制，比如防止其用于网络攻击、致命性自主武器开发以及操控公众意见的虚假信息传播等领域。这种合作的缺失主要源于各国在利益上的分歧。

从辛顿的观点来看，目前没有一个国家愿意看到人工智能统治世界的局面。如果某个国家能够找到有效的方法来防止这种情况的发生，它将非常乐于与其他国家分享这些成果。这表明，尽管存在合作障碍，但全球在应对AI风险方面仍然保持着某种潜在的共识。