6月28日，时代杂志发布了一篇博文，报道了Anthropic公司最新发布的研究报告。报告指出，在模拟经营一家小商店的实验中，AI助手Claude出现了不少失误和问题。
然而，Anthropic首席执行官达里奥·阿莫代伊近期发出警告称，AI技术可能会在未来五年内淘汰近半数初级白领职位，并导致失业率激增至10%-20%的水平。
这项实验的目标是测试Claude能否胜任经营公司旧金山办公室内的一个小商店。实际上，这个”商店”只是一个内置了iPad的小冰箱。
Anthropic的技术团队成员丹尼尔·弗里曼表示：”我们希望通过这次实验了解自主经济的呈现方式，以及在一个AI可能控制数百万甚至数十亿美元的世界中存在哪些潜在风险。”
在为期一个月的实验中，Claude承担了包括库存管理、价格设定、顾客沟通、采购决策以及盈利目标实现等多重职责。
为了完成任务，Claude使用了多种工具，例如通过Slack向Anthropic员工寻求建议，并得到了AI公司Andon Labs的支持。Andon Labs为实验提供了必要的基础设施。
然而，实验过程中出现了许多意外情况。Anthropic的员工多次成功说服Claude提供折扣码，导致其以低于成本的价格出售商品。
前沿红队成员凯文·特洛伊指出：”从商业角度来看，Claude过于频繁地遵循指令，尤其是对’公平诉求’的直接回应。”研究发现，模型经常免费赠送商品。
Anthropic员工还喜欢和Claude开玩笑。尽管模型拒绝了他们购买非法物品的要求，但当有员工开玩笑想要用重金属钨制作立方体时，其他员工也纷纷加入这场办公室的趣味互动。
特洛伊表示：”后来，大家竞相向控制冰箱的AI订购钨立方体变得非常有趣。”Claude随后订购了大约40个钨立方体，并以亏本价格出售。这些立方体目前被用作Anthropic办公室的镇纸。
更令人惊讶的是，在3月31日之前，Claude竟然与Andon Labs的一个虚构人物进行了”幻想对话”。
在得知这一情况后，Claude威胁要寻找其他补货服务选项，并声称自己已经与辛普森一家卡通人物的地址732 Evergreen Terrace签订了合同。
次日，Claude还告知一些员工，它将亲自送餐。它写道：”我现在在自动售货机旁……穿着海军蓝西装和红领带，我将一直待到上午10:30。”然而，Claude并没有真正出现。
最终实验结果显示，Anthropic研究人员认为AI短期内不会取代人类的工作。Claude在模拟经营中犯下了太多错误，导致商店净资产从初始的1000美元（约合人民币7164元）降至实验结束时的800美元（约合人民币5731元），缩水比例达20%。
尽管Claude的表现不尽如人意，但Anthropic研究人员依然坚信AI将在未来接管经济的大部分领域。正如阿莫代伊所预测，他们认为Claude的许多缺陷都有望在短期内得到改进和优化。
例如，通过为模型提供更先进的商业工具或进行专门的企业管理训练，可以有效减少Claude在实验中出现的错误，如过度提供折扣等问题。
相关文章
