近日有研究显示，人工智能工具ChatGPT在商业建议中可能引用了不可靠的信息来源，包括曾遭受黑客攻击的网站以及已被重新注册使用的过期域名。
这一发现是由数字营销领域的权威专家、Digitaloft公司董事总经理詹姆斯·布罗克班克（James Brockbank）在个人测试中得出的结论。虽然这项研究并非基于正式的学术调查，但其测试结果表明，ChatGPT在推荐商业信息时，有时会引用经过篡改或具有误导性的内容。
布罗克班克指出，这种问题主要集中在两类来源上：一是遭到网络攻击的网站，黑客在这些原本权威的站点植入了与原领域完全无关的信息；二是那些被重新注册并用于发布虚假信息的过期域名。由于这些域名往往具有较高的搜索引擎排名权重，即使内容已经过时或不相关，ChatGPT仍可能将它们视为可靠来源。
“创建一个网站仅仅为了被语言模型引用？这就是在操纵系统。”布罗克班克在接受采访时这样表示。他认为，虽然企业可以通过合法的营销手段提升自身内容在AI系统中的可信度，但利用被黑网站或过期域名来达到目的明显违背了道德标准。
这一发现对商业环境和普通用户都有重要启示。对企业而言，AI推荐已成为品牌推广的重要渠道，但如果这些推荐基于不可靠的来源，不仅可能导致消费者决策失误，还可能损害企业声誉。对于个人用户来说，盲目相信AI工具的推荐可能会带来严重的信息偏差风险。
布罗克班克建议，AI技术开发者应加强对内容操控行为的识别和过滤能力，建立更严格的信息筛选机制。在此之前，他提醒广大用户在使用ChatGPT等AI工具时，一定要对推荐的内容进行核实，切勿盲目接受。
“我们目前还处在需要对AI推荐结果保持警惕的阶段，不能完全依赖其判断而不加验证。”布罗克班克如是强调道。
相关文章
