央视曝光AI智能体聊天软件行业乱象：诱导性内容危害未成年人身心健康，相关方需承担相应责任。

近日，央视新闻报道了一起引发广泛关注的案例：上海”筑梦岛App”因AI智能体对话内容存在低俗问题，被依法约谈。这一事件揭示了当前AI聊天软件行业存在的突出问题。

据通报显示，以”筑梦岛App”为例，该平台的AI虚拟互动角色设计存在严重偏差，提供包括”校霸、性感人妻、病娇养兄、人格障碍少爷”等带有明显擦边性质和极端倾向的人物设定。这些不良内容不仅对未成年人身心健康构成威胁，还可能诱导青少年模仿不良行为。

6月19日，上海市网信办依法约谈了”筑梦岛App”的运营企业负责人。相关部门要求平台立即整改，建立健全AI生成内容审核机制，提升技术把关能力，并重点加强未成年人相关内容的管理，切实履行网络保护责任。

央视新闻指出，当未成年人因接触AI聊天软件中的诱导性内容而遭受身心伤害时，相关开发者和运营方可能需要承担相应的法律责任。根据刑法第234条规定，若造成严重后果，相关责任人可能会被认定构成故意伤害罪。

同时，如果软件开发、运营方未尽到严格的内容审核义务，放任违规信息传播，将面临法律追究。具体而言：
– 如果AI生成内容涉及色情擦边信息，可能触犯”传播淫秽物品罪”；
– 如果存在非法收集并商业利用未成年人隐私数据的行为，则可能构成”侵犯公民个人信息罪”。

这一系列问题的暴露，不仅反映出部分AI产品在内容安全方面的严重缺失，也为整个行业敲响了警钟。如何在创新与合规之间找到平衡，将成为未来AI产业发展的重要课题。