6月19日，”网信上海”微信公众号发布消息称，近期有报道称筑梦岛App等AI聊天软件存在虚拟角色互动生成低俗内容等问题。经调查核实，该平台AI智能体内容生成环节确有涉及低俗擦边的违规内容，对未成年人身心健康造成潜在危害。
6月19日上午，上海市网信办依法约谈了筑梦岛App运营企业的主要负责人。针对发现的问题，监管部门要求平台立即进行整改，完善AI生成合成内容的审核机制，提升技术把关能力，切实加强涉未成年人不良内容的清理整治工作，并严格落实未成年人网络保护义务。
面对监管部门的要求，企业负责人当即表示将严格按照约谈提出的问题进行全面整改，举一反三，确保类似问题不再发生。
上海市网信办相关负责人强调指出，AI技术的规范发展直接关系到广大网民的切身利益。根据《未成年人网络保护条例》和《生成式人工智能服务管理暂行办法》等法规要求，互联网平台必须主动履行主体责任，在推动技术创新的同时加强内容合规管理，防范AI技术被滥用的风险，切实维护未成年人合法权益，为广大网民营造一个清朗健康的网络环境。
据悉，根据国家网信办的统一部署，上海正在深入开展’清朗·整治AI技术滥用’专项行动，目前该行动已进入第二阶段。上海市网信办重点打击利用AI技术制作传播谣言、不实信息、色情低俗内容、假冒仿冒他人以及从事网络水军活动等违法行为，督促指导相关网站平台和App运营企业全面清理违法不良信息，严肃处置违规账号及MCN机构。对于屡教不改或问题严重的违法违规企业，上海市网信办将依法予以严厉处罚，并对典型案例通过媒体曝光。同时欢迎广大网民积极参与监督，可通过指定渠道举报线索，共同维护清朗的网络空间。
据了解，筑梦岛是由知名网文平台阅文集团旗下的潇湘书院孵化的AI虚拟互动娱乐平台。该平台主要面向女性用户提供沉浸式陪伴体验服务，用户可以通过创建个性化虚拟角色进行多模态互动。
相关文章
