6月22日，央视新闻报道了一起引发广泛关注的网络谣言事件。这则消息揭露了近年来频发的AI造假现象。据报道，公安部网安局通报了一起典型案例：一名犯罪嫌疑人利用AI技术生成并传播多条耸人听闻的消息，其中就包括“华山医院前院长张明远因阑尾炎未得到及时救治而在医院走廊去世”的虚假内容。
上海市公安局静安分局网安支队民警介绍，经过调查发现，华山医院从未有过名为‘张明远’的前院长或在职员工。更令人警惕的是，发布这些谣言的账号并非由注册者本人使用。实际上，账号注册者是通过兼职方式完成注册后，将账号转交给了他人。
警方进一步调查发现，这些不实信息的实际发布者是一家自媒体工作室。该工作室的经营者为王某某、郭某某和石某某三人。他们控制了约500个自媒体账号，每天通过AI技术快速生成大量热点话题文章，在未经核实的情况下发布于各自媒体平台上。据统计，这伙人累计发布了大约10余万条虚假信息，对社会造成了恶劣影响。
根据警方通报，目前王某某、郭某某、石某某三人因涉嫌非法利用信息网络罪，已被上海静安警方依法采取刑事强制措施。同时，相关违法账号也已全部被封禁，案件正在进一步侦办中。
央视网指出，随着AI深度合成技术的快速发展，利用AI造假的现象日益猖獗。除了伪造新闻之外，还出现了不少不法商家利用AI技术制作名人带货广告或视频来推销商品的情况。针对这一问题，国家网信办正在开展专项打击行动。截至6月20日，专项行动第一阶段已累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个，取得了显著成效。
相关文章
