儿童性剥削AI生成视频泛滥 网络空间监管面临挑战

近日，《纽约时报》发布了一篇引人关注的博文，披露了一个令人不安的趋势：互联网上正在快速蔓延由人工智能生成的儿童性剥削材料（CSAM）。这一问题已经引起业内机构的高度警觉。

根据互联网观察基金会（IWF）和美国失踪与被剥削儿童国家中心的研究人员警告，这种利用AI技术生成的新型儿童性剥削内容，其逼真程度已经达到难以分辨的地步。这一技术门槛的降低，使得犯罪分子更容易逃避法律制裁。

从数据来看，这一问题呈现爆发式增长态势。仅在2025年上半年，研究人员就发现多达1286个AI生成的视频内容，较2024年同期增长了数百倍。这些高质量的视频内容不仅画面清晰，而且细节逼真，使得辨别难度大幅增加。

更令人担忧的是，这一趋势已得到多个权威机构的证实。美国失踪与被剥削儿童国家中心报告指出，仅今年上半年就收到了48.5万份关于AI生成CSAM的举报，而2024年全年也只有6.7万份。

互联网观察基金会临时首席执行官德里克·雷-希尔警告称：”这是一个强烈的警示信号。我们正面临一场真正的技术挑战。”随着AI技术的不断进步，这些非法内容的质量和数量都将持续攀升。

当前，这些违法内容主要通过暗网进行传播，这给执法机构带来了巨大的追查难度。需要特别指出的是，AI图像生成器的工作原理决定了其对真实素材的高度依赖性。

《纽约时报》的调查还发现，大量新出现的AI生成内容都是基于真实存在的儿童性剥削材料训练而成。更令人不寒而栗的是，其中一些材料甚至直接使用了从学校网站和社交媒体上非法获取的真实照片。