人工智能生成的儿童虐待材料激增，挑战技术监管

生成式人工智能正在助长网络儿童性虐待材料（CSAM）的激增。英国互联网观察基金会（IWF）报告称，自2023年秋季以来，AI篡改的CSAM增加了17%。使用真实受害者的图像制作的深度伪造内容泛滥成灾。一个论坛在30天内分享了3,512张露骨的图片和视频，其中大部分是年轻女孩。犯罪者分享建议并使用真实图像训练AI模型。

IWF首席执行官苏西·哈格里夫斯警告说：“如果没有适当的控制措施，生成式AI工具为网络捕食者提供了一个游乐场。”这项技术正在迅速发展，创造出更加逼真的合成视频。在一个暗网论坛上的12,000张AI生成的图像中，90%的真实程度足以被评估为真实的CSAM。

苹果公司面临指控，称其未充分报告通过其产品分享的CSAM。全国防止虐待儿童协会（NSPCC）声称，苹果公司在2022年4月至2023年3月期间在英格兰和威尔士涉及337起犯罪，而仅向全国失踪与受虐儿童中心（NCMEC）报告了全球267起案件。

谷歌在2023年向NCMEC报告了超过147万起CSAM案件。Facebook在今年1月至3月期间删除了1440万条儿童性剥削内容。尽管做出了这些努力，但随着生成式AI的滥用，打击网络儿童剥削的斗争正在加剧。