中央网信办"清朗·整治AI应用乱象"第二阶段：清理违法信息561万条查处账号4.9万个，七大类违规曝光

2026年9月2日，中央网信办深入开展"清朗·整治AI应用乱象"专项行动第二阶段工作，聚焦利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题。部署各地网信部门深入推进重点整治任务，督促网站平台集中清理AI生成各类违法不良信息，依法查处违规账号和移动应用程序。截至目前，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。

各地网信部门因地制宜推出针对性治理措施。北京网信办指导平台全面升级审核策略，提升违规内容新型变体识别处置能力；上海网信办推出AI应用"知识普及包"引导公众识别风险；浙江网信办对属地重点平台"一企一策"问诊进行合规指导；广东网信办对多款应用违规问题开展点对点督促整改。网站平台积极响应——抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等平台进一步强化技术赋能，优化多模态识别模型，动态扩充人脸库、声纹库和违规样本库，上线人脸实时治理系统等功能措施。豆包、元宝、千问、文心一言等平台严把原始语料内容审核关，强化AI生成合成内容标识要求。华为、小米、OPPO、vivo等应用商店制定严格的APP开发者准入规范。

中央网信办通报了七大类典型案例：一是AI"魔改"经典——滥用AI技术篡改《三国演义》《西游记》等名著，颠覆人物人设博取流量；二是AI制作虚假不实信息——生成虚假灾害现场、编造社会热点、打造AI数字人虚假宣传带货误导老年人；三是AI假冒仿冒他人——利用"换脸""换声"假冒公众人物，生成低俗内容借机牟利；四是制作发布暴力低俗信息——批量发布AI生成的恐怖诡异、暴力低俗画面；五是AI侵害未成年人权益——发布未成年人怀孕、打架等不符年龄内容，制作"毒动画""邪典"视频；六是利用AI"托管"从事网络水军活动——模拟真人运营账号、评论互动，生成大量低质同质文案；七是AI产品服务和应用程序违规——智能体封面、简介和对话含淫秽色情信息，对拒不改正的依法警告、罚款、下架或关闭。此次专项行动标志着中国AI内容治理从"政策制定"进入"大规模执法"阶段——561万条违法信息和4.9万个账号的处置规模表明，AI生成内容的监管已不再是口号而是实际行动。