中央网信办深入开展“清朗·整治AI应用乱象”专项行动第二阶段工作

财联社9月2日讯，据中国网信网消息，近期，中央网信办组织开展“清朗·整治AI应用乱象”专项行动第二阶段工作，聚焦利用AI制作发布虚假信息、传播暴力低俗内容、假冒仿冒他人、侵害未成年人权益等突出问题，部署各地网信部门深入推进重点整治任务，督促网站平台集中清理AI生成各类违法不良信息，依法查处违规账号和移动应用程序，有效遏制AI生成合成信息内容乱象，推动AI应用服务健康有序发展。截至目前，累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。

专项行动开展以来，各地网信部门切实履行属地监管责任，因地制宜推出一系列针对性治理措施。北京网信办指导网站平台全面升级审核策略，持续提升违规内容新型变体识别处置能力。上海网信办督促平台深入开展自查自纠，加大违法违规信息和账号查处力度，推出AI应用“知识普及包”引导公众识别问题风险。浙江网信办对属地重点平台开展“一企一策”问诊进行合规指导，督促完善内控体系，依法查处一批问题突出的AI应用软件。广东网信办召开重点网站平台工作例会，对多款应用违规问题开展点对点督促整改，确保专项行动取得实效。

网站平台积极响应专项行动部署安排，持续健全AI内容常态化治理机制。抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等平台进一步强化技术赋能，优化多模态识别模型，动态扩充人脸库、声纹库和违规样本库，上线人脸实时治理系统等功能措施，提升违规内容智能检测和拦截效率，加大对违规账号、信息处置力度，畅通线索举报渠道，累计发布各类治理公告46期。豆包、元宝、千问、文心一言等平台严把原始语料内容审核关，严格限制违规内容输出，强化AI生成合成内容标识要求落地，从源头防范违法违规信息生成传播。华为、小米、OPPO、vivo等应用商店制定严格的APP开发者准入规范和上架要求，对在架APP进行抽检复测，有效拦截违规应用入库。

专项行动期间，一批违法违规账号和应用受到处理。为进一步加强警示教育，现将部分典型案例通报如下：