近期，中央网信办发起了 “清朗・整治 AI 技术滥用” 专项行动，自2025年4月以来，针对 AI 技术的滥用现象进行了一系列整治工作。该行动重点关注了 AI 换脸、拟声等技术对公众权益的侵犯，以及缺乏内容标识导致的公众误导等问题。经过第一阶段的努力，各地网信部门联合发力，成果显著。
图源备注：图片由AI生成，图片授权服务商Midjourney
在整治过程中，累计处置了3500余款违规小程序、应用程序和智能体，清理了超过96万条违法违规信息，并对3700多个违规账号进行了处理。这一系列措施旨在切断违规产品的营销引流渠道，促使各大网站平台加强技术安全保障，并加快生成合成内容标识的落地。
各地网信办采取了多种措施积极推进整治工作。例如，北京网信办开设了举报渠道，形成了 “用户标记 — 平台核查 — 联合处置” 的工作模式，成功处理了26个举报案例。上海网信办则组织了法规宣贯活动，覆盖了400余家企业，确保显式标识规范的上线。浙江网信办针对 AI 应用和网站平台加强了督导，累计拦截和清理了超过2550万条违法信息。
各大平台也在积极履行责任，腾讯公司规范了应用程序管理，优化了巡查机制，处置了570余款违规产品。微博通过多种审核渠道，清理了4800余条违规内容。抖音建立了 “红蓝对抗” 机制，修复了潜在安全漏洞，提升了对虚假信息的识别能力。
划重点:
🌐 “清朗・整治 AI 技术滥用” 专项行动自2025年4月启动，处理3700多个违规账号。
📊 第一阶段整治中共处置3500余款违规 AI 产品，清理超96万条违法信息。
🔍 各地网信办积极采取措施，推动显式标识规范及平台责任落实，确保网络安全。
