网信办整治AI技术滥用 整治AI假冒明星等欺骗网民问题
专项行动概述
中央网信办近日印发通知，决定在全国范围内开展为期三个月的“清朗·整治AI技术滥用”专项行动，旨在规范AI服务和应用，促进行业健康有序发展，同时保障公民合法权益。
专项行动阶段划分
此次专项行动分为两个阶段进行。
第一阶段
第一阶段主要聚焦于强化AI技术的源头治理。具体措施包括：
- 清理整治违规AI应用程序。
- 加强AI生成合成技术和内容标识管理。
- 推动网站平台提升检测鉴伪能力。
第二阶段
第二阶段则集中整治利用AI技术制作发布谣言、不实信息、色情低俗内容，以及假冒他人、从事网络水军活动等突出问题，采取措施包括：
- 集中清理相关违法不良信息。
- 处置处罚违规账号、MCN机构和网站平台。
重点整治问题
第一阶段重点整治的六类突出问题
包括:
- 违规AI产品，如未履行大模型备案或登记程序的产品，提供违背法律、伦理功能的产品，以及未经授权克隆、编辑他人生物特征信息的产品。
- 传授、售卖违规AI产品教程和商品。
- 训练语料管理不严，使用侵权或虚假内容。
- 安全管理措施薄弱，未建立内容审核和违规账号管理机制。
- 未落实内容标识要求，未对深度合成内容添加标识。
- 重点领域安全风险，如“AI开处方”“诱导投资”等问题。
第二阶段重点整治的七类突出问题
包括:
- 利用AI制作发布谣言。
- 制作发布不实信息。
- 制作发布色情低俗内容。
- 假冒他人实施侵权违法行为。
- 从事网络水军活动。
- AI产品服务和应用程序违规。
- 侵害未成年人权益。
职责与要求
中央网信办有关负责人强调，各地网信部门要充分认识到专项行动对于防范AI技术滥用风险、维护网民合法权益的重要意义，切实履行属地管理责任，督导网站平台对照专项行动要求，健全AI生成合成内容审核机制，提升技术检测能力，并做好整改落实。
同时，要加强人工智能相关政策的宣传推广和人工智能素养的科普教育，引导各方正确认识和应用人工智能技术，凝聚治理共识。
