通信世界网消息(CWW)为规范 AI 服务和应用,促进行业健康有序发展,根据中央网信办统一部署,日前,上海网信部门宣布开展为期 4 个月的“清朗 · 整治 AI 应用乱象”专项行动。
据悉,本次专项行动将分为两个阶段开展。
第一阶段为“清朗 ·AI 应用服务典型违规问题”专项治理行动,重点整治未按规定履行大模型备案登记义务、安全审核能力不足、大模型训练语料安全、AI 数据投毒、生成合成内容标识落实不到位等问题,强化 AI 技术源头治理。
第二阶段为“清朗 · 整治 AI 信息内容乱象”专项行动,聚焦利用 AI 技术生成“数字泔水”、制作发布虚假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人权益、从事网络水军活动等问题,坚决清理违法不良信息,依法处置处罚违规账号、MCN 机构和网站平台。


