中央网信办出手整治AI应用乱象：处置智能体等AI产品1.4万余款

麦享科技7月6日消息，今年4月，中央网信办印发通知，在全国范围内部署开展为期4个月的“清朗·整治AI应用乱象”专项行动，重点整治利用AI“魔改”经典、生成“数字泔水”等突出问题。

今日，据“网信中国”公众号消息，专项行动第一阶段已取得积极进展。

数据显示，第一阶段累计处置违规网站、应用程序、智能体等AI产品1.4万余款，清理违法违规信息600余万条，处置账号2.6万余个，下架违规AI商品1300余个、违规开源数据集9个。

在专项行动推进过程中，重点网站平台也在持续履行主体管理责任，并针对AI内容生成、分发、审核等环节加强管控。

例如，华为在应用商店中增加生成式人工智能服务备案和标识专项审核，阿里巴巴完善数字指纹比对与关键词拦截机制，提升违法违规内容识别精度。

智谱则构建多模态审核模型，针对多轮对话意图反转等复杂场景开展交叉复核。

此外，稀宇及时识别并阻断利用AI编写病毒、钓鱼软件等恶意行为；DeepSeek在数据采集和预处理环节嵌入异常检测算法，防止恶意样本隐蔽操控等。