文 | 杨悦
4月28日，“剪映”“猫箱”App及“即梦AI”网站被曝因存在未有效落实人工智能生成合成内容标识规定要求等问题，被网信部门依法查处。
许多人对生成式AI并不陌生，在提高内容生产效率的同时，也存在以假乱真等风险：有人用AI合成名人带货，有人伪造商品瑕疵申请退款，还有人批量生成“真人测评”误导消费者……《人工智能生成合成内容标识办法》等规定AI生成合成内容须主动标识，就是为了通过标识提醒用户辨别虚假信息，避免AI批量生成的低质量数字内容即“数字泔水”污染网络生态，甚至引发诈骗等不良后果。
此前，网信部门就依法集中查处了一批未能落实“应标尽标”规定的移动互联网应用程序，此次又查处并通报了一批网站平台，其实是在提醒相关方面，“应标尽标”不容“打折”执行，整治AI技术滥用一直在路上。
媒体近日实测发现，去掉“AI生成”标识、未主动标注情况下，在部分平台依然能成功发布AI生成合成内容，平台未能有效识别。此外，还有规避标识工具的存在，暴露出“应标尽标”一些落实卡点。相信随着AI内容治理不断深入，技术检测等防线不断筑牢，“数字泔水”也将不断减少。
万生优配提示：文章来自网络，不代表本站观点。