热门平台被上海网信办点名 治理AI技术滥用违规信息

6月12日，上海网信办发布了深入开展“清朗·整治AI技术滥用”专项行动第一阶段工作的成果。

据了解，在强化合规，全面清理整治违规AI产品和信息方面。上海市委网信办指导小红书、哔哩哔哩、拼多多等15家重点网站平台，集中清理“一键脱衣”、未经授权的人脸或人声克隆编辑、未备案等违规AI产品、商品及相关营销、炒作、推广、教程信息。

小红书、哔哩哔哩主动发布专项行动治理公告，开通了有害AI内容的举报受理处置渠道：星野开展智能体全面排查清理。

各重点网站和AI平台共拦截清理相关违法违规信息82万余条，处置违规账号1400余个，下线违规智能体2700余个。经整治，网络违规AI信息显著减少。

此外，围绕“制作-传播”环节，通过政策指导、生态协同与技术落地，稀宇科技、阶跃星辰、通义、小红书、哔哩哔哩、Soul等已基本完成显式标识规范上线，加快开发上线隐式标识和传播链互认验证，小红书牵头编制图片模态元数据标识实践指南，上海标识工作取得阶段性成效。