上海网信办重拳整治AI乱象：54款APP下架，3家网站被罚

生成式人工智能技术的迅猛发展，为各行各业带来了便利，但违规滥用问题也随之凸显。AI换脸、AI变声、AI伪造等行为不断侵害个人权益，破坏网络生态，给新技术应用安全带来诸多挑战。

上海市网信办在执法中发现，部分企业在开发使用生成式人工智能功能时，未依法开展安全评估，未采取必要防护措施，也未限制功能被滥用，导致AI技术被用于“换脸变声”“变装造假”等侵犯个人信息的行为，甚至产出“开盒”“洗钱”等违法违规内容以及色情低俗信息。“亮剑浦江·2025”专项执法行动将“整治AI滥用”作为年度重点，以执法促合规，护航新兴产业高质量发展。

专项行动期间，上海市网信办多措并举引导企业合规运营。一是加强日常管理：指导属地应用商店下线了54款违规利用生成式人工智能技术的APP。对照《人工智能生成合成内容标识办法》，组织专家编制实务解析，为企业答疑解惑。二是强化处置处罚：对前期要求下线功能的26家生成式人工智能服务网站进行“回头看”巡查，并首次适用《生成式人工智能服务管理暂行办法》，对3家拒不整改的网站予以立案处罚。三是首违免罚：对5家首次存在未按规定开展安全评估或违规提供“论文代写”功能的网站，督促其下线相关功能并提供备案指导。

通过专项行动，生成式人工智能领域的法治观念和合规意识显著提升，“AI滥用”问题得到改善。下一步，上海市网信办将持续巩固成果，重点打击“AI滥用”“算法推荐”等侵犯个人信息权益、危害网络生态的违法行为，促进新技术新应用在法治轨道上健康发展。