中国官方整顿社群平台人工智能(AI)使用,要求明确标记AI生成内容,公开点名剪映(CapCut)、猫箱等APP与「即梦AI」网站未落实要求,依法约谈网络平台业者、责令整改、警告,并将从严处理。
中央社报导,中国国家互联网信息办公室表示,网信部门工作发现剪映、猫箱等APP与即梦AI网站未有效落实AI生成、合成内容标记规定,违反「网络安全法」、「生成式人工智能服务管理暂行办法」、「人工智能生成合成内容标识办法」等规定。
网信办指出,依法约谈网络平台业者,采取责令改正、警告、从严处理负责人等处罚措施。网络平台要严守法律底线、红线,落实相关规定。政府部门将持续强化对于AI生成、合成内容标记的监督管理。
剪映为一款短影音编辑工具、猫箱为AI交互娱乐应用程序、即梦AI为一站式AI创作平台,均由字节跳动旗下公司开发。
第一财经评论指出,政府部门公开点名数款APP与网站,这是AI生成、合成内容必须标记的规定落实以来,监管部门对于违规企业首次进行公开点名与执法处罚。
评论认为,这波监管动作传递出充分的政策原则消息,显示目前官方对于AI生成、合成内容必须加以标记不是空话一句,而是必须严守的法律底线、红线,对于推动行业健康有序发展和保护用户利益具备意义。
评论提到,AI技术正以前所未有的速度渗透内容创作领域,AI生成、合成内容可能成为虚假消息,深伪泛滥恐扰乱舆论、侵害个人权益,不加以标记的AI创作将冲击原创生态,更深远的影响在于,消息环境的真实性基础将被动摇,公共讨论品质将被侵蚀。
