AI生成还是真人？ 欧盟新规强制「贴标签」辨真假

欧盟「人工智能法案」新规2日上路，企业须开始对聊天机器人、深伪技术及AI生成内容等，加上标记与数字浮水印等标签，被视为AI的「cookie横幅时刻」重演，网络将如同先前不断冒出cookie通知一样，涌现大量AI通知，目的虽是提高透明度、预防假消息，但业界担心过度标记反而变成一种疲劳轰炸。

从网络零售商到旅游业者、广告代理商等欧洲企业，正竞相为聊天机器人、深伪技术及AI生成的行销素材加上标签，以符合欧盟推出的首批针对消费者的AI法规。新规要求企业在客户与AI系统交互时必须充分告知，并在由AI生成的图像、音频和视频上予以标示，未遵守者将被处罚款。

Cooley律师事务所的律师梵‧埃克形容，这将是AI的「cookie横幅时刻」。他指的是在欧洲隐私体制下无所不在的cookie通知。他说，目前为止，AI法案在很大程度上依然相当抽象，不过可以确定的是大家都将开始看到标签，告知某些内容是由AI生成的。

欧盟其实也是借此测试，看看能否在不减缓技术采用速度的情况下，让AI对消费者更加透明。欧盟执委会主席范德赖恩希望当地企业更迅速地采用AI，以免在全球AI竞赛中落后美国和中国。布鲁塞尔已公布AI超级工厂计划、增加对算力的投资，并承诺减少官僚流程以提升竞争力，并降低欧洲对美国科技供应商的依赖。

然而，许多公司认为，当局要求企业加快部署AI，却又得遵守仍难以解读的新规则，实在非常为难，因为执委会在新规开始适用前几周才公布指引，让企业几乎没有时间调整。德国电商Zalando表示，执委会的指引增添「另一层不必要的监管」，「新的指引并未带来我们所期待的清晰度」。

此外，执委会的指引也可能引发「运行碎片化」的风险，因为不同的企业可能会对规则有不同的解读。

零售游说团体欧洲商业（Eurocommerce）也警告，无差别加标签的方式可能产生不合比例的法遵成本，同时也让消费者感到困惑。加上标签的目的原本是让消费者与AI生成的素材交互时，能提高警觉。但欧洲电脑暨通信产业协会（CCIA Europe）警告，该指引对「深伪」技术的定义过于广泛，导致几乎任何AI生成的内容都需要加上标签，「如果每张图片和内容都一视同仁地对待，那加标签就一点意义也没有了」。

不过执委会官员指出，业者对于「即使通过AI进行小幅修改也需过度标记」的想法是误解，并指出这是与产业界咨商后推出的新规，已更符合比例原则。

对部分公司而言，新规不过将是其已采用的措施正式化，例如在线西洋棋平台Chess.com首席执行官阿莱贝斯特指出，该公司深知，让用户明确知道对手是真人或机器人，至关重要。该平台上个月有超过2.5亿场人类与机器人的对弈。

这些提高透明度的规则，仅是欧盟AI法案的一部分。该法案已于2024年8月生效，但并未一次同时上路。欧盟执委会2日也获得新权力，得以审查具有「系统性风险」的通用AI模型。一旦违规，科技公司最高恐被处以上一年度全球总营业额3%或1,500万欧元的罚款。

然而，在科技业及部分欧盟国家的压力下，执委会已将所谓「高风险系统」的法规要求延后至2027年12月上路。对此，一位律师指出，「问题不在于这项法案有多繁重，而在于它难以预测且不断变动。企业非常不喜欢这点」。