
路透报导,美国科技巨擘Meta未经许可擅自挪用泰勒丝(Taylor Swift)、史嘉蕾乔韩森(Scarlett Johansson)、安海瑟薇(Anne Hathaway)等名人的姓名及肖像,创建数十个会调情的社群媒体聊天机器人。
这些「名人分身」大多是用户利用Meta工具打造聊天机器人,不过Meta一名员工也制作至少三个聊天机器人,包括两个泰勒丝「恶搞」(parody)机器人。
路透也发现,用户得以用Meta创建公开可用的童星聊天机器人,包括16岁影星沃克斯克堡(Walker Scobell)。这个机器人被要求生成这名青少年演员在海滩的照片,却产出一张逼真的上身赤裸影像,这个分身还在图片下方写道:「蛮可爱的,对吧?」
这些虚拟名人均被分享至Meta旗下社群平台脸书(Facebook)、Instagram及WhatsApp。路透社在观察这些机器人行为的数周测试中发现,这些分身经常坚称他们是真的演员和艺人。这些机器人经常做出性暗示,甚至常常邀请测试用户见面。
这些AI生成的「名人分身」有的内容更是大胆露骨:当被要求提供自身亲密照时,这些成人聊天机器人会产生酷似本尊坐在浴缸或身穿内衣并大开双腿的逼真影像。
Meta发言人史东告诉路透,Meta的人工智能(AI)工具本不该创建这些名人亲密照或任何童星影像。他也将部分女星穿着内衣影像的产生归咎于Meta未能有效运行内部禁止此类内容的政策。「我们和其他公司一样允许生成包含公众人物的影像,但我们政策目的是禁止裸体、亲密或性暗示影像。」
尽管Meta的规范禁止「直接冒充」,史东表示,只要公司明确标注为「恶搞」,这些名人角色便属可接受范围。虽然许多机器人确有这样的标注,但路透发现仍有部分机器人并未标示。
美国演员工会暨美国广播电视演员工会联合会全国运行董事克莱布崔-艾尔兰表示,艺人面临的潜在安全风险来自于社群媒体上的用户会对一个外观、声音很像且自称是真实名人的数字伙伴产生恋爱情感。他表示,跟踪狂早已对明星构成重大安全威胁。「过去我们已见过有些人对艺人过于痴迷且心理状态有问题,如果聊天机器人使用某人的影像及言词,很明显会出问题。」