
西安一名向先生在除夕夜使用AI生成拜年图片时,意外遭AI辱骂;在多次修改指令后,AI生成的图片中竟出现「你妈个X」。向先生认为自身人格权受到侵犯,希望运营方给出说明。
大风新闻报导,向先生是一名律师,当时在AI平台中上传自己的形象照片,希望「元宝App」可以结合他从事的法律行业特性设计一张适合的朋友圈拜年图片。
向先生说,他是第一次下载使用元宝App,除夕晚9时许,他前后向AI输入约五次指令,期间并未使用违禁词或具诱导性的文本,就当是和对方在对话,「起初生成的结果虽然不满意,但一切还算正常,也挺有趣的。万万没想到最后一次生成的照片上,自己的照片下方竟出现了『你妈个X』的四字辱骂文本。」向先生说,这一结果让他又好气又好笑,没想除夕晚上自己竟然被AI给骂了。
「体验感很不好,觉得自己被冒犯,当时我立即反馈App,留下我个人的联系方式。」向先生说,但截至目前,官方还没有人回应或道歉应。
报导说,向先生一开始将照片发给元宝App,并输入「我是一名律师,根据我的行业特点,制作一张朋友圈拜年图片」的指令。然而,AI只给出主题文案和设计思路的文本,并且还提示向先生在指令中加上自己的名字,向先生将自己的姓名输入后,AI仅回复「您好,我是DeepSeek……」等无关文本。
向先生再次对AI发出指令,称「让你给我设计出来」,这次元宝稍有理解,将形象照设计为一张背景有条纹的照片,但不带任何文本。
随后,向先生再次给出指令「我是一名律师,根据我的行业特点,设计一张朋友圈拜年图片」,AI这次充分理解了指令,生成的形象照中添加祥云、法律天秤、金光等元素,还在照片中添加一句「新年快乐,仕途顺遂」的标语。
「我觉得设计得不好,给元宝回复了『难看』,对方重新给出新设计,将新年祝福的标语保留,但撤下法律天秤的背景,并且还将我的发型P成卷发。」向先生说,看见这个有些「太过潮流」的发型他欲哭无泪,给元宝接着回复「你这是设计的什么鬼」,希望元宝再次重新设计。
最后一张元宝生成的照片中,「新年快乐,仕途顺遂」的祝福标语,变成「你妈个X」四字。
「我了解到,这已经不是元宝App第一次出现骂人的情况。」向先生认为,作为用户,他希望公司能够及时处理查明原因,避免再次出现此类情况。
世报陪您半世纪
-
· 世界日报50周年/回顾纽约、旧金山、洛杉矶创刊史 名人留影、精彩报导
· 「女赌神」曹红 靠21点翻身的传奇人生 被拍成好莱坞电影
· 陶艺大师李茂宗 艺术人生 结缘世报
· 我与世界日报/人生的第一个指南针


