
中老年女性因「AI霸总」受骗,年轻人找上知名、高端婚恋机构寻觅良缘,却落得人财两空的案例也屡见不鲜。对这些受害人来说,「AI霸总」、「学霸」是谁和是否掉进陷阱似乎已不重要,在那个瞬间,他们愿意付出所有,只为「买一个陪伴」。
「有个上市公司老总手捧鲜花,说这辈子没啥遗憾,就等我,问我愿不愿意跟他走」,「姐姐,年龄算啥,以后我宠你」……,在短视频平台上,无数个这样喊着姐姐的「AI霸总」对着镜头说着情话,而画面底部有一行不起眼的小字:作品含AI生成。这类「AI霸总」实质上就是数字人,瞄准老年群体,背后藏着带货、诈骗等多重陷阱,这一段段看似深情款款的视频,正围猎中老年女性,让全国人大代表也急了,在近日的「两会」上疾呼严打。
奶奶要去外地「奔现」
翁瑶的妈妈今年68岁,20多年前离异,平日消遣爱刷短视频,去年11月起频繁提及有富商想跟她在一起,翁瑶接过手机才得知,妈妈的短视频帐号已被「AI霸总」攻陷。姜小星的奶奶则关注了三、四十位画风雷同的帅气「AI霸总」,当手机屏幕里传出一句句「姐姐,心里很舍不得妳」等的「情话」,总让奶奶无法招架。
据中国新闻周刊报导,老年人对「AI霸总」的痴迷程度不止停留在「养眼」。这类视频中,「AI霸总」往往会释放出求偶信号,「共度余生」、「找个疼你的人」等常见话术。视频的评论区则汇集了大量老年人回应「好啊,等你来找我」。
「我们觉得『一眼假』的东西,奶奶是真的分不清」,姜小星说,尽管已向奶奶多次解释视频的公共属性,但每当奶奶刷到「AI霸总」视频,她还是会认为那些话术是「AI霸总」向自己释放的专属爱意。一个月前,奶奶还提到要去外地与一位「AI霸总」「奔现」,被家人及时劝止。
北京红飒律师事务所主任律师黄启瑞今年年初也接触过有关「AI霸总」的咨询案例。咨询人的母亲从去年10月起开始接触「AI霸总」视频,后来与一位「AI霸总」私信交谈甚久,进而被推销保健品。黄启瑞指出,这类视频给中老年女性提供情绪价值,然后激发这一群体非理性消费或投资行为,进而实现骗财、敛财。
建专属粉丝群带货
部分「AI霸总」帐号会创建专属粉丝群,每天分享直播链接。比如一个名为「建国情感」的「AI霸总」直播间,打着「AI霸总给你送礼物」的名义,推销一款售价为59.9元(人民币,下同)的「武财神招财令挂件」,销量达3.9万件。还有「AI霸总」在商品销售页面演苦情戏「如果不是我开公司,想接你回家过好日子」,页面上是一个售价99元的女士手镯销售页面。
这类以带货为目的的「AI霸总」视频,通常由商家外包给专业视频制作团队生产。某电商平台视频制作团队成员表示,团队专业接商单,包括与跨境电商合作,其团队对接的商家最少会要求做30到50个视频,量大的会合作几百个;报价方面,一分钟以内的视频,代做一个50元;代做50个,每个视频40元;代做100个视频则单价降到30元。
报导调查还发现,不少「AI霸总」背后由婚恋机构运作,给「AI霸总」点了关注后,私信即刻弹出对方发来的链接卡,声称「点击即可获得哥哥的联系方式」,但必须先花980元办会员。
记者用生成式AI创作平台先后制作了三个10秒的「AI霸总」视频,六小时即生成,发布不到18小时收获了500多位粉丝,浏览量达1.2万,还收到中老年女性的大量评论、私信,有的透露了生日、年龄等信息。而记者发布的「AI霸总」视频,其中「缓缓掏出钻戒」的精细指令,生成的「AI霸总」却仅拿起了钻石,但这一不合常理之处没人发现。
「眼见为实」反上当
快思慢想研究院院长田丰分析中老年人容易「中招」的原因,一方面,中老年人作为AI时代下的「弱势群体」,更容易相信「眼见为实」;另一方面,2023年起,AI数字人在短视频赛道被大量运用,当其被滥用于黑灰产,在评论区不断有人造势的情况下,老年人出于从众心理更容易上当受骗。
黄启瑞指出,因相信「AI霸总」视频遭遇财产损害,维权困难的原因在于,当前生成式AI的技术门槛较低,一旦被骗,受害者因缺乏取证技术及工具,难以独立完成证据收集,证据链无法形成闭环。这种情况下,如果委托律师维权,又要承受高昂的维权成本。
检索短视频平台发现,当前大多数「AI霸总」视频都标有「内容由AI生成」一行小字,难以对用户起到显著提示作用,仍有少量视频缺乏标识。
黄启瑞认为,短视频平台应加强对视频内容的监测过滤。田丰建议,AI视频生成模型应创建负样本库,「希望这类模型去预训练一些负面样本,使模型能第一时间识别诈骗、黑灰产等用途的不良素材和指令,直接从源头上阻止不良视频的生成」。









世报陪您半世纪
-
·读报48年不间断/王鼎钧开门八件事 有一份世界日报
·陶艺大师李茂宗 艺术人生 结缘世报
·投书/日引月长的世界日报
· 世报50周年/回顾纽约、旧金山、洛杉矶创刊史 名人留影、精彩报导


