抖音下架3万个「AI霸总」还要整治AI换脸盗声、魔改经典不当内容

中国短影音平台「抖音」23日发布人工智能生成内容治理公告，称把「AI霸总误导中老年人」列为重点整治对象，下架相关不当内容3.1万条、处罚帐号1317个，同步清理AI侵权视频逾53.8万则。

「抖音黑板报」指，该平台重点处置几类AI生成不当内容及侵权场景，如利用AI技术换脸、盗声等违规行为，且为防范AI盗用名人肖像等侵权行为，平台正持续创建完善典型案例样本库，结合大模型识别、技术巡检与举报资讯，对样本库内权利人相关的AI侵权内容进行及时干预和处置。

例外，该平台也将处置通过AI「魔改」传统文艺作品经典，传播不良内容，血腥暴力、色情低俗等违规内容，并对违规帐号采取梯度处罚措施。「对涉嫌违法的行为，平台也将及时上报有关部门，配合开展执法」。

抖音指，已累计下架AI仿冒蹭热影片逾36万则，处置AI肖像、AI声音类侵权内容8.5万则，并对部分严重违规的帐号予以禁止投稿、封禁帐号权限等梯度处罚，维护清朗抖音社区生态。

港媒综合报导，「AI霸总」是该平台近期高发违规类型，如用AI换脸、合成语音，批量制造「成熟多金、深情儒雅」的虚拟男性形象。在影片里以西装革履、豪宅豪车形象，还单膝跪地求婚、承诺送房送车，即使标注「AI生成」，不少年长者仍信以为真，在评论区留电话等联系方式。

中媒近期也曝光不少案例，如70岁妇人被AI霸总诱导「点橱窗帮衬生意」，最后高价囤积保健品、日用品；八旬老太太付费「学电商」，轻信「总裁恋人」话术，花2000元人民币买所谓「致富课程」，实则毫无价值。报导指，这类内容利用年长者情感孤独、数字辨别力弱的弱点，以「黄昏恋」、「真情陪伴」为诱饵，实则是流量变现、带货诈骗的产业链。