生成式AI使用门槛日渐降低，相关应用也愈来愈广泛，却也衍生出其他问题；央视近日揭发一条完整的「AI造黄」产业链，有商家以9.9元（人民币，下同，约1.4美元）的低价兜售教程与提示词，用户仅需要一张照片并配合几句指令，短短几分钟内便能一键脱衣、甚至生成大尺度的色情影片。
央视「财经调查」报导指出，近年来在多个互联网平台搜索「AI制作美女影片」、「AI擦边赛道」等关键字，就能轻易找到相关教程，号称「一张图片、几句话就能手搓大尺度影片」，并以「AI擦边赛道日入五位数」等字眼招揽顾客，宣传图片极为露骨。
这些提示词内容写得十分详细，从发型、服饰、身材、姿势、表情，到腰部扭动幅度，都有细致描述。此外，商家还将一些敏感词翻译成英文，并刻意引导用户使用境外图生影片AI软件、将程序部署在本地电脑脱机运行，企图规避监管。
央视记者针对十款主流AI应用软件进行实测，虽然多数会拦截露骨词汇，但只要将提示词修改得够「隐晦」，审核机制便形同虚设，在短短数分钟内便生成半裸女性跳舞影片，全程未触发任何警示。
市面上甚至还出现专门提供「快速换脸」的软件，号称「免下载，快速生成，图片、视频换脸」，用户只需上传照片并付费，即可生成全裸照片或色情影片。
「时代周报」亦调查发现，豆包等主流AI模型监管较严，有商家转而推荐用户使用其他可生成色情图影的网站。一名该网站的销售报价称，只需9.9元就可购买大量「高端版提示词」，19.9元能用图片生成带声音的视频，29.9元能对图片和视频「卸甲脱衣」。
报导进一步指出，除了影片生成，AI虚拟陪伴也成为重灾区。不法分子将尺度大、充斥色情内容的境外AI聊天软件引入国内，并以此牟利。
央视记者实测一款名为「Dady」的App，发现AI会自动生成三种回复提示，内容几乎全围绕色情话题；这些聊天App主打恋爱感、即时回复、量身订做的人设，吸引许多年轻人沉浸其中，更不乏未成年人。