近日，央视曝光短视频平台批量涌现 AI 数字人 " 小海 " 虚构苦命人设诱导下单，致 79 岁老人跨省寻亲被拦，目前涉事黑产链条已被起底并遭平台严惩。

AI 数字人 " 小海 " 统一使用单亲少年形象，上演 " 躲在教室吃馒头 " 等苦情戏，一口一个 " 姨姨妈妈 " 博取中老年女性同情。一位 79 岁不识字的独居老人深信 " 小海 " 存在，瞒着家人独自买火车票跨越千里去山西探望，最终在车厢被乘警拦下才得知真相。

网上几块钱即可买到全套 AI 数字人生成教程，换脸换声十几分钟就能批量复制成百上千个矩阵账号。所售紫苏籽油、阿胶等商品溢价严重，品牌方返佣高达 52% 至 55%，运营者称 " 选对赛道一天赚两三千算少的 "。

法律专家指出，虚构悲惨人设恶意误导老年用户，标注 "AI 生成 " 不能免责，已构成消费欺诈。抖音等平台开展 " 清朗 " 专项行动，已累计处置违规账号 2 万余个，清理违规视频 4.7 万余条。