(由多段落组成):

近期,央视《焦点访谈》栏目深度曝光一起利用AI技术实施情感诱导营销的新型网络黑产事件——以“小海”为统一人设的AI数字人矩阵,在抖音、快手等主流短视频平台大规模泛滥。这些账号并非真人运营,而是通过低成本AI工具批量生成的虚拟形象,专攻中老年女性用户群体,以极具煽动性的“悲情叙事”制造信任假象,诱导非理性消费。

所谓“小海”,并非真实存在的少年,而是一套高度模板化的AI数字人IP:清瘦单亲少年外形、破旧校服、课桌前啃冷馒头、眼含泪光喊“姨姨”“妈妈”……视频脚本精心设计“孤儿求学”“带病养母”“雨夜送报”等强共情桥段,配合AI合成的稚嫩童声与微表情,精准击中银发群体的情感软肋。数据显示,超六成相关视频发布于早7点至晚9点之间,正是中老年人刷短视频的高峰时段。

事件升级引发社会广泛关注:一位79岁的农村独居老人,因长期观看“小海”系列视频深信其真实存在,竟在不识字、未告知子女的情况下,独自购票乘火车从广西奔赴山西“寻亲”。所幸列车乘警及时发现异常并劝阻,经多方核实才揭穿“小海”实为AI生成的虚假身份。该案例并非孤例,多地已出现类似误信、误购、误访甚至轻信“认亲返利”而转账受骗的情况。

技术门槛之低令人震惊:当前网络黑市仅需3–8元即可购得“AI数字人全自动起号教程”,涵盖人脸克隆、语音复刻、口型同步、批量注册及矩阵养号全套方案。一名被端掉的灰产工作室供述,其团队日均量产300+个“小海”分身账号,24小时轮播不同苦情剧本,实现“千人千面、万号同悲”的规模化收割。所售商品多为紫苏籽油、阿胶糕、钙片等“健康快消品”,进价不足20元/盒,终端售价高达128–298元,品牌方返佣比例竟达52%–55%,运营者自曝“选对‘孝心赛道’,日入两三千只是起步”。

法律层面已有明确定性:多位民商事及消费者权益保护领域专家指出,即便视频角落标注“AI生成”字样,只要虚构人物背景、编造苦难经历、刻意营造真实人际信任关系,并以此驱动交易行为,即构成《消费者权益保护法》第20条所指的“虚假或引人误解的宣传”,涉嫌消费欺诈;若涉及冒用未成年人身份、伪造公益属性,还可能触犯《刑法》第266条诈骗罪。平台责任亦不可推诿——未对高风险人设账号实施有效识别、未对老年用户设置情感诱导类防沉迷提示、未落实“显著标识+前置风险告知”双机制,均属审核失职。

面对严峻形势,抖音、快手、视频号等平台已全面启动“清朗·银龄守护”专项治理行动:上线AI强制分级标签系统,对疑似情感操控类账号实施“三审一溯”(初筛+人工复核+模型回检+源头追溯),并联合国家网信办建立“老年用户安全白名单”机制。截至发稿,全网累计封禁违规AI营销账号2.17万个,下架诱导性短视频4.73万条,约谈涉事MCN机构19家,推动3家上游AI工具服务商完成合规整改。行业呼吁:技术向善不能止于“打补丁”,更需构建“算法伦理前置审查+适老化风控+银发数字素养提升”三位一体防护体系。

责任编辑:知敏
文章举报

AI数字人骗局,短视频情感诱导,老年用户防骗,消费欺诈AI营销,清朗专项行动

© 版权声明

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...