" 雷军回应‘ 7 天假期被 AI 雷军骂了 8 天’ "" 靳东建议 AI 换脸立法 " ⋯⋯今年全国两会期间，人工智能（AI）技术治理成为讨论焦点之一，其中 "AI 换脸 " 引发的风险问题受到代表委员们热议。

在这场身份保卫战中，公众人物、媒体首当其冲。"AI 张文宏 " 深夜直播带货、"AI 刘晓庆 " 分享鸡汤、"AI 古天乐 " 代言网游…… AI 换脸已沦为黑灰产业链的作案工具。日前，每日经济新闻刊发《微信抖音都难防！花 1280 元，直播、视频通话能实时换成刘亦菲、杨幂的脸，拍脸按鼻露齿及大幅遮挡都不会 " 掉脸 "》广受各界关注，平台也开始思考：AI 深度伪造导致传统防伪手段失效后如何保护数亿用户。

3 月 10 日，" 小红书 " 在北京举办首次 " 诈骗治理开放日 "，公布了 2024 年平台反诈治理成果：通过不断完善全链路治理体系，平台全年共处置涉诈违规账号 492 万个，主动拦截 94.3% 的诈骗行为，诈骗举报量同比下降 60%。

但是，在分享治理措施和经验的同时，小红书反诈治理负责人苍连表示，诈骗治理是个长期过程，存在不少难点，需要更多互联网平台、企业以及用户共同参与解决。其中，95% 的诈骗行为被诱导至第三方平台实施，形成监管断点，这让追踪溯源难上加难。

中国犯罪学学会副会长兼信息犯罪防控专业委员会主任、同济大学法学教授皮勇警示，伴随 AI 时代到来，深度合成的影像越来越真实，犯罪人是谁？声音来自谁？越来越难以分辨。" 犯罪在变，我们的‘教材’却没有及时更新。"

皮勇介绍 " 打防结合、共同防治 " 的反诈模式 图片来源：主办方提供

诈骗渠道从传统电信渠道向网络全面转移

" 千万不要觉得自己不会被骗。" 苏州市公安局金牌反诈讲师朱钰表示，诈骗分子盯上的是我们每一个人，不会区分人们的学历、职业。

当下，AI 技术迅猛发展，诈骗形式也以超乎想象的速度不断升级。对于警方而言，传统的事后打击犯罪方式已陷入被动的局面。" 犯罪分子在网上飞，在全世界飞，我们公安民警如果在地上追，根本没有用。不仅成本投入巨大，人员消耗也大，还无法有效遏制。" 朱钰无奈地说道。

基于多年的从警经验，朱钰总结出当下诈骗的三大特点——

第一，从过去的广撒网式诈骗转变为精准诈骗。诈骗分子通过非法手段获取公民个人信息，据此量身定制诈骗剧本，实施精准诈骗。

第二，诈骗手法从单一走向组合套路。诈骗手段不断演变，从最初的、简单的冒充熟人式、中奖式诈骗，发展到如今融合刷单返利、杀猪盘、虚假投资等多种形式的复合型诈骗，灵活性更强，让人防不胜防。

第三，诈骗渠道从传统电信渠道向网络全面转移。利用社交软件、直播平台、网络游戏等新型网络产物实施诈骗的案例日益增多，隐蔽性愈发突出，增加了识别和防范的难度。

除了诈骗手法更具迷惑性，目前网络诈骗的危害也远超以往。随着互联网的发展普及，公开数据显示，网络犯罪案件增长迅速，目前占全部犯罪案件的七成以上。

苍连分享平台治理策略和措施 图片来源：主办方提供

苍连以站外导流难追踪为例进一步介绍道，诈骗行为在平台内通常伪装成正常笔记（即博主发布的内容）和交流内容，不触及诈骗核心环节的诱导转账或资金流转。因此，其诈骗特征不明显，平台辨别存在困难。随后，诈骗者会将用户引导至第三方平台实施进一步的诈骗活动，" 这一比例高达 95%，导致难以实现有效追踪 "。

一年近 120 种不法手段！AI 时代如何构筑反诈防线

AI 的应用场景愈发广泛，也为诈骗分子提供了新的伪装手段。

朱钰直言，如今除了诈骗手法更具迷惑性，网络诈骗的危害其实也远超从前，因为产业链条盘根错节，而且跨境跨国犯罪的趋势明显，打击难度非常之大。

针对上述问题，公安机关也在不断地调整打击和防范的措施。在此情况下，警企合作正在加强。朱钰介绍：" 我们也希望短视频平台发现诈骗风险后，能够及时同步警方来联动，将这些信息最早最快地告诉我们，避免更多人民群众的财产受损失。"

" 这对治理的‘及时性’和‘对抗性’都提出了很大的考验。" 苍连透露，过去一年，小红书累计出现近 120 种诈骗方式，比 2023 年的 96 种增加了四分之一。诈骗话术演变也非常迅速，例如 " 导流到其他平台 " 的话术变体，目前就有不下 500 种。

所幸，借助 AI，小红书建立了超过 100 个识别模型。《每日经济新闻》记者在现场了解到，叠加大模型理解能力，小红书可对诈骗风险实现跨场景内容的理解与拦截。2024 年，小红书对诈骗行为的主动拦截率达到了 94.3%，月均推送风险提醒 3700 万次。苍连表示：" 平台用户对诈骗单日举报量方面，2024 年底比年初减少了 60%，呈现显著下降。"

图片来源：主办方提供

业内专家呼吁，社会各界共同参与反诈斗争，形成全民反诈的强大合力。

" 进入人工智能时代，我们的反诈犯罪防控又遇到了新的问题。深度合成的影像越来越真，犯罪人是谁？声音来自谁？越来越难以分辨。" 皮勇在活动现场表示，大众要带着怀疑的态度对待网络空间。

皮勇认为：" 犯罪在变，我们的‘教材’还没有及时更新。未来，当人形机器人进入我们的生活，将对国家立法提出新的挑战⋯⋯需要进行人工智能化的升级，才具备治理‘未来已来’的、智能化犯罪的能力。"

每日经济新闻