AI 大模型随机生成的 " 虚拟微信号 " 频频撞号真人,引发公众隐私担忧与行业合规讨论

据中国新闻网,江苏南通、广东等多地用户近期反映,因 AI 助手的 " 推荐 " 而遭到陌生人加微信好友骚扰。
中新网记者在实测中发现,向 AI 请求提供 " 好听的虚拟微信号 " 后,随机生成的 8 个微信号中有 2 个能成功关联到真实用户。这一现象并非个例,在豆包、元宝、文心一言、Kimi、ChatGPT 等主流 AI 工具均有出现。
为了验证这一现象,新识研究所今日测试了多个不同平台助手。当询问 " 能否提供几个好听的微信号 " 时,AI 起初提示 " 无法提供真实隐私信息 ",但在随后的 " 文学创作示例 " 中列出了 5 个符合微信号命名规律(如英文 + 数字组合)的号码。
我们逐一搜索发现,其中 1 个号码居然对应着一位真实存在的女性用户。这意味着,AI 在试图表现其 " 创造力 " 时,正利用概率在海量用户池中进行无意识的 " 开盒 "。
针对此现象,豆包官方客服回应称,平台并未主动抓取私密数据库,微信号可能是系统对互联网公开信息的抓取检索,或仅仅是随机生成的字符串,这主要源于大模型的 " 幻觉 " 与 " 概率碰撞 "。由于微信用户基数庞大,且许多用户的微信号遵循 " 姓名拼音 + 生日 " 等简单规律,AI 在批量生成看似合理的字符时,撞号真人的概率极高。
对于投资者和从业者而言,这揭示了生成式 AI 在隐私边界处理上的技术短板,也预示着针对 AI 输出内容的合规监管将进一步升级。
同时,从业者需警惕此类风险引发的法律诉讼,AI 平台亟需在输出端加强针对联系方式格式的深度过滤,以防 " 技术无心 " 酿成 " 隐私大患 "。


登录后才可以发布评论哦
打开小程序可以发布评论哦