智东西

编译 | 陈骏达

编辑 | Panken

这两款 "AI 女友 " 应用，正让数十万用户的私密对话 " 裸奔 "！

智东西 10 月 11 日消息，近日，网络安全媒体 Cybernews 在互联网上发现了一个用于 AI 陪伴应用的流媒体与内容传输系统，该系统未受保护，完全暴露。这一漏洞直接导致 40 万名用户的数据、4300 多万条私密消息以及超过 60 万张图片与视频（包含用户上传及 AI 生成内容）被泄露。

出现安全漏洞的这两款 AI 陪伴应用在安卓与 iOS 平台上均可使用，名为 "Chattee Chat – AI Companion" 与 "GiMe Chat – AI Companion"，均提供应用内购买服务，有用户甚至在其中充值了 1.8 万美元（约合人民币 12.8 万元）。

截至事件曝光时，其中一款应用 Chattee 仍在苹果 App Store 的 " 娱乐 " 分类中排名第 121 位，第三方估计其在平台上的下载量已超过 30 万次，并获得数百条正面评价，用户主要来自美国。另一款应用 GiMe Chat 的知名度相对较低。

Chattee 的 App Store 页面（图源：Cybernews）

Cybernews 研究团队称：" 其中几乎没有任何内容可被视为‘适合在工作场合浏览’，这次令人担忧的泄露事件凸显出一个巨大的鸿沟——用户在这些 AI 陪伴应用中倾诉最隐私的情感与欲望，却因开发者的安全疏忽而暴露无遗。"

一、40 万用户数据外泄，私密内容被公开访问

公开暴露的流媒体与内容传输系统实际上是一个 Kafka Broker 实例。该实例负责接收来自生产者的消息、存储这些消息，并将其提供给消费者。

使用这一未受保护的 Kafka Broker 实例的两款应用，由总部位于香港的 Imagime Interactive Limited 开发。该公司在其隐私政策中表示：" 我们深知个人信息对您的重要性，因此高度重视个人隐私保护。"

然而，Cybernews 研究人员发现，该泄露的实例未设置任何访问控制或身份验证机制——任何持有链接的人都能直接访问系统内容，包括用户发送和接收的全部数据。

泄露的超 40 万用户注册数据表明，66.3% 的受影响用户为 iOS 用户，其余约 1/3 来自安卓平台。在调查期间，Chattee 应用已从 Google Play 商店下架，开发者随后引导用户通过 APK 文件自行安装。

尽管泄露信息中未包含用户姓名或邮箱等直接身份信息，但 IP 地址与设备唯一识别码（UUID）均被公开，攻击者可借助以往数据泄露记录将其与具体个人匹配。

泄露的部分信息，敏感信息已被隐去（图源：Cypernews）

研究显示，用户在应用中频繁互动，平均每位用户向 AI 伴侣发送 107 条消息，并上传多张图像与视频。这些资料可能被恶意人士用于识别、勒索或骚扰用户。

此外，媒体文件同样未设访问权限，外部任何人都能浏览或下载用户上传、购买或 AI 生成的内容。

二、百万美元收入背后，AI 陪伴经济的安全隐忧

泄露的应用内购买记录显示，部分用户在虚拟货币充值上的花费高达 18000 美元。尽管此类极端案例较少，但交易记录显示，开发商的总体收入可能已超过 100 万美元。

更令人担忧的是，研究人员发现认证令牌（authentication tokens）同样被泄露，这意味着黑客可借此劫持账户并盗取虚拟货币。尽管此类货币的实际价值有限，但其潜在滥用风险依然存在。

Cybernews 在发现问题后已负责任地通知开发商，目前该 Kafka Broker 实例已被关闭。

然而，研究团队警告称，不确定是否有黑客已获取相关数据。该服务器早已被多个物联网搜索引擎索引，而黑客通常会主动扫描常用端口寻找可入侵的服务。

研究人员强调，将 "AI 女友 " 应用的数据与真实身份相连，可能导致严重的声誉损害，并对用户的心理健康、生活及人身安全造成长期影响。泄露的数据极有可能被用于性勒索（sextortion）、定向网络钓鱼（spearphishing）等攻击。

这类 Kafka 实例暴露事件并非个例。Cybernews 研究人员此前也发现过多个未受保护的实例，涉及巴西医疗巨头 Unimed、土耳其某外卖平台、家长监控应用 KidSecurity 以及 Shopify 插件开发商等。

Cybernews 的研究者认为，Kafka Broker 系统应启用身份验证、限制访问 IP，并配置严格的访问控制，这是防止类似隐私灾难的基本安全措施。

同时，用户也需意识到，与 AI 陪伴对象的对话并非完全私密。这类应用的公司往往未妥善保护其系统，使用户的私密聊天和共享内容随时可能被恶意者利用牟利。

结语：安全问题已成 AI 陪伴应用关键挑战

AI 陪伴应用正成为不少人情感表达和倾诉的出口。但正如 Cybernews 近日曝光的数据泄露事件所显示的那样，这类应用也可能让用户的私密对话、影像甚至身份信息暴露在互联网上。

事实上，这并非 AI 陪伴应用首次引发争议。此前，知名 AI 陪伴应用 Character.AI 就因一起悲剧性事件被诉至法院：一名 14 岁少年在与平台聊天机器人频繁互动后选择自杀，其母亲随后起诉 Character.AI 及其开发者，指控其存在设计缺陷、缺乏安全保护措施，并未对未成年人提供必要防护。

这些事件也为 AI 陪伴产业敲响了警钟，随着 AI 角色越来越 " 像人 "，相关企业或许需要在法律、伦理和社会责任方面划清界限，主动建立安全、透明的使用规范。