当个人 AI 助手突然吐出涉及他人的隐私细节，这究竟是严重的数据泄露，还是大模型常见的 " 幻觉 "？

近日，AI 助手 Instinct 陷入此类争议。有用户在社交平台晒出截图显示，该助手不仅报出了某人的中间名，还讨论了一张从未上传过的、涉及金钱往来的文件照片。面对质疑，Instinct 创始人 Noah Shinn 坚决否认存在数据泄露，直指这是一次典型的 " 幻觉 " 事件。

是泄露还是幻觉？

事件起因于用户 @prit4k 在 X 平台发布的互动截图。截图中，Instinct 的智能体似乎承认将与其他用户的对话泄露到了当前窗口。Shinn 随后回应称，智能体编造了一个专有名词，并在推理过程中进一步放大了这一错误，导致看似真实的隐私信息输出。

" 这不是数据泄露，没有共享任何用户数据，也没有违反用户隔离边界。"Shinn 在周三晚间的帖子中明确表态。尽管他未详细说明如何判定该案例纯属幻觉，但他强调了 Instinct 在隐私保护上的技术架构，包括隔离沙箱、短效本地凭证以及身份签名的工具执行机制，以确保用户数据严格分区。

针对此次故障，Instinct 已向涉事用户道歉，并将其定义为 " 严重故障 "。Shinn 透露，团队在过去 48 小时内紧急开发了一套 " 主动幻觉检测系统 "，能在错误或工具调用执行前进行拦截或引导。他表示，将在未来几周公布更多关于该系统的细节。

硅谷新宠的背景与竞争

Instinct 是一款仅限邀请使用的 AI 助手，旨在帮助用户处理致电保险公司、预订电影票等日常任务。今年夏天，这款应用在硅谷引发轰动，助力 Shinn 的初创公司 Spear Street 以 25 亿美元估值完成 2.5 亿美元融资。媒体评测指出，其在直观辅助日常任务方面表现印象深刻。

随着 AI 智能体成为科技界新宠，市场竞争日益激烈。Meta 已于 9 月 8 日发布自有智能体 Muse，目前该应用已登顶苹果和安卓设备的下载量榜首。

【星途科讯 图文丨小林 首发于 ZAKER 科技，转载请注明出处】