出品｜虎嗅科技组

作者｜余杨

编辑｜苗正卿

头图｜视觉中国

在 1 天前年度开发者大会上，苹果公司 CEO 库克揭开了备受期待的苹果人工智能战略面纱，宣布将 "Apple Intelligence" 整合到其应用程序套件中，并与 OpenAI 合作将 ChatGPT 引入其设备。这一举措引发了业界广泛关注和讨论。

值得注意的是，埃隆 · 马斯克于 6 月 11 日（当地时间）刚刚撤销对 OpenAI 及其首席执行官山姆 · 奥特曼的诉讼，又表示，如果苹果公司 " 在操作系统层面 " 将 OpenAI 的技术集成到 iPhone 和 Mac 中，他将禁止苹果公司使用苹果设备。

那么，苹果的 AI 战略到底存在哪些潜在风险？中国公司会不会效而仿之，进而影响到产品的使用？换言之，AI 之后，苹果手机还能买吗？

一、Apple Intelligence 的潜在隐私风险

苹果此次 AI 战略的发布主要包括其自主研发的 Apple Intelligence 和与 OpenAI 合作的 ChatGPT 两大板块。

苹果公司声称，当设备连接到苹果的 AI（Apple Intelligence） 服务器时，连接将被加密——这意味着没有人可以监听——并且服务器将在任务完成后删除任何用户数据。也就是说，即使是自己的员工也无法看到发送到其 AI 服务器的数据。

为了消除人们的安全顾虑，苹果同时宣布将发布部分服务器代码，供安全研究人员分析。

约翰霍普金斯大学计算机科学教授马修 · 格林 ( Matthew Green ) 在推特发文表示，这是 " 非常周到的设计 "，但也提出了一些担忧。例如，研究人员不会看到服务器上运行的源代码，这将导致研究人员在调查软件行为时 " 有点不太理想 "。

而且，用户无法选择何时将信息发送到苹果的服务器。" 你无法选择是否发送信息，甚至不会被告知发送信息。信息会自然而然地发送。我不喜欢这种感觉，" 格林写道。

也就是说，可能还存在许多其他缺陷和问题，安全研究人员很难发现。但最终，" 这代表了苹果真正承诺不会‘偷看’你的数据 "。

二、引爆马斯克的 OpenAI 产品

ChatGPT 一直是专家和监管机构关注的隐私问题焦点。此前，女演员斯嘉丽 · 约翰逊指责 OpenAI 公司未经许可模仿她的声音就曾引起轩然大波。

研究发现，ChatGPT 的早期版本可能会被迫泄露从互联网上抓取的个人信息（例如姓名、电话号码和电子邮件地址），这些信息包含在其训练数据中。除非用户选择退出，用户向 ChatGPT 提出的任何问题都会被 OpenAI 收集并用于训练聊天机器人，这曾促使包括苹果在内的大公司禁止或限制员工使用 ChatGPT。

对此，苹果表示 ChatGPT 与 Apple Intelligence 是分开的，并且默认情况下不启用。

但正如该公司在周一的公告中所展示的那样，每次打开 ChatGPT 选项的用户都会通过弹出通知询问他们是否确定要使用该选项。

作为额外的隐私保护措施，苹果表示它会 " 隐藏 " 用户的 IP 地址，并且 OpenAI 将删除用户数据，而不会将其用于改进聊天机器人。但苹果尚未回答有关如何验证 OpenAI 是否删除发送到其服务器的用户数据的问题。

三、AIGC 的已知缺陷

今年早些时候，人工智能生成的泰勒 · 斯威夫特的假裸照在社交媒体上被狂热分享，直到 17 小时后，X 将其删除。人工智能被用于生成真实人物的假图像，直接挑战了人类的尊严，受害者的数量日益增长，但由于缺乏可操作的手段、影响力和法律，许多人仍然承受着这一技术暴力。

更为严重的是，谷歌仍然会引用凯蒂的恶搞文章，建议用户往披萨里加入八分之一杯胶水。谷歌首席执行官桑达尔 · 皮查伊在接受采访时承认，基于大型语言模型（LLM）的 " 固有缺陷 "，"AI 摘要 " 功能产生的 " 幻觉 " 目前仍然没有解决方案，

一面是缺陷，一面仍是利好。自去年 11 月 OpenAI 发布 ChatGPT 以来，人工智能在全球引起投资狂潮。6 月 12 日消息，法国人工智能初创公司 mistral 短短几个月即融资 62 亿美元，虽然还未有实际的变现能力，但已经是名副其实的吸金产业。

人工智能潜在的政治、法律、伦理问题也吸引了众多目光。不仅马斯克充满警惕，ChatGPT 还是多项监管调查的对象，其中就包括加拿大隐私专员办公室的调查；而拜登政府也正在考虑进一步限制中国获取用于人工智能的芯片技术。

一直以来，AI 的隐私安全问题都如同冰山一样幽结在人们心中，基于苹果公司在全球的用户量规模，苹果此次和 AI 的牵手更是将这一问题摆到了桌面上。

出于隐私安全考虑，中国方面会不会采取相关限制措施？AI 之后，苹果手机还能不能买也成为我们不得不面对的问题。

潘多拉的魔盒开启后，我们如何走出技术的牢笼呢？