财联社-深度 22小时前
AI智能体“入驻”手机后隐私何存?知名通讯应用警告端到端加密不再万无一失
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

财联社 11 月 20 日讯(编辑 李莹)随着科技巨头将 AI 智能体深度嵌入操作系统,屏幕上显示的私密信息正面临被读取的风险。以隐私保护见长的通讯应用已不得不默认限制截屏,并公开警告端到端加密难以阻止 AI 从系统层面读取数据。

据媒体当地时间 11 月 20 日报道,加密通讯服务商 Signal 宣布将默认限制手机截屏,以防 AI 智能体读取用户的私密聊天内容。

Signal 由美国非营利组织 Signal 基金会持有,其开发运营的即时通讯应用以端到端加密著称,该应用也被隐私倡导者普遍视为安全通讯领域的标杆。

根据新设置,当 Signal 检测到截屏行为或 AI 助手试图访问屏幕时,会弹出提示,由用户决定是否解除限制,具体方式因设备而异。

Signal 表示,上述防护措施 " 并不完整 "。该公司呼吁苹果、谷歌及微软等操作系统提供商,为开发者提供更明确的技术手段,阻止 AI 智能体获取敏感数据。Signal 同时要求这些公司披露 AI 智能体的运作机制,以便开发者评估相关程序会访问哪些数据。

报道指出,Signal 尤其关注苹果 Siri AI、谷歌 Gemini Intelligence 等直接内置于操作系统的 AI 功能,原因在于这类功能与用户设备的整合程度极深。

Signal 在官网博文中表示,操作系统构成了所有应用的运行环境,而 AI 智能体的集成正使这一环境对隐私愈发不利。博文中写道:" 这对 Signal、对我们负责任地践行使命的能力构成了生存威胁。"

加密之盾,难挡 AI 之眼

可代替用户执行操作的 AI 智能体被视为 AI 技术的下一波浪潮。它们能够跨应用调取信息,自主完成回复邮件、预约服务和网上购物等任务,但这种跨应用访问能力也可能绕过 Signal 等应用自建的防护机制。

Signal 采用端到端加密,连其自身也无法读取用户对话。该公司表示,AI 一旦能够扫描屏幕,就能把消息从 Signal 的安全环境中提取出来并传至其他服务器,这种读取方式令加密保护防不胜防。

据媒体本周早些时候报道,Meta 旗下的 AI 智能体 Muse 曾借助系统权限,读取了苹果电脑和安卓手机上的 Signal 消息。在苹果电脑上,Muse 利用为残障人士设计的辅助功能打开 Signal 并截屏,再识别截图中的文字,将聊天内容复制到自身应用中。

据报道,苹果本周已通过系统更新封堵这一途径,但为 AI 智能体新增了专用权限。获得授权后,AI 智能体仍可进行类似操作,只是系统会向用户发出更多风险提示。

Meta 回应称,AI 智能体必须能够操作电脑才能代替用户完成任务,且 Muse 只有获得用户明确授权才能访问其他应用。

Signal 则认为,应用开发者应当有一个简便的选项,可以直接拒绝 AI 助手读取自家应用的屏幕内容、通知信息和相关文件。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 谷歌 muse 美国 科技巨头
相关文章
打开 ZAKER 参与讨论