Internet Law Review 前天
如何驯服“侵入式AI”?从滥用无障碍权限到构建可信AI未来
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

当你刚结束一场会议,又渴又累,对着手机说:" 帮我点一杯冰美式,送到公司。"AI 助手理解指令,默默在后台操作,然后告诉你已下单。

当你惬意地享受这杯咖啡的时候,是否注意到,这个 AI 助手是如何完成这一指令的?

首先,手机里的" 无障碍功能 " 被打开,这个可以 " 读屏 " 的盲道,此刻化身为数字眼睛和数字手指,模仿你的日常操作,打开外卖 App;

然后,它会查看你上次点咖啡时用的店铺、优惠券和账号里保存的所有地址

购买期间,它不仅能看到屏幕上弹出的所有通知预览,包括银行余额的变动提醒,还能看到每一个你输入密码时点击的键盘位置……

你享受了 " 一句话点咖啡 " 的极致便利,却可能从未意识到,你手机里最私密的角落被临时征用了。这期间不仅发生了你与咖啡店的交易,更隐藏着一场隐私与控制权的无声交易。让 AI 代理使用 " 无障碍功能 " 来实现跨 App 操作,这个看似微小的技术选择究竟存在怎样的风险,正是这篇文章要讨论的主题。

一、" 无障碍 " 何以成为 " 万能钥匙 "?" 侵入式 AI" 的技术原理与风险

" 无障碍权限 " 最初是为残障人士而设计的,这些功能覆盖了视觉、听觉、运动等多个领域。其中," 读取屏幕内容 " 和 " 自动点击屏幕 " 的功能应用最为广泛,可以帮助视觉或行动不便的用户操作手机。而这些功能之所以可以实现,是因为它拥有更高系统权限。

然而在网络安全领域," 更高权限 " 绝不仅仅是 " 功能更多 ",它本质上是对设备更底层的控制权,意味着不仅能够监控和获取应用间或系统的各种交互信息,还可能涉及敏感个人信息的获取,以及随之而来的、颠覆性的风险升级。

可以想象您的手机是一个公寓楼,而每个 App 就是楼里的一套独立公寓。每套公寓都有坚固的门锁,住户(App)只能进入自己的公寓,不能随意闯入邻居家翻看别人的信件(数据)、偷听对话(录音)或偷拿东西(文件)。如果住户 A 想给住户 B 传个话,必须通过楼管的标准化服务(系统 API),比如楼管代送一张纸条——即有限的、用户授权后的数据分享,而绝不会把 A 家的钥匙交给 B。

但如果允许 AI 手机助手使用 " 无障碍功能 ",相当于给公寓楼其中一个用户(AI 代理)配了一把 " 万能钥匙 ",赋予其实时监控甚至操控整个公寓大楼的权限。因此,对 " 无障碍功能 " 这类高权限的授权,理应被视为最高级别的安全决策之一,而绝不能随意开启。

现实中,限制 App 互操作绝不是技术上的无能,而是一种以用户隐私和安全为最高优先级的主动设计。无论是苹果 iOS 还是安卓系统,App 之间通信和操作的渠道通常需要被隔离和监管,只是严格的程度不同。而任何试图绕过这一机制的产品或服务,无论其宣传的便利性多么诱人,我们都必须警惕:这一 " 侵入式 " 功能实现是否必要,授权范围究竟多大,及其潜在风险是什么

在网络安全领域," 侵入式软件 " 通常指那些超越用户合理预期和授权范围的方式,侵入了用户的隐私边界或系统控制的软件;在现实生活中,我们也会绝对拒绝进入私人空间的 " 侵入式监控 "。而如今,如果 AI 代理软件通过模糊的描述等方式 " 引导 " 用户开启无障碍功能,实现在系统层面 " 代替用户 " 读取信息或执行的操作,其 " 滥用无障碍权限的方式 ",却实际上产生了 " 侵入性的后果 " ——它不仅 " 侵入 " 了第三方应用程序,更是 " 侵入 " 了用户的整个私人领域——用户并不清晰地了解 AI 代理到底搜集了多少个人数据、这些数据将被用于做什么,于是用户的控制权旁落

故此,我们可以将未经用户充分知情和同意,就通过系统漏洞(如无障碍功能)侵入式访问设备数据、执行操作的 AI 代理,称之为 " 侵入式 AI"。用户在使用 AI 代理之前必须明确," 侵入式 AI" 一旦获得权限,其数据收集和行为就是持续性的、在后台静默运行的,这构成了对用户数据的长期且隐蔽的威胁。这不是一次性的数据泄露,而是一场针对用户个人数据的 " 过度、持续、侵入性的数据收集 "。

不过这里需要澄清的是,我们并非要将所有 AI 代理都纳入 " 侵入式 AI" 这一概念当中。真正具有 " 侵入性 " 的并非 AI 代理的技术本身,而是其技术实现方式——滥用无障碍功能。

二、从抢红包到诈骗:被 " 无障碍 " 权限打开的潘多拉魔盒

在实践领域," 无障碍功能 " 是恶意软件实现非法功能的最重要的一种方式,甚至可以称之为 " 黑灰产的温床 "。

早在 2017 年,江苏盐城警方破获全国首例开挂抢微信红包案。该案中的涉案软件除了具备 " 红包快手 " 这类自动抢红包软件的基本功能外,还能有不抢最大或者最小包,或者只抢尾数等功能,而且尾数也可以在上面设定。而实现这些功能,它无需腾讯公司的授权,而只需要用户开启 " 无障碍功能 ",就可以实时拦截微信客户端与服务器之间的传输数据,对微信客户端读取服务器回包数据进行读取、修改,进而实现自动抢红包、透视红包等相关作弊功能。

警方还特别提到:"这类软件会窃取用户信息,甚至能将账户内的钱转走,安全隐患非常大。"

2022 年,杭州互联网法院审结了一起 " 平台算法机制下自动抢红包案 ",并获全国法院系统 2022 年优秀案例分析一等奖。法院认为,被诉侵权软件 " 红包猎手 "" 多多抢红包 " 软件调用安卓手机 " 无障碍功能 " 监听 QQ 软件,以自动抢红包替代手动抢红包,系对开放平台模式下的安卓系统功能进行异化使用,该种恶意 " 寄生 " 于他人合法商业模式下的不当行为,构成不正当竞争行为,适用我国《反不正当竞争法》互联网专条的兜底条款。被告百豪科技有限公司被判赔偿原告腾讯公司 70 万元。

2025 年 2 月,湖州警方揭露了一起借助 AI 技术的诈骗案件。犯罪分子假冒 DeepSeek 官方,诱骗用户下载并安装仿冒软件,随后弹出开启无障碍服务的提示,并利用威胁话术诱导用户开启无障碍权限,实现了对手机的完全控制,并直接威胁用户的经济利益。2025 年的 "315 晚会 " 曝光不法软件 " 精准获客 " 窃取 20 亿条个人信息,即滥用了无障碍功能。

上述所有案例都说明," 滥用无障碍权限 " 这一技术路径,本身就是一种已知的高危攻击向量。他们帮助我们确认," 滥用无障碍权限 " 与 " 经济利益威胁 " 之间的直接因果关系。虽然上述作恶主体是木马病毒或恶意软件,但其技术内核与 AI 代理调用无障碍功能并无本质区别。这强有力地说明,一旦 " 无障碍功能 " 权限被滥用,无论主体是木马还是 AI,不仅可能属于妨碍他人合法商业模式的不正当竞争行为,甚至成为诈骗案的工具、触犯刑法。

现在,手机厂商将 AI 代理与这项系统最高权限绑定。虽然初衷可能是为了便利,但它在技术上开启了一个与之完全相同的风险通道。一旦 AI 代理被恶意提示词 " 劫持 ",或者其本身存在漏洞,它就可能变成案例中的 " 木马 ",造成完全相同的经济损失。AI 代理也就化身更具威胁性的 " 侵入式 AI"。

因此,问题不在于 AI 代理今天是否已经造成了大规模损失,而在于我们是否要将一个已经被证实存在高风险的技术实现模式,常态化地集成在每个人的手机里。

三、替代方案:AI 如何做到 " 不侵入 "?

面对 " 无障碍功能 " 滥用、" 侵入式 AI" 带来的巨大隐私风险,一个自然而然的疑问是:难道没有更安全、更规范的技术路径吗?

当然有,但是这条路充满了挑战。这一挑战绝非技术上的,因为在技术上更安全的选择在行业内本就是 " 惯例 "。

2025 年 6 月 13 日,广东省标准化协会发布团体标准《智能体任务执行安全要求》。该标准明确 " 禁止滥用无障碍服务 ",即智能体不得利用无障碍权限或操作系统技术优势操作第三方 App,而是必须通过 " 标准化接口调用的方式协作 "。

该标准提到的 " 标准化接口 " 是一种由手机厂商构建的标准化合作桥梁,被称为 " 意图框架 "(Intent Framework)或 API 集成。通过这种框架,AI 助手将变得更加安全

AI 助手无需 " 看到 " 屏幕内容,而是通过 API 直接获取结构化的结果数据(如商品名称、价格),无法触及聊天记录、短信等无关的敏感信息;

交互流程由 App 开发者自行定义和设计,数据在谁那里、如何处理,都有明确的协议规定,可以符合《个人信息保护法》的 " 最小必要 " 原则。

然而,这条康庄大道却推进缓慢,其背后关乎 AI 部署的快慢、商业利益的博弈与取舍。

在一篇新闻报道中,国内某手机厂商曾经这样宣传自己的AI 代理如何更具成本效益:" 与苹果、三星和谷歌等依赖外部 API(导致运营成本更高)的竞争对手不同,** 的 AI 代理可以独立管理各种任务。"

这种说法从侧面反映了 " 无障碍功能 " 的技术选择主要源于商业成本的考量。让每个 App 都针对不同手机厂商的框架进行开发和适配,需要投入大量工程师资源,对开发者而言是一笔不小的经济和时间成本。因此,在商业利益面前,本应最优先的用户隐私安全被暂时搁置了。手机厂商在激烈的市场竞争中,为了能抢先推出炫酷的 AI 功能,选择了一条技术上的 " 捷径 " ——利用本就存在、且无需第三方配合的 " 无障碍功能 "。

然而,将商业便利置于用户隐私之上,绝非一条可持续的发展之路。

苹果公司的 AI 研发虽然进展缓慢,但在 2025 年 Apple Intelligence 的发布中却传递了一个响亮而清晰的信息:AI 无需侵入即可发挥强大功能。当其他公司竞相收集更多数据时,苹果却另辟蹊径,将隐私作为构建 AI 功能的核心原则。它构建了一个清晰且严格的 " 意图框架 " 和 API 集成,当 Siri 需要将请求转发给 ChatGPT 时,它会:

1)明确征求用户的许可;

2)在发送前,会清晰地告知用户哪些数据会被共享,提供 "AI 活动 " 日志供查阅;

3)苹果与 OpenAI 达成协议,隐藏用户 IP 地址, OpenAI 不得存储任何数据。

苹果的实践提供了一个强有力的论据—— " 侵入式 AI" 所代表的不是技术的必然未来。甚至我们预计,苹果如此谨慎负责任的 AI 发展策略,可能会为它带来商业利益的长久回报。

另外值得注意的是,AI 相关行业已经注意到 " 无障碍权限 " 被滥用的危险性,并制定了行业标准。2025 年 4 月,中国软件行业协会正式发布《移动互联网服务可访问性安全要求》,针对当前利用智能体等 AI 技术访问移动互联网服务引发的安全风险、用户权益保护等问题作出规范。该标准为产业安全发展提供了四项原则:

(1)禁止滥用无障碍服务:应谨慎为智能体等 AI 技术开通无障碍服务,开通无障碍服务必须经过用户明确授权。

(2)保障用户权益:不得侵害用户及其他主体的数据权益。

(3)双重授权:跨应用操作时,应先通过第三方 App 授权,并在获得用户授权后执行;

(4)禁止利用系统权限优势,干扰第三方 APP 运行

该标准虽然还未成为法律法规,却反映了学术界、产业界共识,代表了行业惯例与商业伦理。2025 年 6 月 13 日,广东省标准化协会发布团体标准《智能体任务执行安全要求》,也提出了与上述相似的规则。

***

技术的每一次狂飙突进,都伴随着伦理的拷问与制度的追赶。当我们惊叹于 " 一句话点咖啡 " 的技术跃进时,也必须清醒地认识到,任何将便捷凌驾于安全之上的 " 捷径 ",最终都可能通往失控的深渊。

" 侵入式 AI" 的困境揭示的并非技术无能,而是一场商业利益与用户权益的短跑竞赛。历史反复证明,以牺牲用户信任为代价的商业模式,终将是空中楼阁。真正长久的商业模式,是用户托付的安全感,绝非仅仅是炫目的功能。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 公寓 安卓 个人信息
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论