独角鲸工作坊 8小时前
让AI助手操控手机,你的心该有多大?
index.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

本周一(12 月 1 日),恰逢 ChatGPT 发布三周年的正日子,字节跳动发布了一款震惊业界的 AI 应用:豆包手机助手。

这款应用自然有很多亮点,尤其是在社交媒体上刷屏的 " 比价 " 功能:你只需要给手机看想要的沐浴露图片,手机就能自己为你截图,各大 APP 一顿搜索,找出那个最便宜的给你下单,全程操作下来都不用打开电商 APP。

当然,它也可以自动下单外卖,比如,帮你在各大外卖平台上帮你找到最便宜的 " 吮指原味鸡 "。

从目前的舆情看,社交媒体上对此争议最大的还是所谓的 " 隐私墙 " 问题,截至目前为止,据网友反映,微信、淘宝、支付宝、高德地图、农行、建行等 APP 都对豆包手机助手采取了 " 安全风控措施 "。

从商业上而言,豆包手机助手可能会引起互联网行业的剧烈震荡,毕竟,这相当于 " 偷家 " 了诸多电商与外卖巨头,他们构建了这么久的应用矩阵、内容,因为用户可以借助 AI 助手绕过 APP,一下子就失去了 " 入口 " 的权利,沦为了 " 被调用 "。

商业这东西,很难评判谁是谁非,偷家也好,反击也好,我们不妨让子弹再飞一会,看看这一池春水将如何被吹皱。

在这里,还是想谈谈我们这些普通用户将如何自处,毕竟,在可见的未来,我们将会看到越来越多类似的 " 手机助手 " 的出现。

就像字节跳动近日发布的那篇 " 自我辩护 " 一样,大公司多少会讲一些社会责任与商业伦理,但如果更多的小公司也跟着入局手机助手,泥沙俱下,很多事情就不好说了。

那就从隐私说起吧。坦白说,我对互联网语境中 " 隐私 " 这个概念一直心存疑虑:一来,这年头又有哪个超级应用不牵扯点隐私;二来,相对而言,中国人对隐私没有欧洲人那么谈虎色变,如果能让渡部分隐私换取 " 便利 ",很多中国人并不介意这么做。

我更想谈的是 " 风险 "。

在我看来,AI 手机助手有点类似于 " 自动驾驶 ",一个是放弃了对方向盘的掌控,一个是放弃了对 " 手机系统权限 " 的掌控。

我们知道,在目前的技术条件下,纯粹意义上的 " 自动驾驶 " 仍是一个过于超前的概念,今年以来已有多起惨烈的车祸与此有关。所以我们也可以看到,一些原本以自动驾驶为噱头的车企,正在将宣传口径改为 " 智能辅助驾驶 "。

出于近似的逻辑,在目前的技术条件下,如果我们将手机系统权限,拱手交由 AI 手机助手,同样也是风险重重。

以银行 APP 为例,我们真的放心让 AI 手机助手读取我们的银行账户信息,乃至帮我们操控吗?此时此刻,电诈从业者们可能正在召集紧急会议,讨论 "AI 手机助手给行业带来的机会 "。

或许是多虑了,我们有理由相信大公司推出的 AI 手机助手可以有效屏蔽电诈的风险,但那些来路不明的小公司的产品呢,老人又如何分得清哪款助手安全哪款不安全?

即使撇去电诈的语境,这里仍然存在着一个责任认定的问题。我打个比方,如果手机 AI 助手出错,哪怕是极低概率下的出错,转账时出现错误,造成的损失由谁来承担?

有人或许会说,可以找 AI 助手的出品方啊?这话有些纯洁无瑕了,这年头有那么多信用卡盗刷案件,你见到哪家银行爽快地站出来 " 买单 " 的;再好比,当发生由自动驾驶导致的车祸时,车企也不会站出来揽下全部责任。

唯一的责任人,就是你。AI 与你同林鸟,大难临头各自飞。

银行这个例子可能太极端了,那社交媒体呢?让 AI" 代持 " 社交媒体一会,又有什么风险呢?

人生在世,最重要的依凭除了金钱,可能就是 " 关系 " 了:与家人的关系、与同事的关系、与领导的关系、与合作伙伴的关系、与客户的关系 ……随便说错一句话,随便透露一个不应该透露的信息,都可能会颠覆你的人生。这就好比,有些已婚人士不希望配偶翻看自己的手机。

其实是同样的道理。如果 AI 手机助手因为某次误操作,搞砸了你的某个重要关系,比如将一份内部报价文件发给了客户或者竞争对手,请问 AI 手机助手出品方会负责吗?你说你的人生毁了,除了删掉手机助手泄愤,你莫非还能索赔?

图 /AI 生成

以上的话说得或许有些戏谑,但话糙理不糙,在这个我们每天使用手机动辄十小时的年代,从银行信息、恋爱信息到工作信息,你安身立命的一切信息可能都与社交媒体关系万千重,然后你就这么心大地将 " 大权 " 交给手机助手了?

说实话,这很难不让我联想起赵高之于胡亥、吕布之于董卓、赵匡胤之于柴荣、德川家康之于丰臣秀吉,这些都是最亲密的助手。

那有人说了,我让 AI 助手帮我电商比个价下个单,总没问题吧?

似乎没有啥问题。

吃打折吮指鸡的时候当然皆大欢喜,吃饱了贤者时刻,一细想都是问题。

先谈以上一直在说的 " 责任 " 问题。下错单了谁负责?如果是一杯奶茶也就罢了,冰箱电视机这些大金额的物件下错单了怎么办?AI 出品方难道会负责?

你千万别说不会出问题,知道不知道就在前两个月,亚马逊云服务(AWS)宕机事件?

设想一下,此时此刻,你的 AI 手机助手正在帮你下单,是不是画面太美?你的微信宕机了,无非就是掉个线失个联,但有些事情宕机了,那可是可大可小。

你说你信奉技术的力量,那没问题,我不说宕机不说下错单还不行吗?那有没有这样一种可能性呢,有些 AI 手机助手出品方,将 " 货架位 " 像广告位一样卖了出去,优先展示甚至优先帮你下单 " 客户 " 的产品,你觉得怎么样?

还千万别说这不可能。在国内搜索引擎全面推广竞价排名之前,你是不是觉得搜索也与 AI 助手一样如白莲花一样圣洁无瑕?

这样类似的潜在骚操作还有很多,请恕我这里不一一列举了,你尽情发挥自己的想象力即可。

从内心而言,我多少算是一个技术至上者,对目前流行的 AI 泡沫论不屑一顾,对技术改变人类命运更是深信不疑。但是,我对人性始终充满警惕,当一种尚不成熟的技术,与幽深晦暗的人性一碰撞,擦出的未必是熠熠生辉的火花,也可能是四处蔓延的失控野火。

对于 AI 手机助手,我们先不下结论,我们甚至可以保持谨慎乐观,但谨慎这个前提,须臾不可忘。

评论
大家都在看