财联社-深度 昨天
用“人工”假装“智能”?Meta被曝内测MUSE新机制:外包人员代替AI通话
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

财联社 9 月 23 日讯(编辑 刘蕊)据 Meta 内部帖子显示,该公司正在为其新款个人 AI 助手 Muse 测试一项 " 人工管家 " 机制:Muse 可能会在用户不知情的情况下,把电话任务交给人工外包,由呼叫中心人员代替 AI 完成通话。

Muse 内测 " 人工管家 " 功能

自上线两周以来,Muse 已经稳居美国应用下载榜榜首,瞬间火爆美国市场。这款 AI 助手能够自主代用户执行发邮件、购物、预订行程等任务。

就在不久前,Meta 刚刚对外推出 Muse 的通话功能。借助通话功能,Muse 用户可以指令 AI 拨打美国商户电话,由 AI 和对方沟通,完成预约理发、查询门店库存、获取多家服务商报价等跑腿事务。

但是上周,Meta 向员工通报了一项 " 人工管家 " 的内部测试:当 Muse 的通话功能遭遇复杂场景时,可能会在用户不知情的情况下将通话转接给公司承包商,由呼叫中心人员来完成通话。

Meta 超级智能实验室一名副总裁表示,部分测试表明,由人工拨打电话,成功率可以提升至 95% – 98%,高于纯 AI 通话的成功率。

但公司内部帖子也显示,已有部分员工对人工介入通话提出隐私担忧,警示该模式可能导致敏感信息无意中被 AI 泄露给呼叫中心外包人员。

一名员工在内部帖子中写道:" 我很难理解,为什么我们认为这项功能值得冒这样的风险。只要出现一个程序漏洞,就会造成不必要的信息泄露给人工接线员。"

另一名员工还特别提到了一起种族歧视事件:他曾让 Muse 致电网络有线电视运营商协商账单,而通话记录显示,外包人员在通话过程中发表了带有种族歧视的言论。

对此,Meta 超级智能实验室副总裁承认,在未做出充分告知的情况下启动外包人员代打电话测试,属于 " 失误 ",并称公司已暂时回滚该功能。

她同时向这名举报通话中种族言论事件的员工致歉,并承诺涉事的外包人员今后不再参与任何 Meta 项目。

用 " 人工 " 假装 " 人工智能 "?

Muse 的这项测试,让外界得以窥见科技行业的一种并不罕见的操作:科技企业可能会在幕后依靠人力兑现所谓 " 自主 AI" 的宣传承诺。

这让人联想到 Meta 十年前的一次试验。彼时还叫 " 脸书 " 的 Meta 公司,曾在 Messenger 里测试一款名为 M 的数字助手。后续媒体报道估算,该助手约 70% 的任务实际由人工完成。

当被问及 Muse 的 " 人工管家 " 方案时,Meta 发言人表示,员工反馈 " 总体非常积极 ",这项测试的目的是 " 收集反馈,以便在正式发布前落地安全与隐私保护机制、优化功能 "。

Meta 发言人丹尼尔 · 罗伯茨称:" 我们正和商户合作持续优化这项潜在通话功能,只有准备就绪且配套完整告知条款后,才会正式推出。"

市场情报机构 Sensor Tower 的数据显示,Meta 的 Muse 上线至今下载量已超 250 万次。

自产品发布以来,Meta 股价累计大涨超 20%,市值增加逾 2000 亿美元,截至本周一交易日收盘,创下七个多月新高。不过该股周二微跌 0.6%。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

muse ai 美国 种族歧视 丹尼尔
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论