第一台「机器人杀手」来自 1979 年
蛋奶04-17

 

1979 年 1 月 25 日,位于密歇根的福特汽车公司铸造厂里,25 岁工人 Robert Williams 需要爬上一个大型货架,给货架上的零件手动计数。因为工厂里五层楼高的计件机器出现了读数错误,所以 Williams 需要亲自去计数。

Williams 爬到上面开始工作时,一只机器手臂也处于运行状态。很快,机器手来到 Williams 身边,撞到了他的头,他当场死亡。机器手还在继续工作,而这名工人的尸体直到 30 分钟之后才被发现。

在那个冬日,Williams 成了历史上第一个被机器杀死的人。

这样的事件完全是机器的无心之失。当时的工厂没有相关的保护设施和警报措施。1979 年的人工智能还没有发展到能够预防这种事情的程度。最后,陪审团裁定,机器在设计时没有将这种事情考虑进去,Williams 的家人得到了 1000 万美元的赔偿金。

第二例机器杀人事件发生在两年后的日本,情况也类似:机器没有感应到 37 岁工人 Kenji Urada 的存在,无意中造成了他的死亡。


CREDIT: 锐景创意

随后,机器人专家、电脑学家和人工智能专家一直在努力解决这个问题,他们想让机器安全地与人类互动。

几十年后,人类因机器而死的报导似乎越来越常见。Uber 和特斯拉的自动驾驶车辆就曾因为杀死乘客或撞到路人而上了新闻。虽然现在的安全设施越来越发达,但问题仍然存在。

虽然这些死亡事件都不是机器有意为之的,但受到《终结者》和《黑客帝国》等电影和小说的影响,人们很担心人工智能会发展出自我意志,最终伤害人类。

牛津大学科学家 Shimon Whiteson 将这种担忧称为 " 拟人化错误 ",这种谬论认为 " 拥有与人类相似智力的系统也一定拥有类似人的欲望,比如求生欲、自由欲望和对尊严的渴望等。但这是不可能的,因为一个系统只会拥有我们所赋予的欲望。"

他认为价值观偏差才是对人类的更大威胁,即程序员所下达的命令可能与他们的真实意愿有所不同,即机器不能完全理解人类的命令。随着电脑变得越来越智能化和自动化,价值观偏差导致的结果将更为严重。

另外,他认为出于军事目的而故意设计的杀人机器才更可怕。这也是为什么全球的 AI 和机器人专家都呼吁禁止发展这种技术。联合国也因此将在 2018 年讨论是否应该对机器人杀手进行管理,以及如何管理。

本文译自 howstuffworks,由译者 蛋奶 基于创作共用协议 ( BY-NC ) 发布。
原作者:BRYAN YOUNG

原网页已经由 ZAKER 转码以便在移动设备上查看

评论
StEveninHell
04-17
1979年赔1000w刀?......
大家都在看