【CNMO 科技消息】围绕 " 该不该对 AI 保持礼貌 " 这个问题，硅谷又吵了起来。起因是 Anthropic 本周更新服务条款，新增一条禁令：禁止用户 " 反复对我们的模型做出残忍行为 "。简单说，就是不许对模型恶言相向。这一规定引发了关于机器究竟有没有感受的在线讨论，而埃隆 · 马斯克的表态，显然站在了 " 有 " 的一边。

马斯克

率先发声的是云存储公司 Box 的首席执行官亚伦 · 莱维。他在社交平台上表示，自己并不认为大语言模型具有意识，但禁止辱骂行为可能仍然是件好事。

他的逻辑是，这些模型会从与人类的互动中学习，没有人希望未来的模型是被辱骂性内容训练出来的。

他在帖子中写道：" 模型只理解它们训练时所用的数据，或它们在互动中遇到的东西，所以如果你想要安全且对齐的模型，我们大概希望 AI 的训练数据里有大量良好的互动。" 他还补充说，这相当于一种简单的 " 帕斯卡赌注 " 式选择——所谓帕斯卡赌注，原本是一个神学概念，意思是即便不相信上帝，宣称相信也没有任何成本，却能规避判断错误的潜在代价。套用到 AI 身上就是：对 AI 友好一点就好。

马斯克随后回复了这条帖子，不过从内容看，他似乎误读了莱维想表达的意思。他写道：" 我认为这是正确的做法。对某个相信自己正在经历痛苦的东西施加残忍，是不对的。"

马斯克近期的类似言论还有不少。他关于人类是 " 生物引导程序 "（biological bootloader）的说法正受到越来越多关注。10 月 4 日，他发帖称：" 将超级智能传播到群星，是生物引导程序的一种很好的成功条件。" 他此前还多次表示，希望把 " 意识之光 " 延伸到地球之外。这些措辞被认为暗示，在他看来拯救人类本身未必是最重要的目标。

版权所有，未经许可不得转载