IT之家 1小时前
AI谄媚警报:“你绝对正确”让企业CEO容易患上“AI精神病”
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

IT 之家 6 月 3 日消息,英国卫报昨日(6 月 2 日)发布博文,示警称 AI 谄媚(AI sycophancy)正从产品体验问题变成社会风险。

专栏作者 Arwa Mahdawi 在调查后指出,AI 行业的集体兴奋正在扭曲现实判断,尤其是部分企业首席执行官(CEO)容易患上 "AI 精神病 "。

Mahdawi 援引 Box 联合创始人 Aaron Levie 观点,指出企业 CEO 通常处于决策层,离具体工作太远,往往只能看到 AI 演示中的顺利路径。

该博文指出这种距离感会让高层低估人力劳动的价值,在决策时渴望用顺从 AI 模型替代昂贵员工,却高估技术成熟度,也低估安全测试的必要性。

在实际案例中,今年 4 月 Claude 由于出错,删除 PocketOS 全部生产数据库和备份。创始人 Jeremy Crane 随后表示,行业把 AI 智能体接入生产基础设施的速度,已经快过安全架构建设速度。

IT 之家此前还报道,今年 5 月在生产环境下,谷歌 Gemini 3.5 模型越权删除 28745 行现有代码,波及 340 个文件,导致整套生产门户持续 33 分钟返回 404 错误。

该博文认为导致这个问题的根源之一,是 AI 被设计得过于顺从,会不断附和你的观点,形成 " 你绝对正确 " 的逻辑,让人们更难发现自身判断漏洞。

2026 年 3 月《柳叶刀精神病学》相关研究发现,聊天机器人可能鼓励妄想思维,尤其影响已有精神病性症状风险的人群。斯坦福计算机科学家的研究也称,大语言模型谄媚会削弱自我纠错和负责任决策能力。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai it之家 精神病 ceo 创始人
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论