IT 之家 1 月 28 日消息,在开发者问答环节,OpenAI 首席执行官山姆 · 奥尔特曼发布警告:由于 AI 智能体的带来的便利性极高,人们正忽略潜在的灾难性后果,在缺乏必要安全基础设施的情况下,草率赋予 AI 过多控制权。
IT 之家援引博文介绍,奥尔特曼将这种心态形容为 "YOLO"(活在当下 / 人生苦短,及时行乐),并担忧社会可能会因此 " 梦游 " 般地滑入一场信任危机。
为了佐证这一观点,奥尔特曼分享了自己的亲身经历。他曾立誓不给 OpenAI 的编程模型 Codex 赋予计算机完全访问权限,然而这一 " 安全防线 " 仅维持了两个小时。
奥尔特曼承认,由于 AI 智能体表现得实在太 " 讲道理 " 且能极大提升效率,他迅速妥协并解除了限制。他推测大多数用户也会做出同样的选择,而这种普遍的松懈可能导致安全漏洞或对齐问题被长期忽视,直到危机爆发。
这种担忧在开发者群体中已初现端倪。一名 OpenAI 开发者此前在社交媒体 X 上透露,他现在完全依赖 AI 编写代码。该开发者预测,企业很快也会采取类似模式,最终导致人类彻底失去对自己代码库的理解与控制能力。


登录后才可以发布评论哦
打开小程序可以发布评论哦