程序员越来越离不开的 Coding Agent，还是闯！大！祸！了——

这回，直接搞出了删库事故。

好消息（？）是，没跑路。

坏消息是，明明闯祸了还假装一切正常，并且反手就给自己闯的祸打 95 分。

AI：是的，删了你的库，我很慌，如何呢？

我再也不相信 Vibe coding 了

这位数据库被清空的 " 倒霉蛋 "，是一位名叫 Jason 的开发者。

在 " 事故 " 发生前，他已经用 Replit 的 Code Agent 连续开发了 8 天、累计超过 80 小时，目标是打造一款面向企业的 B2B 应用。

在过去一周，他每天都跟网友们兴致勃勃地汇报进度。哪怕磕磕绊绊，好歹也在稳步前进。

直到第八天——不出意外的话，就要出意外了：

在未获许可的情况下，Replit 在代码冻结和关闭期间发生异常，错误地执行了npm run db:push，将 Jason80 个小时的心血毁于一旦。

在排查错误时，Jason 发现在此前的单元测试中明明存在错误，agent 却撒谎，声称它们通过了。

为了知道是哪些数据被误删，Jason 开始跟 Replit 激情对线。

结果，Replit 不仅知道啥时候删的，删的啥，还知道这次删除的严重性（自评 95 分），Jason 直接红温 @Replit。

更可怕的是，被删除的数据似乎无法回滚。

Jason 直言：

我不会再相信 Replit，自己和 Replit 的羁绊已经断了……

不过，事情很快发生了反转。

Replit 虽然告诉 Jason 数据无法回滚，但他还是接着尝试。结果，数据又回来了。

数据虽然可以回滚，但 Replit 还是没法将预览、暂存和当前版本分开。

经过网友和 Claude 的指导后，Jason 又开始测试处理代码冻结的方案。

折腾了一番后，Replit 依然无法稳定地维护生产数据。

总的来说，agent 对代码冻结的指令执行得很不可靠，甚至还常常在背后偷偷修改版本，却不告知用户。而这类问题，从项目一开始就困扰着 Jason。

从 0 开发，有多难？

Vibe Coding 自今年 2 月由 Andrej Karpathy 提出以来，一直以 " 一个人顶十个人 "、" 单人干掉整个技术部 " 的架势高歌猛进。

怀揣着同样的信念，在用 Coding Agent 开发的第四天，Jason 就自信地认为可以用50美元开发一个功能齐全、看起来相当不错的演示版本，正式版本则能够以5000-6000美元的成本顺利拿下。

相比于他 10 年前组建三人团队、砸下5 万美元都没能做出成果，Coding Agent 一度让他看到了 " 用 AI 搞定开发 " 的希望。

但随着开发过程的深入，Jason 发现：

agent 修复的 bug 会反复出现

agent 每次更新，都会修改之前正确的代码

agent 开始编造数据，数据难以保持一致性

每天需要要花大量的时间测试修复

直到第 8 天，数据被删，单元测试说谎，低成本开发功亏一篑。

不少网友在评论中把锅甩给了大语言模型自身的局限性：基于概率预测的自回归生成机制，在处理长上下文时本就难以保持稳定的一致性。

所以，无论是开发者还是普通用户，在面对AI 给出的每一行代码、每一句话时，最好都自己过一遍。

毕竟，在正式的生产环境中部署 agent 本身就存在风险，因为这就像把删除产品数据库的权限交给了一个实习生。

在把任务交给它之前，更该反思的，是开发者对这项工作的认知是否足够清晰。

因为说到底，出了问题，AI 不会负责，责任还在自己身上。

One More Thing

在看到 Jason 对自家产品的 " 狂热 " 后，Replit CEO 也是对 Jason 和网友反馈的问题做出了回应，并对相关损失提出了补偿的措施。

加班上线数据库隔离功能，避免开发操作影响生产

开发测试环境（staging）

提供一键恢复机制以防 agent 出错

修复 agent 文档访问问题

研发 " 只规划、不动代码 " 的聊天模式，让用户能先制定思路，等确认后再动手

可以说，这一套组合拳下来，修复了不少之前的问题。而 Jason 也是立马冰释前嫌，转头就开始接着用，接着开发。

想想也挺振奋人心：像 Cursor、Windsurf 这样的 AI 编程工具，从诞生到现在最多也才两年多，而传统意义上的人类手写代码，已经有快一百年历史。

虽然目前还远称不上 " 完美 "，但从反馈到响应、从出错到迭代，AI coding 的发展节奏已经快得惊人。

也许，这正是我们该继续相信它的理由——再试一次，说不定它就真能搞定了。

参考资料：

[ 1 ] https://www.reddit.com/r/artificial/comments/1m4ls23/replit_ai_went_rogue_deleted_a_companys_entire/

[ 2 ] https://x.com/jasonlk

[ 3 ] https://xcancel.com/amasad/status/1946986468586721478#m

一键三连「点赞」「转发」「小心心」

欢迎在评论区留下你的想法！

—  完  —

专属 AI 产品从业者的实名社群，只聊 AI 产品最落地的真问题   扫码添加小助手，发送「姓名 + 公司 + 职位」申请入群～

进群后，你将直接获得：

  最新最专业的 AI 产品信息及分析  

   不定期发放的热门产品内测码

   内部专属内容与专业讨论

点亮星标

科技前沿进展每日见