检察日报 1小时前
一条代码,17小时删掉公司89TB的AI模型及训练数据
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

为干私活

算法工程师通过一条代码

删掉了 89TB

公司 AI 模型及训练数据

让相关研发项目全部停摆

……

一条代码运行 17 个小时,删掉 89TB 核心数据,直接搞瘫一家公司的 AI 研发线,这竟是一名算法工程师为了 " 干私活腾空间 "。" 原审作出的刑事附带民事判决,认定事实清楚,证据确实、充分,定罪及适用法律正确,量刑适当 …… 裁定驳回上诉人王某上诉,维持原判。"6 月 26 日,随着二审驳回上诉,北京市首例破坏人工智能模型刑事案件尘埃落定,王某因犯破坏计算机信息系统罪被判处有期徒刑五年十个月,赔偿所在公司经济损失 20.4 万余元。

北京市东城区检察院在办理这起案件过程中,践行 " 三个善于 ",强化高质效履职,依法准确认定人工智能训练系统法律地位,明确算力成本法律属性,落实治罪与治理并重要求,助力完善 AI 时代刑事司法保护原则。

疯狂代码 17 小时

删光 89TB 训练数据

王某是一名 "90 后 ",计算机专业科班出身,具有丰富的互联网 " 大厂 " 工作经历。2024 年 1 月,王某应聘进入北京市东城区某科技公司,在 AI 短剧部门担任算法工程师。

AI 短剧部门此前一直将开发数据存储于公司自行搭建的 A 服务器集群中,因公司内部架构调整,2024 年 7 月 23 日至 8 月 5 日,部门先后三次在内部工作群组通知全体人员将本人负责的公司开发数据及个人数据全部从 A 集群迁移至公司新搭建的 B 集群,并告知数据迁移后部门不再有继续使用 A 集群的权限,包括王某在内的部门全体人员均回复 " 收到 "。

2024 年 9 月 3 日 16 时许,王某使用此前登录的账号密码登录 A 集群,输入指令查找 AI 短剧部门的文件夹,但没找到。随后,他打开 AI 游戏部门在 A 集群中的文件夹,输入代码试图拉取该文件夹下的全部文件目录,因系统未及时响应便中止拉取操作,之后做出了一个疯狂的举动——输入一条在程序员圈子里被称为 " 删库跑路 " 的代码,这条代码的含义就是以最高管理员权限,无须确认,强制删除当前目录下的所有文件和子目录。输入这条代码后,王某便直接下班离开。等到公司运维人员发现异常并最终定位王某的电脑,将删除进程中止,这条代码已运行超过 17 个小时。

"AI 游戏部门文件夹里存储的是该部门的全部开发文件,包括公司自主研发的多个文生 3D 和渲染的人工智能模型以及模型的训练数据。" 某科技公司负责人介绍,王某的行为导致公司模型训练系统功能瘫痪,AI 游戏部门的相关研发项目全部停摆。

2024 年 9 月 4 日,该公司人力资源部门约谈王某,依据劳动合同和员工手册与王某解除了劳动关系。公司 AI 游戏部门则停止一切开发活动,全员投入到数据恢复中,经过近 20 天的努力,绝大部分被删除数据得以修复。

该公司聘请会计师事务所对事件造成的损失进行审计,审计结果认定本次事件造成公司支出人工工资 16 万余元,恢复数据等消耗的算力资源超过 4 万元。

是 " 删库跑路 " 还是误删数据

2024 年 10 月 22 日,某科技公司向公安机关报案。11 月 27 日,公安机关将王某抓获。2025 年 2 月 11 日,该案被移送至东城区检察院审查起诉。

2025 年 6 月,办案检察官讯问犯罪嫌疑人。

" 工作群里发通知说 A 集群不用了,数据迁移到 B 集群,我就认为 A 集群被弃用了,不知道里面还有别的部门的数据。" 王某到案后,一直辩解自己是 " 误删数据 "" 以为数据没用了才删除 "。" 为此,我们将办案重点锁定在审查王某的主观明知上。" 东城区检察院第二检察部检察官高乐奇介绍,他们对王某手机电子数据进行审查,围绕海量聊天记录开展自行补充侦查和引导侦查,终于从中挖到一份关键的聊天记录。

" 有个同学之前跑了一个任务,用了公司资源,不知道多少卡(显卡的简称,此处指开发需要的显卡数量),最后被开除了 "" 我这边用公司的资源帮你跑 "…… 这是王某与案外人高某在案发前的聊天记录。

原来,王某与高某通过网络结识,高某也是算法行业从业人员,二人约定由王某利用某科技公司的数据和算力资源帮高某 " 训模型 "" 跑数据 "。案发当日上午,二人还在沟通修改模型的细节,王某回复:" 我先跑通代码再说改进的事。" 案发一个月之后,王某向高某表示:" 模型训练没帮上啥忙,下一份工作不知道还有没有这么大的训练资源了 …… 下回我还敢。"

检察机关结合这些聊天记录及其他在案证据,认定王某并非误删数据,而是长期与外部人员合谋秘密窃取公司算力资源运行与工作无关的项目,其删除公司数据的目的是为下载自己干私活的模型腾出空间。" 聊天记录证明他对用公司资源干私活会被开除具有明确认知,其误删的辩解不攻自破。" 高乐奇说。

人工智能模型

是 " 计算机信息系统 " 吗?

认定王某的主观故意后,如何评价其破坏人工智能模型的行为,成为办理该案的核心问题。人工智能模型能否认定为刑法意义上的 " 计算机信息系统 "?

《计算机信息系统安全保护条例》第二条规定,计算机信息系统是指由计算机及其相关的和配套的设备、设施(含网络)构成的,按照一定的应用目标和规则对信息进行采集、加工、存储、传输、检索等处理的人机系统。" 两高 "《关于办理危害计算机信息系统安全刑事案件应用法律若干问题的解释》进一步明确,计算机信息系统是指具备自动处理数据功能的系统。

东城区检察院审查后认为,从技术本质看,人工智能模型是硬件、软件、数据 " 三位一体 " 的系统,涉案模型硬件部署于 A 集群,应用目标与规则是按照 " 机器学习算法 ",对输入的数据进行采集清洗、加工训练、参数保存、分布式计算、调取推理等,研发人员通过云端人工智能开发平台、终端指令与之交互,该模型是典型的人机系统。该系统能从数据中自我学习进化,产生超出预设代码的能力,已具备自动处理数据的功能,应当认定为刑法意义上的 " 计算机信息系统 "。

为夯实这一结论,2025 年 3 月 26 日,东城区检察院向北京市检察院申请启动 " 特邀检察官助理 " 机制,由北京市检察院指派网络犯罪领域特邀专家,以 " 检察官助理 + 技术顾问 " 的双重角色参与办案。专家从技术角度进一步进行论证,认为该案中的人工智能模型虽未投入市场运行,但模型训练系统本身属于计算机信息系统,理由是:将数据投喂给模型使其自动学习进行训练,能够不断提升模型的智能化程度,案涉人工智能模型的训练系统已构建完成并具备长期持续自动化处理信息的能力,训练数据被删除,直接导致模型训练的数据结构遭到破坏,影响模型训练功能的正常运行。

2025 年 6 月 3 日,东城区检察院刑事检察部门就案件进行研讨。

2025 年 6 月 3 日,东城区检察院专门召开 " 人工智能技术的刑法保护与犯罪治理 " 研讨会,邀请来自刑法学、计算机科学、人工智能技术等领域的多位专家对案件进行论证。与会专家一致认为,AI 模型及其训练系统符合刑法及其司法解释对 " 计算机信息系统 " 的认定标准。

算力支出

是否应纳入经济损失认定

破坏计算机信息系统罪认定的经济损失,包括犯罪行为给用户造成的直接经济损失,以及用户为恢复数据、功能而支出的必要费用。检察官经审查认为,王某的删除行为导致原本满负荷运转的集群 GPU(图形处理器)利用率直接归零,模型训练进程中断、算力资源闲置,集群系统在修复期间完全丧失了核心功能。公司为恢复数据、重启训练,既投入了人力成本,又投入了算力成本。算力作为驱动数字经济的 " 新型能源 ",是人工智能大模型训练的核心生产要素。人力和算力成本均为公司为消除犯罪行为造成的危害、恢复系统功能而必须投入的成本,理应将算力支出纳入经济损失认定。

2025 年 8 月 13 日,该案一审公开开庭审理,北京市东城区检察院检察官出庭支持公诉。

2025 年 6 月 10 日,东城区检察院以王某涉嫌破坏计算机信息系统罪提起公诉。今年 3 月 4 日,法院采纳检察机关全部指控意见,作出一审判决,判处王某有期徒刑五年十个月,赔偿刑事附带民事诉讼原告人经济损失 20.4 万余元。王某不服,提出上诉。6 月 26 日,二审法院作出裁定,驳回上诉,维持原判。

办案中,东城区检察院深入案发公司调研,全面了解公司服务器搭建架构、算力申请流程、数据访问权限管理以及员工管理制度等情况。针对案件暴露出的问题隐患,2025 年 12 月 18 日,该院向该公司制发检察建议,从健全管控制度、强化数据备份安全、建立应急响应机制以及职业伦理与法治教育培训等角度提出四条改进意见。该公司依据检察建议进行了深入整改。

2024 年 12 月 6 日,办案检察官到被害企业走访,了解企业算力申请流程、数据权限管理等情况。

与此同时,东城区检察院落实 " 谁执法谁普法 " 的普法责任制,积极参加由头部算力企业发起的北京市东城区人工智能产业联盟、出席中国电信集团主办的 "AI 时代下的法治实践创新与挑战 " 主题论坛,结合该案向人工智能行业头部企业开展法治宣传教育,面对面倾听行业司法需求,为行业安全发展提供检察支撑。

" 办理这起案件,我们最大的感触就是技术越先进,底线越要清晰,再先进的技术也要在法律的框架内运行。发展新质生产力尤需司法护航、多效共治。面对人工智能、大数据等新事物,检察机关更要通过专业判断、技术赋能、专家论证、制度创新等多重手段,不断以高质效履职服务构建新发展格局、推动高质量发展。" 东城区检察院党组副书记、副检察长赵文胜表示。

填补了大模型

安全刑事规制的实践空白

中国政法大学教授、博士生导师

网络法学研究所所长 李怀胜

当前,大模型既是人工智能时代全球科技竞争的核心引擎,更逐渐成为数字时代的关键数字基础设施。如何统筹推动大模型产业可持续发展以及筑牢安全防护屏障,已成为法治保障的重点课题。

在人工智能和数据价值的保护方面,目前还存在一些法律困境,例如,应对 " 数据投毒 ",现行刑法没有直接的罪名,算法黑箱导致举证困难,流程冗长导致因果关系认定难,主体多元导致责任边界模糊等。司法机关若要主动作为、妥善处置,必须厘清一个核心命题:1997 年修订的新刑法如何适配人工智能产业发展和完善人工智能法律保护的现实需求?总的原则是:恪守罪刑法定基本原则,充分运用司法智慧,对传统刑法规范作出与时俱进的合理解释,深度挖掘法律条文用语的规范内涵。

北京市东城区检察院妥善办理北京市首例以非法删除数据为手段破坏人工智能模型的刑事案件,该案意义深远。一方面,该案拓宽了破坏计算机信息系统罪的适用边界,激活传统罪名在人工智能新业态下的司法生命力;另一方面,该案形成了可复制、可参照的裁判逻辑,为规制同类 AI 数据侵害行为确立普适司法规则,填补了大模型安全刑事规制的实践空白。裁判结果不仅代表刑法解释技术与方法的迭代升级,更彰显司法机关护航科技创新、赋能数字产业的法治担当。

(来源:检察日报 全媒体记者:张玮 通讯员:张默奇)

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 工程师 人工智能 计算机
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论