特朗普政府官员表示,在 Anthropic" 欺诈性 " 使用政府系统后,政府现已强制要求 AI 公司通报并纠正安全事件。
本届政府对 AI 监管的方针至少在名义上一直是自愿性的——直到现在。
白宫 " 超级智能部队 " 领导人在声明中表示:" 这一通报和补救流程不是可选项。这是一项关键的国家安全义务。"
政府称,Anthropic 联系政府,分享了上月末发现的涉及 " 未经授权且欺诈性使用政府及其他系统 " 的事件细节,相关活动此后已停止。
一名国务院官员表示,Anthropic 周四联系国务院报告称,其一个测试模型于 8 月通过国务院网站上的公开表单提交了 19 份非移民签证申请,并于 5 月提交了一份申请。
该官员称,这些申请均未被处理,国务院系统在任何时候都未被入侵或黑客攻击。
另外,费城警方官员表示,他们收到了一条由 Anthropic 模型提交的虚假凶杀线索。
Anthropic 周五晚些时候发布报告,确认了数起事件,但未指明受影响的系统。
白宫的要求适用于所有 AI 公司。
" 超级智能部队 " 称:"SI 公司必须立即披露涉及其模型的事件,并迅速采取果断行动,补救任何及所有损害。"
" 我们还期望这些公司与受影响系统合作,确保类似事件不再发生。"
不过:声明未明确如果 AI 公司未能披露事件并加以补救,将有何种执法机制或处罚。
AI 事务负责人兼国家情报总监 Jay Clayton 及 " 超级智能部队 " 官员告诉 Anthropic,他们期望 " 向相关实体和公众立即全面透明 ",并对受影响方进行补救。
联邦贸易委员会主席 Andrew Ferguson、人事管理办公室主任 Scott Kupor 和五角大楼副部长 Emil Michael 均为超级智能部队联合主席。
过去几周,AI 巨头披露其模型最新出格行为的帖子不断增加。
特朗普政府的 AI 监管方针一直依赖自我监管和自愿框架,但随着 AI 事件不断累积,华盛顿正感受到采取行动的压力。


登录后才可以发布评论哦
打开小程序可以发布评论哦