三里河 5小时前
美军不敢信任AI
index.html
../../../zaker_core/zaker_tpl_static/wap/tpl_font3.html

 

五角大楼正在陷入迷阵,它既无法像对待传统武器那样完全掌控 AI,又不想因为害怕风险而放弃追逐。

今年国际上发生的两件大事:伊朗最高领袖哈梅内伊遇袭身亡;委内瑞拉总统马杜罗被美军强行控制。据外媒报道,美军在上述行动中都使用了人工智能。

然而,短短数月时间,五角大楼却被 AI 搞得焦头烂额。

据《纽约 · 时报》报道,7 月中旬,美国空军向各大军事承包商发出了一封措辞十分严厉的信函,要求他们在 9 月 1 日前,必须彻底清除掉所有武器和控制系统软件中 Anthropic 公司的人工智能产品,否则将面临终止所有五角大楼业务的风险。

然而,近日,承包商们又收到了一封撤回令,信中称:" 他们可以,至少目前可以,无视先前关于清除 Anthropic 产品的指令。"

一个月内,禁令下达又撤回。到底用不用 AI?军事承包商心里没数,下达命令的五角大楼心里也没数。

这场混乱的源头,要从五角大楼和 Anthropic 的纠葛说起。去年这家公司和 OpenAI、谷歌等一起拿下了五角大楼的军事 AI 合同。

但 Anthropic 坚持要保留美军使用的 AI 模型中的限制,而美军拒绝被一家私企凌驾到自己头上,于是今年 2 月底,五角大楼正式将该公司列为 " 供应链风险 ",终止了其 2 亿美元的国防合同。

有已离职的美国高级官员称,当时美国政府正在用该公司的大模型进行关键测试,停止使用相当于 " 单方面解除武装 "。

布伦南司法中心的研究报告显示,自 2016 年以来,美国国防部已经拨款至少 750 亿美元给人工智能驱动的项目。实际应该会更高,因为很多机密项目的投入经费无法被统计。

美国花如此大价钱在军事 AI 上,得到的回报却不尽如人意。

五角大楼的旗舰 AI 项目 "Maven 计划 ",即用 AI 分析卫星和无人机影像、快速锁定轰炸目标,在实际战场上的表现远没有宣传中的那样神奇。

数据显示,Maven 的算法在天气良好的情况下识别坦克的准确率约为 60%,而在恶劣天气或能见度差等不利条件下,这一准确率将会骤降至 30%。

这意味着即使有天时地利,用 AI 来打击目标,10 次里也只有 6 次能成功。

有多家外媒报道分析,美以伊冲突中美军误炸当地小学造成 160 多名儿童死亡的惨剧,正是因为美军 AI 调用的攻击目标坐标来自十多年未更新的旧数据库,而这所小学所处的位置在十多年前是伊朗海军基地。

美军自己也无法信任手中的 AI。

据 CBS 报道,在摩洛哥 " 非洲雄狮 2026" 演习中,美军测试了 Overland AI 公司的全自动战斗车辆 ULTRA。但参与演习的一名军官表示:" 我绝不会放心地把需要我做出的决定委托给电脑。"

即便前线频频发出 " 失控预警 ",五角大楼的决策层却选择充耳不闻,加速将 AI 推向战场。

今年美国国防部发布了《人工智能加速战略》,提出要用 AI 重塑未来战争形态," 以战时速度运作 " 加快 AI 军事化。美国防部长赫格塞思更是直接在演讲中宣布,要 " 扫清美军内部阻挡人工智能高效发展的障碍 "。

美国中情局局长拉特克利夫将 AI 比作 " 数字核武器 ",因为它的能力足够强大。但核武器是有按钮能操控的,AI 却是开放的、每天都在变的。

如果一项技术连使用者自己都无法控制,那它能带给世界的,恐怕不是安全,而是更大的危险。

|总策划:俞岚

|策划:周锐

|统筹:王庆凯 程春雨

|执笔:戴悦

|责编:李金磊

|校对:黄蕾

|" 三里河 " 工作室出品

评论
个人电脑
1小时前
美军要炸死一个人,然后AI公司做了限制,又让导弹飞回来了[偷笑][偷笑]
乔爱茹
4小时前
肯定不能完全信任啊,知识的广度,AI远超人类,思维的深度还停留在孩子阶段。
逸•尘
4小时前
从上次openai跑出来的测试模型和用于追踪的智谱模型来看,让AI模型“合法”“规范”行为更像是模型所有者运用指令限制模型的行为,也就是说,这些掌握尖端模型的厂商完全有能力让他们的模型去攻击他们想要攻击的目标,而且AI可以完成远超人类频率的攻击次数,这对于一些科技不那么发达的国家可以说是致命的,除非完全脱离互联网,不然电网、交通网、自然灾害预警网被攻击对于一个国家来说都是极其严重的。以前这种攻击行为需要一个团体精诚协作,但是人类毕竟会有松懈会需要吃饭睡觉以及在对一些事情产生道德上的抵触,但是AI不会疲惫不会受道德约束。
大师WTU
5小时前
现在AI的最大最大问题不是算力,而是数据源头污染,记得有视频是教如何发布信息污染AI
大家都在看