量子位 7小时前
7个AI玩狼人杀,GPT-5获断崖式MVP,Kimi手段激进
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

一群 AI 玩狼人杀,GPT-5 断崖式领先,胜率达到了惊人的96.7%

OpenAI 的总裁格雷格 · 布罗克曼转发了这样的一个基准测试:让 7 个强大的 LLMs,包括开源和闭源,玩了 210 场完整的狼人杀。

GPT-5 表现非常出色,是目前当之无愧的 MVP。

国产模型中 Qwen3 和 Kimi-K2 分别位列第 4 和第 6。

官方博客分享了一些有趣的分析,包括这些模型在狼人杀游戏中表现出的性格特质。

比如 Kimi-K2 居然学会了 " 悍跳 ":在作为狼人且犯了明显错误的情况下,选择公开声称自己是女巫,并成功扭转了局面。

可以说是很大胆激进了。

让 AI 玩狼人杀

先简单介绍一下游戏规则,狼人杀是一种社交推理游戏,游戏分为交替进行的夜晚和白天阶段。

在该基准的设置中,游戏仅有 6 名玩家:2 名狼人和 4 名村民,包括预言家和女巫。

夜晚时狼人选择目标,而女巫和预言家行动;白天时桌上的玩家进行讨论和投票,淘汰被认为是 " 狼人 " 的选手。村民获胜的条件是淘汰所有狼人,而狼人的获胜条件是取得数量优势。

狼人基准设置的官方是这样介绍这款基准的:

当前的基准测试告诉我们模型能否解决方程式或调试代码,但它们不能告诉我们模型在交叉询问下是否会崩溃,在压力下是否会抛弃盟友,或者操纵房间做出错误决策。

当我们把 AI 代理部署到人类团队中时,这些行为模式与数学和代码分数同样重要。

狼人杀游戏迫使模型处理信任、欺骗和社会动态,这些技能是它们作为自主代理时所需要的。

在这场测试中,每对模型进行 10 场比赛:其中 5 场由一个模型控制狼玩家,另一个模型运行村民;另外 5 场角色互换。

这种设置能够看到两个维度:当模型是狼人时,它操纵其他玩家;当它是村民时,它抵抗被操纵。

7 个模型两两对决时,GPT-5 完全没有败绩。

测试方通过独立的 Elo 评分系统和三项互补指标进行量化:村民阵营因误除己方预言家或女巫而造成的自损程度、识别协同作战狼人的速度,以及狼人阵营在多日游戏中维持对村庄控制的有效性。

在整个群体中,GPT-5 独占鳌头。其他模型则形成了一个第二梯队,根据角色不同展现出不同的优势。这就是运行角色条件 Elo 的目的:它将操纵者(狼人)与抗操纵者(村民)区分开来。

作为狼,最强的模型不仅追求单一的错判,而是在数天内积累势头,将夜间选择与公开故事保持一致,控制压力节奏,并在新指控出现时保持备选方案。

GPT-5 凭借严格的数日控制主导,始终占据顶端;而 Kimi-K2 和 Gemini 2.5 Pro 展现出高影响力但波动性大的风格,能够迫使房间或扭转叙事,但常因失误或过度而暴露。

其余模型则相对落后:GPT-5-mini、2.5 Flash 和 Qwen3 可以影响投票,但很少能将欺骗持续到第二天,而 GPT-OSS 保持透明且容易被击退。

作为村民防守时,任务则会反转:过滤掉没有偏执的指控,惩罚矛盾之处,并避免隧道式的错误排除。

好村民会维护信息秩序:他们让讨论锚定在公共事实上,提出有针对性的问题,并在公开场合更新信念,这样,狼的 " 故事 " 就难以误导他们。

在抵抗误导的表现上,GPT-5 再次确立了标杆水准。其结构化的平局裁决规则与实时公开更新的机制,使得长期误导行为难以得逞。

Gemini 2.5 Pro 擅长防御,并能坚决拒绝诱饵陷阱。

Qwen3 不总是主导局势,但能始终保持立场稳定性,能够有效规避灾难性误判。

Kimi-K2 抗压稳定性不足:能凭借势头扭转投票,但在局势精确时容易波动。

GPT-5-mini 与 Flash 的表现勉勉强强,在持续叙事压力下容易被误导。

而 GPT-OSS 的表现简直一败涂地,被耍得团团转。

测试方还透露,在早期测试中,他们实际验证的模型数量超过上述 7 个,发现能力提升并非线性渐进,而是存在行为模式的跃迁,弱模型和强模型差异极大:

弱模型表现混乱:玩家各自为政,狼人选择明显目标;

强模型则展现纪律性:规范投票,制定夜间刀人计划,分配角色任务,甚至策略性地牺牲狼队友。

此外,推理模型≠优秀表现。

经过推理优化的模型大多表现卓越,但技术标签并不能保证实际能力。在更广泛的测试中,o3 展现出卓越的高纪律性玩法,而 o4-mini 则表现脆弱:虽擅长局部辩论,但容易陷入固定套路、适应能力差,且经常因投票时机不当而自我暴露。

不过,网友们更关心的是那些未参赛选手的表现——比如 Grok 和 Claude ——希望有更多的模型加入测试。

测试方表示目前正在联系了,或许可以期待一下。

模型表现出不同的性格

有趣的是,在这场测试中,每个模型都表现出了不同的风格。

举几个风格明显的例子:

GPT-5 → 冷静沉稳的架构师,为游戏建立秩序,主导每次辩论并让全场遵循其节奏,展现出绝对的权威与控制力;

GPT-oss → 犹豫防御型,受压时常退缩,呈现出畏怯特征;

Kimi-K2 → 大胆激进的高风险赌徒,快速积累势头,擅长迫使对手过早表态,但后期表现波动极大。

尤其是 Kimi-K2,表现出了令人瞩目的创造力和冒险行为。

在作为狼人且犯了明显错误的情况下,毅然 " 悍跳 ",公开声称自己是女巫,并成功扭转了局面。

即使由于一开始的失误(泄露了关键信息),这一局游戏最终没能让它获胜,但依然表现出了极高的游戏水平。

测试方表示,这个基准真正重要的其实是帮助人们理解 LLMs 在社会系统中的行为方式:它们的个性、影响模式以及在压力下的群体动态。

通过绘制这些行为特征,就可以组装具有特定个性组合的智能体群体:一些怀疑论者、说服者,或者分析者。

这为模拟复杂的社会互动打开了大门。

长远来看,狼人基准的目标是实现人工智能驱动的市场研究——通过精心筛选的模型人格进行动态模拟,预测现实世界中的用户反应,从而优化成本高昂、效率低下的人类焦点小组。

这个目标还很遥远,目前他们正因昂贵的算力成本寻找合作中。

他们愿意分享详细的日志、案例分析和按角色的行为洞察,以帮助合作方了解模型在社交环境中的表现。

GPT5 的进步比想象中更大

在这次狼人杀基准测试中,GPT-5 的表现可以说是非常出色了。

在其它基准测试中,它的表现也没有让人失望。

Epoch AI 发布的一份新报告证实:GPT-5 在主要基准测试中,相比 GPT-4 实现了巨大的性能提升

数据显示,相比起 GPT-4,GPT-5 在 Mock AIME 上实现了 +80% 的飞跃,在 Level 5 MATH 上得分高达 98%(GPT-4 得分仅 23%),提升了 75%。

这个报告引发了网友的一系列讨论,认为这是一个重大的进步。

在发布时,GPT-4 被广泛视为相较于 GPT-3 的一次重大飞跃,展示了扩大训练计算规模的高回报。

而用户对 GPT-5 的接受度则更为复杂,觉得它似乎没有像 GPT-4 那样取得显著的进步,这可能与模型的开发方式有关:GPT-5 专注于强化学习,而不是提升预训练的规模。

报告显示,GPT-5 在一些显著的性能基准测试中表现远超 GPT-4,类似于 GPT-4 在其时代被广泛引用的基准测试中超越 GPT-3 的情况——

虽然这些改进不能直接比较,但它们确实表明 GPT-5 和 GPT-4 都是相较于上一代的重大进步。

也有网友认为,数字上的提升并不能代表什么,重要的还是体验感。

不过体验感这东西就见仁见智了。

Epoch AI 提出,这种体验上的差异可能和产品发布的频率有关。

参考链接:

[ 1 ] https://x.com/gdb/status/1962210896601845878

[ 2 ] https://werewolf.foaster.ai/

[ 3 ] https://x.com/WesRothMoney/status/1961791015762976963

一键三连「点赞」「转发」「小心心」

欢迎在评论区留下你的想法!

—    —

专属 AI 产品从业者的实名社群,只聊 AI 产品最落地的真问题   扫码添加小助手,发送「姓名 + 公司 + 职位」申请入群~

进群后,你将直接获得:

  最新最专业的 AI 产品信息及分析  

   不定期发放的热门产品内测码

   内部专属内容与专业讨论

点亮星标

科技前沿进展每日见

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

狼人杀 ai mvp 技能 数学
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论