继 Transformer 架构引发开发热潮后，AI 领域迎来新的技术范式。TypeSafe AI 近日推出 Jev 框架，该框架由 OpenAI 资深工程师、InstructGPT 及 RLHF 研究共同作者 Diogo Almeida 创建。与传统大语言模型不同，Jev 不生成自然语言，而是输出带有概率和置信度评分的结构化数据，旨在供软件直接执行快速决策。

TypeSafe 表示，在结构化决策任务中，Jev 能提供与前沿大模型相当的智能水平，但运行速度提升 40 至 200 倍，且成本大幅降低。目前，开发者已在 AI 智能体加速、游戏控制等多个场景验证了其价值。

基础设施与企业级应用

Cloudflare 已将 Jev 集成至其 AI 平台，用于处理 AI 应用中的快速结构化决策。通过 Cloudflare 的模型目录，开发者可在智能体架构中利用 Jev 进行请求路由、工具选择等关键路径决策，避免传统大模型在多轮调用中产生的延迟累积。

Vercel 则将其作为编码智能体 fx 的安全审查员。内部基准测试显示，相较于 GPT-5.6 Luna，Jev 在 P95 延迟下快 5 至 18 倍，并能提供更准确的安全分类。Vercel 随后通过 AI Gateway 发布 Jev，支持护栏、路由等类型化决策场景。

优化智能体工作流与评估

在智能体上下文管理方面，开发者 Tamara Tran 推出了 fast-jev-compaction 插件。该系统利用 Jev 对长篇编码对话进行压缩，通过评分机制移除不必要的工具调用和结果，保留关键信息，避免了传统摘要可能导致的文件路径或命令丢失问题。

Niaz Morshed 开发的 Jev Capability Resolver ( JCR ) 将 Jev 用作智能体能力路由层。JCR 通过分层树结构搜索操作，仅返回最终动作所需文档。基准测试显示，在使用 Opus 5 和 GPT-5.6-Sol 时，JCR 分别将平均智能体上下文减少 85% 和 23%，总成本降低 67% 和 16%。

类似地，开发者 Daniel San 构建的 Claude Code 模块利用 Jev 筛选相关技能，仅将选中技能的说明注入上下文，有效减少上下文膨胀，让主模型专注于任务执行。

在评估环节，LangChain 研究人员将 Jev 用作 AI 智能体评估器。在对天气智能体的 500 次重复决策测试中，Jev 与人工判断完全一致，分数方差比其他模型低 92 至 913 倍，平均延迟仅为 0.44 秒，单次评估成本 0.00035 美元。

实时控制与复杂场景模拟

Jev 在实时交互环境中表现出显著优势。Browser Use 推出的 Jev Ultrafast 浏览器智能体，通过将页面元素转换为索引表，由 Jev 在单次请求中选择点击、输入等操作。在 Google Flights 演示中，基于 Jev 的版本将中位任务时间从 9.45 秒降至 7.09 秒，浏览器协议调用从 1,092 次锐减至 101 次。

在游戏与模拟领域，Faadil Shaik 构建的 TypeSafe Mario 利用 Jev 控制原版《超级马里奥兄弟》。系统读取模拟器遥测数据并转换为结构化 JSON，Jev 据此选择移动、跳跃等指令，实现了无需视觉管道的实时控制循环。

JevBall 项目则模拟了一场由 22 个 Jev 实例独立控制的 3D 足球比赛。球员根据持球状态以不同频率（0.30 秒至 1.2 秒）做出传球、射门等决策，平均延迟 366 毫秒，每比赛分钟成本约 0.01 美元。

此外，Jev Autopilot 无人机模拟器展示了其在三维空间导航的能力。Jev 接收高度、速度及障碍物等紧凑态势报告，单次请求即可输出油门、偏航等六个控制决策，响应时间约 200 毫秒。

大规模数据分类

DAIR.AI 联合创始人 Elvis Saravia 利用 Jev 重新整理了约 2,300 篇 AI 研究论文的标签。相较于此前使用的 DeepSeek V4 Flash，Jev 在 83 秒内以 0.14 美元的成本完成了全量运行，识别出 579 个高置信度的主题变更，经人工审查后全部采纳。这一案例展示了常规生成模型与 Jev 快速结构化分类相结合的混合工作流潜力。

【星途科讯 图文丨赵晶 首发于 ZAKER 科技，转载请注明出处】