科创板日报 11小时前
声称能少烧多达7成云端Token 英特尔推出本地+云端“混合龙虾”
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

财联社 5 月 22 日讯(编辑 史正丞)对于担忧 AI 智能体过于 " 烧 Token/ 钱 " 的企业和科技爱好者而言,CPU 牛股英特尔提供了一种解决思路。

在周四发布的公告中,英特尔介绍称,公司内部 AI 超级构建团队打造了一款名为 SuperClaw(超级龙虾)的混合智能体解决方案——使用端侧芯片处理高频和涉及敏感文件的任务,同时保留接入云端模型的能力,用于高级推理和外部数据检索。

英特尔举例称,接到任务指令后,SuperClaw 会率先区分用户提交的任务是否能由端侧 " 小 " 模型完成。同时在任何任务被提交给云端大模型之前,SuperClaw 都会执行具备隐私感知能力的路由与数据最小化处理。

公告称,通过这样的操作,在面向企业的 AI 工作流中,能节约高达 7 成的 Token 消耗

英特尔也表示,这种有效利用本地算力的方式,提供的产出能与单纯利用最先进云端大模型相近,在某些情况下还能更加优越

(SuperClaw 在 LLMrouterbench、SWEbench 基准测试中的准确率结果)

公司还计划在未来版本中,加入自定义隐私策略的支持,使得企业能够根据自身需求定制 " 哪些数据不能上传至云端 "。这项功能对于政府机构、医疗、法律服务等行业至关重要。

这项技术也有一定的局限性:英特尔表示该智能体面向利用 18A 工艺的最新一代酷睿 Ultra 3 系列处理器,以及锐炫专业版 B 系列显卡,且 " 平台性能越强 ",整体体验(包括速度、运算成本和准确性)就越出色。

英特尔表示,SuperClaw 已经吸引华硕、宏碁、微星、联想和微星等 OEM 厂商的关注,该软件的测试版将于 6 月下旬开放下载

题外话:连头部科技公司都头疼的 AI 账单

随着 Claude Code 等 AI 工具在现代职场的采用率越来越高,一些大型企业已经闻到 "AI 烧钱 " 的焦糊味道。

上周有消息称,科技巨头微软已经要求体验与设备团队(包括负责 Windows、Microsoft 365、Outlook、Teams 和 Surface 的工程师)在 6 月底前逐步停止使用 Claude Code,转而使用微软自研的 Copilot CLI。有知情人士透露,除了引导员工使用自家产品外,这同样也是一个 " 财务决策 "

6 月 30 日是微软财年的最后一天,7 月开始取消 Claude Code 订阅也是控制新财年运营支出的方式之一。

更加直白的是出行巨头优步的首席技术官 Praveen Neppalli Naga。

他在 4 月中旬对媒体表示,开年才没几个月,公司的 AI 预算已经用完了

优步是众多鼓励员工尽可能使用 AI 的公司之一,其内部甚至设立了 " 排行榜 ",对使用 AI 最多的软件工程师进行排名。Neppalli Naga 当时也透露,在其后端系统的代码更新中,约 11% 由 A 智能体编写,而三个月前这一比例仅为不到 0.1%。

英伟达的应用深度学习副总裁布莱恩 · 卡坦扎罗也在 4 月底时透露:" 在我的团队中,使用算力的花费已经‘远远超出’公司支付给工程师的薪水。"

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

英特尔 ai 微软 龙虾 职场
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论