新浪财经 19小时前
“各类新云服务商”厂商Prime Intellect收购初创公司 加速推理业务
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

10 月 20-22 日上海黄浦江畔,2026 可持续全球领导者大会再度来袭。诺奖、图灵奖得主现场讲述科技未来与趋势,更有 " 解救 " 焦虑、内卷时代的网红教授——麦克法兰与项飙现场对话!名额有限,手慢无。让我们共赴可持续之约!【点击报名】

各类新云服务商(neocloud)以及为应用开发者运行开源模型的推理服务商,正在竞争白热化的市场中寻求差异化优势。

例如,这类新云厂商之一 Prime Intellect,在 7 月的一轮股权融资中估值达 10 亿美元。该公司正收购一家初创企业,以求在英伟达服务器上运行开源模型时,相比竞争对手实现更高速度、更低成本。

Prime Intellect 联合创始人兼首席执行官文森特 · 魏瑟介绍,这家总部位于旧金山的公司将收购 Moondream。Moondream 是一家成立不久的开源模型开发企业,员工不足十人。(魏瑟未披露交易条款,但 Moondream 此前已融资 450 万美元。)

Moondream 团队分布于旧金山与西雅图,其代表作是一款开源多模态视觉语言模型,可解析、理解图像内容,例如识别仓库图片中的货箱,或是直播画面里的广告。不过魏瑟表示,Prime Intellect 收购这家公司,主要看重其团队编写高性能推理优化软件的技术能力。

魏瑟称,具体而言,Moondream 工程师精通巨内核(megakernel)技术:该技术将 GPU 上大量独立数学运算合并为一段连续运算,以此加速 AI 推理,减少任务之间 GPU 的空闲等待时间。

Moondream 介绍,他们自研了专用编译器,能够为大量模型自动生成巨内核。

巨内核并非新概念,Together AI 等其他推理服务商也曾撰文介绍相关实践。但工程师表示,以往编写巨内核基本依靠人工开发;而 Moondream 称其编译器可大幅实现自动化生成。

魏瑟提到,当前行业高度聚焦文本类 AI,而 Moondream 在图像等非文本模态模型优化方面积累的经验较为稀缺。因此 Prime Intellect 希望吸纳这批人才,服务机器人 AI、可操作电脑的智能代理等客户群体。

目前,这类客户尚未被其他新云厂商和推理服务商充分覆盖,有望成为 Prime Intellect 新的收入来源。该公司 7 月曾披露年化收入突破 1 亿美元,换算下来当时月营收略高于 800 万美元。其体量远小于其他推理服务商,例如 Fal 年化收入超 8 亿美元,Together AI 年化收入超过 10 亿美元。

上周 OpenAI 营收风波之后,大家可能会质疑这类年化收入数据的可信度。相关方确认上述数据属实。不过正如我们多次报道的那样:多数推理服务商需要把很大一部分营收支付给持有并运营服务器的云厂商;Prime Intellect 有所不同,它自主运营硬件设备。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 开源 工程师 gpu 旧金山
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论