驱动之家 08-24
小米玄戒O100 AI芯片亮相:端侧大模型提速10倍!
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

快科技 8 月 24 日消息,在今日举办的小米玄戒技术沟通会上,小米正式亮相首款自研 AI 加速芯片玄戒 O100。

作为专为端侧大模型设计的协处理器,该芯片依托先进 3D 堆叠封装技术大幅突破端侧 AI 带宽瓶颈,官方实测整体 AI 性能较传统方案提升 10 倍。

传统手机 SoC 在运行生成式 AI 任务时,普遍存在数据搬运效率偏低的问题,容易导致大模型生成卡顿、推理速度受限。

玄戒 O100 从底层传输架构优化入手,采用 6nm Wafer on Wafer 晶圆级垂直堆叠工艺搭配 Hybrid Bonding 混合键合技术,实现双晶圆垂直键合堆叠,大幅缩短数据传输路径。

硬件规格方面,玄戒 O100 实现业界领先的 1.4 μ m 超小键合间距,高密度垂直互连通道带来 1.22TB/s 超高内存带宽,带宽规格达到主流旗舰手机的 16 倍。

在运行小米 MiMo-3B 端侧大模型场景下,芯片推理速度最高可达 330Tokens/s,显著提升本地 AI 文本生成、智能总结、内容创作的流畅度。

为验证技术可行性,小米现场展示玄戒 O3 主 SoC 搭配玄戒 O100 协处理器的技术原型机,整机采用双芯协同架构,由主 SoC 负责系统调度与基础运算,O100 独立承接高强度端侧大模型推理负载。

目前小米尚未公布玄戒 O100 在量产机型上的具体落地时间。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

小米 ai 芯片 晶圆
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论