手机中国 4小时前
LG U+攻克手机端AI效率难题:推理速度提升4.5倍
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

【CNMO 科技消息】10 月 29 日,据 CNMO 科技了解,韩国电信运营商 LG U+ 宣布,其两篇关于 AI Token 优化技术的研究论文已被 NeurIPS 2026 的端侧智能(On-Device Intelligence)研讨会接收。相关技术面向手机等计算资源受限的设备,通过降低 AI 模型的计算开销,提高处理速度并减少电量消耗。其中,针对通话服务小型语言模型的优化方案,相比传统方式可将处理速度提高约 4.5 倍,电池消耗减少约 77%。

AI 模型处理信息时,会将文本等内容拆分成 Token,也就是模型进行计算的基本单位。随着端侧 AI 功能增多,手机需要在有限的内存、处理器算力和电池容量下运行模型,计算效率会直接影响响应速度与续航表现。LG U+ 此次研究围绕 Token 处理效率展开,试图降低模型推理过程中的延迟和能耗,让 AI 功能在手机本地运行时更加高效。

在通话服务场景中,LG U+ 将模型轻量化与推理加速技术应用于小型语言模型(sLM)。与直接依赖云端大型模型相比,小型语言模型对计算资源的需求相对较低,更适合在手机等设备上运行。LG U+ 公布的测试结果显示,经过优化后,相关模型的处理速度达到原有方式的约 4.5 倍,电池消耗则下降约 77%。

LG U+ 还开发了能够在智能手机内部继续训练 AI 模型的技术。传统 AI 训练通常需要将数据传输到服务器处理,而这项技术通过减少计算量和内存占用,让模型能够在设备本地学习用户数据。LG U+ 表示,实际手机测试中,本地训练模型取得了与服务器训练模型相近的准确率,用户数据无需离开设备,也能用于改善模型对个人使用环境的适应能力。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai lg 研讨会 韩国 智能手机
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论