国家知识产权局信息显示，上海燧原科技股份有限公司申请一项名为 " 一种面向异构硬件的大语言模型算子精度验证方法及装置 " 的专利，公开号 CN122985584A，申请日期为 2026 年 9 月。

专利摘要显示，本发明实施例公开了一种面向异构硬件的大语言模型算子精度验证方法及装置，包括：在将大语言模型部署于异构硬件后，获取大语言模型调用各算子内核执行自回归推理时，由各网络层输出的第一中间隐藏状态、第一键缓存状态和第一值缓存状态；获取大语言模型调用各算子内核执行预填充推理时，由各网络层输出的第二中间隐藏状态、第二键缓存状态和第二值缓存状态；计算相同算子内核下同一网络层输出的每种状态间的差异值；基于各差异值和预设差异阈值，确定大语言模型调用各算子内核执行运算时，各网络层对应的算子集合是否存在精度异常，可以精准验证异构硬件所部署大语言模型的算子精度。

天眼查资料显示，上海燧原科技股份有限公司，成立于 2018 年，位于上海市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本 38731.6555 万人民币。通过天眼查大数据分析，上海燧原科技股份有限公司共对外投资了 18 家企业，参与招投标项目 11 次，财产线索方面有商标信息 204 条，专利信息 406 条，此外企业还拥有行政许可 12 个。

声明：市场有风险，投资需谨慎。本文为 AI 基于第三方数据生成，仅供参考，不构成个人投资建议。

本文源自：市场资讯

作者：情报员