国家知识产权局信息显示,摩尔线程智能科技(成都)有限责任公司申请一项名为 " 请求调度方法、混合专家 MOE 模型、电子设备和介质 " 的专利,公开号 CN122891657A,申请日期为 2026 年 7 月。
专利摘要显示,本公开实施例提供了一种请求调度方法、混合专家 MOE 模型、电子设备和介质,涉及服务调度领域,该方法包括:从多个历史推理请求中选出多个目标历史推理请求;目标历史推理请求与待调度的第一推理请求的相似度满足预设相似度要求;根据多个目标历史推理请求与第一推理请求的相似度从多个实例中选出目标实例;多个实例为多个目标历史推理请求调度到的实例,部署有目标历史推理请求所需的推理服务资源;将第一推理请求调度至目标实例。该实施例方案实现了将相似推理请求推送到同一个实例,能够对多种推理服务资源一次性调度,避免了重复暂停流量,降低了负载均衡导致的暂停时长,相应增加了服务吞吐量,降低了时延以及负载均衡的开销和代价。
天眼查资料显示,摩尔线程智能科技(成都)有限责任公司,成立于 2021 年,位于成都市,是一家以从事计算机、通信和其他电子设备制造业为主的企业。企业注册资本 1000 万人民币。通过天眼查大数据分析,摩尔线程智能科技(成都)有限责任公司专利信息 97 条,此外企业还拥有行政许可 1 个。
声明:市场有风险,投资需谨慎。本文为 AI 基于第三方数据生成,仅供参考,不构成个人投资建议。
本文源自:市场资讯
作者:情报员


登录后才可以发布评论哦
打开小程序可以发布评论哦