说起 AI 大模型,不少人的固有想法是模型做得越大就越好,随之而来的就是高昂的算力消耗。可放到银行的日常工作当中,并不是每一件事情都需要动用 " 重型 " 大模型。简单的信息查询、日常答疑,如果一味调用能力最强的大模型,既浪费算力,也拉高运行成本。面对这一现实难题,平安银行自研出 Paix2 智能路由模型,能够为各项任务快速分配适合的大模型资源。

在国际知名的 RouterArena 大模型路由公开评测当中,Paix2 拿下榜单第一名,并且连续近一个月稳居榜首。这份亮眼的成绩,也成为平安银行在人工智能自主创新道路上的一次重要突破。很多人好奇,Paix2 究竟强在哪里?评测数据给出了答案:在回答效果几乎相当的前提下,它可以把模型整体调用成本直接降低约 61%;同时最优模型选择得分 89.67,最优准确率得分更是达到 100%。也就是说,它既能够保证回答质量,又实实在在省下算力开销,还可以精准识别不同任务该交给谁处理。

这份优秀的答卷,离不开 Paix2 独有的 "BERT + 专家规则 + 经典推荐模型 " 三位一体架构。整套工作流程其实很好理解:第一步依靠 BERT 深度读懂用户的提问意图,先弄明白这究竟只是一句简单咨询,还是一份需要深度研读的长文本分析任务;第二步依托专家规则牢牢守住金融业务的风险底线,毕竟银行业务严谨性优先,不能任由 AI 自由发挥;再由推荐模型综合权衡回答效果与运行开销,从候选的四款能力各有侧重的大模型当中选出更合适那一个。四款候选模型各有所长,有的擅长快速回话,适合简单答疑;有的擅长深度推理分析,专门用来处理复杂业务研判。Paix2 的工作,就是做好分工匹配,简单问题交给轻快的小模型,复杂难题再启动高性能大模型,避免出现 " 杀鸡用牛刀 " 的资源浪费。
对于平安银行来说,漂亮的榜单分数仅仅只是开始,技术还是要回归真实的银行业务场景。银行每天要处理的工作五花八门,既有高频的基础业务查询,也有大量长材料梳理、复杂业务研判工作。过去不分难易程度全部用同一个大模型,海量请求之下,算力压力大、运行成本居高不下。现在 Paix2 已经正式落地应用在数字员工 " 小派同学 " 身上,服务银行内部员工的日常办公,后续还会逐步拓展到更多内部 AI 场景。借助这套智能调度方案,银行内部 AI 系统运行更加高效稳定。

技术从来不是用来冲榜单的 " 花架子 "。未来随着技术持续迭代升级,平安银行还会继续深挖 AI 的潜力,把技术优势转化成为实实在在的服务能力,给员工减负,也为广大客户带来更加高效贴心的金融服务新体验。
免责声明:本文系广告推广,内容由广告方提供,本平台仅做邀约发布,不承担任何责任,如有违规、侵权请联系我们删除。


登录后才可以发布评论哦
打开小程序可以发布评论哦