近日，人工智能国际顶会 ICML 2020 公布了论文收录结果，阿里巴巴以 7 篇入选论文问鼎中国科技公司。

根据 ICML 官方显示，阿里 7 篇论文涵盖在图像识别、自然语言处理、搜索推荐等领域的研究成果，其中一篇《Boosting Deep Neural Network Efficiency with Dual-Module Inference》，提出了一种全新的 AI 推理方法，可大幅减少 AI 对计算和内存资源的消耗，能将推理速度提升 3 倍。

最近几年 AI 模型变得越来越复杂化，尤其是类似语言 AI 这类复杂模型，给计算、内存资源带来了新的挑战。目前，业界通用的解决方法是采用更先进的计算性能来运行 AI 任务，例如采用 GPU、FPGA 或者 NPU 等异构计算，但该方法并没有从根源上解决问题。

阿里达摩院设计出了一种 "AI 双脑思考 " 的方法，能让大型神经网络像人类一样学会 " 快思考 " 与 " 慢思考 "，从而进行高效且准确的推理过程。

该方法被称为 " 双模推理 "， 即将一个复杂任务拆分成两个任务，例如在复杂 AI 推理任务过程中，可以先以很小的资源运行 " 小网络 "，同时分析哪些网络的区域较为敏感，然后只对敏感区域在 " 大网络 " 中运行计算。

达摩院的科学家从理论上证明了双模推理的可行性，且在 CPU 上实现了该方法。根据阿里给出数据，该方法能在保证模型精度的基础上，在语言模型上减小 40% 的访存，达到 1.54 倍 -1.75 倍的性能提升，同时可以在仅损耗 0.5% 精度基础上，提升 3 倍的推理速度。

据了解，阿里巴巴在三年前成立了内部研究机构达摩院。按照阿里方面的说法，阿里 AI 已经在国际顶级技术赛事上获得了近 60 项世界第一，500 多篇论文入选国际顶会，疫情期间研发的 AI 诊断技术，也已在全球近 600 家医院落地，完成 50 余万例临床诊断。

ZAKER 科技出品

文 / 江冬冬