ZAKER 科技 6 月 28 日消息,谷歌在 I/O Connect 大会上发布新闻稿,公布其新一代最强开源模型 Gemma 2。Gemma 2 有 90 亿(9B)和 270 亿(27B)两种参数规模可用。相较于早些时候推出的 Gemma 的 2B 和 7B 参数版本,Gemma 2 的性能更高、推理效率更快,并且安全性也更有保障。
为了达到更好的推理效率和性能,谷歌本次在重新设计了 Gemma 2 的整体架构,具体成果体现在以下三个方面:
1.Gemma 2 27B 在同规模级别中提供了最佳性能,甚至提供了与两倍以上大小的模型竞争的替代方案。除此之外,Gemma 2 9B 模型也提供了同类型中领先的性能,超过了 Llama 3 8B 和其他同类大小的开源模型。
图源:网络
2.27B Gemma 2 模型可在单个谷歌云 TPU 主机、英伟达 A100 80GB Tensor Core GPU 或英伟达 H100 Tensor Core GPU 上以全精度高效运行推理,在保持高性能的同时大幅降低成本。这使得人工智能部署更容易实现,预算也更合理。
3.Gemma 2 经过优化,可在各种硬件(从功能强大的游戏笔记本电脑和高端台式机到基于云的设置)上以惊人的速度运行。
为支持研究和开发,Gemma 2 还可通过 Kaggle 免费获得,或通过 Colab 笔记本的免费层获得。首次使用谷歌云服务的用户可能有资格获得 300 美元的积分。
ZAKER 科技综合 IT 之家、智东西
登录后才可以发布评论哦
打开小程序可以发布评论哦