钛媒体 App 10 月 24 日消息,香港理工大学人工智能高等研究院(PAAI)研究团队发布 " 端到端 FP8 低比特训练全套方案 ",为团队在生成式人工智能(GenAI)领域最新研究成果,涵盖预训练及后训练,该技术打破全球基础模型以 BF16 精度训练的主流格局,与 BF16 相比,FP8 训练速度提高逾两成、显存峰值占用减少逾一成。在技术落地方面,团队的医疗基础大模型正联合复旦大学附属华山医院、香港伊利沙伯医院等推动合作与临床落地。(广角观察)

钛媒体 App 10 月 24 日消息,香港理工大学人工智能高等研究院(PAAI)研究团队发布 " 端到端 FP8 低比特训练全套方案 ",为团队在生成式人工智能(GenAI)领域最新研究成果,涵盖预训练及后训练,该技术打破全球基础模型以 BF16 精度训练的主流格局,与 BF16 相比,FP8 训练速度提高逾两成、显存峰值占用减少逾一成。在技术落地方面,团队的医疗基础大模型正联合复旦大学附属华山医院、香港伊利沙伯医院等推动合作与临床落地。(广角观察)
登录后才可以发布评论哦
打开小程序可以发布评论哦