驱动之家 19小时前
节省近50%GPU计算!通义百聆开源新一代语音交互模型
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

快科技 12 月 24 日消息,阿里通义百聆家族近日开源新一代语音交互模型 Fun-Audio-Chat-8B。

新模型兼具高智商和高情商,具备出色的共情能力,与之对话,仿佛与懂你的人聊天。

在 OpenAudioBench、VoiceBench、UltraEval-Audio、MMAU、MMSU、SpeechFunctionCall 等权威基准测评中,Fun-Audio-Chat-8B 斩获 SOTA,超过同量级开源模型。

目前,百聆家族成员包括 " 会说话 " 的语音转文字模型 Fun-ASR、" 听得懂 " 的文字转语音模型 Fun-CosyVoice3。

最新开源的模型 Fun-Audio-Chat-8B 主打语音对语音功能—— " 能听会说 "。

用户可与模型音频对话,适用于语音聊天、情感陪伴、智能设备和语音客服等多种场景。

无任何情绪标签或提示词情况下,它能通过语义、语气、语速、停顿、重音等细微信号,感知对方的情绪状态,并给出恰到好处的关切、安慰或鼓励式回应。

此外,用户可尝试角色扮演,量身定制语音的情绪、说话风格、语速、高低音和音量等。

而模型能保持 " 原有智商 ",主要得益于两个创新的音频模型训练模式。

一是采用   Core-Cocktail 两阶段训练策略,先快速学新本事,再把 " 新本事 " 和 " 老底子 " 融合起来,为了避免学新东西把原来的能力忘掉(灾难性遗忘),第一阶段训练得到的模型和原始的纯文本大模型参数合并后,再进行微调。

二是与人类偏好对齐。通过多阶段和多任务的后训练设计,模型在真实对话场景中能更好地理解用户语音内容与情绪线索,作出更自然、更符合人类期望的回应。

值得注意的是,新模型通过压缩 - 自回归 - 解压缩的双分辨率端到端设计,音频帧率降到业界最低的 5Hz,在保证语音质量的同时节省近 50% GPU 计算。

目前,用户可在魔搭社区、HuggingFace 和 GitHub 下载模型自行体验。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

开源 语音交互 gpu 智商 分辨率
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论