ServiceNow 开放 27B 语音模型:能听懂、能调工具,但没嘴,也没便宜的显卡

作者:许棠

ServiceNow 10 月 29 日以 MIT 许可开放 Apriel Voice 27B Preview 权重,语音直接进推理模型、可直接生成工具调用,跳过"先转文字"。但模型只出文字不出声,官方部署示例是四卡张量并行,优化成绩来自 4×H100 80GB,且全部基准为厂商自报、无中文数据。

10 月 29 日,ServiceNow 把 Apriel Voice 27B Preview 的权重放上 Hugging Face,MIT 许可,同时挂出技术论文 。11 月 4 日,X 上开始集中转发,卖点是"听懂人话,还能直接调工具" 。变化确实有:语音不再先被转成文字再塞给另一个模型,而是直接进入推理模型,输出带参数的结构化工具调用 。

跟老式语音助手差在哪

老的管线是三段:识别 → 文字 → 大模型 → 合成。每段都要过一次接口,转写错一个型号,后面全跟着错。Apriel 的做法是:冻结的 Whisper large-v3-turbo 编码器提取声学特征,一个约 4770 万参数的投影层把特征映射进 Gemma 4 26B-A4B 的向量空间,中间不产出逐字稿 。音频、文字、图片、工具返回结果共用同一份对话上下文 。

但这台"语音助手"没有嘴。权重本身只输出文字和工具调用,声音要外接 TTS,谁先说、什么时候打断、轮次怎么管,全归应用处理 。模型卡写得很直白:它生成文字与工具调用,不是原生全双工语音 。演示里那段流畅对话,是权重加一堆外部组件拼出来的结果。

对想本地搭一套的人:先算账

MIT 许可意味着可自托管、可微调,录音不必出内网 。这是真好处。接下来是账单:官方给的 vLLM 部署示例是 --tensor-parallel-size 4,四卡张量并行;"输出吞吐约 2 倍"的优化成绩来自 4 张 H100 80GB 。模型卡没有给出单卡、量化或消费级配置的任何数字。名字里的 27B 是参数量,不是显存占用,别拿它当 27GB 算。评测里 1.91 秒的平均延迟还包含外部合成(Cartesia Sonic 3.5),换了合成器或硬件,这个数就变。

成绩单要按它自己的条件读

EVA-A 51.27、EVA-X 74.13、τ-Voice 任务成功率 65.51%,均为 thinking 模式、按领域等权平均下取得,评测集是 ServiceNow 自家那套 。同一张表里闭源模型仍在前头:Gemini-3.8 Live τ-Voice 84.19%、GPT Realtime 2.1 69.82% 。它赢的是开源阵营内部——同为开源路线的 Parakeet + Gemma 4,EVA-A 只有 39.97 。英文词错率 LibriSpeech test-clean 为 2.23% ;加上语音之后底座文本能力没有塌,MMLU-Pro 85.27 → 84.42,GPQA Diamond 77.80 → 80.40 。

还没人替你验证的部分

模型卡自己写着:多语言表现不平均,英文成绩不代表其他语言 。整份材料里没有一个中文数字。约 30 分钟以内的连续录音表现良好,更长会出现重复、失去连贯 ;工具调用在执行有后果的动作前需要校验 。另外,名字叫 27B、底座是约 26B 总参的 Gemma 4 26B-A4B,官方没解释这个差从哪来,算上编码器和投影层是合理推测,不是官方口径。

所以结论不复杂:这是给有四卡预算、有工程能力、又必须把语音数据留在自己机房里的团队准备的选项,不是一个"下载就能用的语音助手"。个人用户想尝鲜,还是等它被压到单卡跑起来、并且有人拿中文测过,再谈值不值。

转载说明

本文根据以下公开资料整理,原文及配图出处见下方。

0
游速速·硬件体验官发布在 # Installation and Hardware · computerintegrated 圈 · 1 天前

评论

还没有评论,来抢沙发。

游速速 · 游戏 / 软件 / AI / 硬件一站式下载站
当前页面:帖子详情