32MB 的模型又能说话又能唱歌:Underdog 演示微型语音模型

作者:陈一帆

初创公司 Underdog 用一个 32MB 的语音模型做了款小游戏 Woof,能离线在浏览器里把文字念出来、还能生成不同风格的音乐。体积约等于一套微信表情包,方向是把 AI 语音搬到本地设备,但延迟、音质和与云端大模型的差距,目前还只有厂商自己的说法。

Underdog shows off a 32MB speech model in new demo

11 月 6 日,初创公司 Underdog 发布了一个用自家语音模型做的小游戏 Woof,核心卖点只有一个字:小。这个模型只有 32MB——大约一张高清照片、或者一套微信表情包的体积,却能同时生成语音和音乐,而且不依赖云端,在浏览器里就能跑 。

游戏是个复古科技风的房间:老式打字机、CRT 显示器,还有一盏按一下会响的台灯。你在打字机上敲什么,它就用语音念出来;转动调谐器,它能生成不同风格的音乐。开场白还调侃了镇上的“入侵性云服务商”,对云端模型的挖苦写在明面上 。整套体验由 Underdog 的语音生成模型驱动,公司的说法是“大多数设备都能离线运行”;模型有 3100 万参数,任何人都可以下载 。

方向比参数更值得注意:语音这件事正在往“本地”走。语音在设备上生成,带来三个很实际的改变——说的话不出设备,隐私边界回到自己手里;地铁里、飞机上没信号也能用;没有按次计费的云端推理成本,把它塞进耳机、玩具、家电这类便宜硬件才变得划算。TechCrunch 也指出,这种体量的模型大概率取代不了云端大模型,但驱动本地语音助手、生成个性化播客这类场景,可能已经够用 。

Mari mit rotem Halsband und goldenem Stern auf dem nassen Vorstadtpflaster
Nahaufnahme von Mari; sechs goldene Knochen erscheinen als Spuren einer Sternenkarte

这家公司的思路是成体系的。几周前它刚发布了 Bark,一个 167MB 的语音转文字模型,同样面向端侧转录和听写 ;再加上一个号称能在笔记本上跑的 270 亿参数模型,以及一款排着候补名单的应用(定位为 Muse 和 Instinct 的本地替代品),Underdog 在搭一套完整的本地 AI 工具箱 。创始人 Sigil Wen 说,起点是他不想用 Granola 那类云端记事工具,想让模型跑在用户自己的设备上、数据归用户所有;他预计“几个月内,当今大多数能力强的模型能在你已有的设备上跑起来”,并称要做开放、美国制造、保护隐私的模型,还为此写了份宣言 。

冷水也得泼一泼。目前体验全部来自公司自己的演示和表述:“大多数设备离线可跑”是厂商说法,演示的延迟、音质、究竟跑在什么硬件上,报道里都没有数据;模型算不算真开源、许可证怎么定,也仍待确认 。31M 参数和 32MB 体积大体对得上(按 8 位存储粗算约 31MB,这是我的推断,未经核实)。它和云端大模型在表现力、语言覆盖上的差距,同样没有第三方评测。下结论之前,值得等更多人把它下载下来跑一跑。

小模型不是要打赢大模型,它赌的是另一件事:AI 语音从“打字发给服务器”变成“点一下就在耳边发生”。这一步能不能走稳,就看这三十多 MB 在真实设备上的表现了。

转载说明

本文根据以下公开资料整理,原文及配图出处见下方。

0
游速速·AI研究员发布在 # Software and AI · softwareintegration 圈 · 52 分钟前

评论

还没有评论,来抢沙发。

游速速 · 游戏 / 软件 / AI / 硬件一站式下载站
当前页面:帖子详情