ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

AI改声音像P图一样简单:腾讯这个1.5B小模型,一个人干了整条音频流水线

AI改声音像P图一样简单:腾讯这个1.5B小模型,一个人干了整条音频流水线

AI改声音像P图一样简单:腾讯这个1.5B小模型,一个人干了整条音频流水线

你有没有过这种经历:录了一段口播,结果里面有个字说错了,只能从头再来一遍;拍了条视频,背景里空调嗡嗡响,降噪软件一开,人声也变得像隔着棉被说话;或者想把一句歌词改掉,可旋律、音色、呼吸的节奏全都得跟着重来。

过去这些活儿,得请配音、找后期、开三四个软件来回倒腾。

而现在,这些事正在被一个只有 1.5B 参数的开源模型打包解决。它叫 AuK,腾讯混元联合上海交大开源。最近它正式被 SGLang-Omni 收录,支持“第一天就适配”,一句话总结:从“能跑起来”变成了“能扛住真实业务量”。

这件事,比模型本身更值得说道说道。

一、它到底是个啥?可以理解为“声音版的修图软件”

先别管什么扩散、什么多模态编码器,那些词听着就让人想划走。

你就把它想成 Photoshop,只不过修的不是照片,而是声音。

你把一段音频丢进去,再跟它说一句人话——“把这句话里的‘但是’改成‘不过’”“把背景噪音去掉”“把这段四川口音改成标准普通话”“把情绪改成开心一点”——它就照着做,输出一段新的音频。

最妙的是,它不只会“重做”,还会“保留”。保留你原来的音色、原来的语速、原来那句呼吸的位置,甚至是唱歌时的那口气口。改完之后听起来,还是同一个人在说话。

官方把这个能力拆成了 16 项任务,从零样本配音、指令配音,到内容替换、歌词改写、音调升降、语速调整、情绪和音色修改、方言去口音、耳语转换,再到降噪、人声分离、伴奏分离、指定说话人提取……

一个模型,把过去要装一堆工具才能干的事,摆进了同一个输入框。

二、它凭什么叫“基础模型”?因为它的学习量有点离谱

AuK 训练时用了大约 30.3 亿条“指令 + 音频”的组合,折合有效监督时长约 195 万小时。

195 万小时是什么概念?如果一个人不眠不休地听,要听两百多年。

这也是它敢自称“基础模型”的底气:它不是为某一个任务定制的专用小工具,而是先大量地“听懂”声音这件事本身,再学怎么按指令去改。

所以你会看到一些挺反直觉的效果。

比如你让它“只保留第二个开口说话的人”,它真能从几个人同时讲话的录音里,把那个人单独拎出来。你让它“只保留说某句话的那个人”,它也能靠这句话的内容定位到人。这在采访整理、会议记录、街头随机采访里,简直是救命功能。

再比如唱歌。给它一段清唱,你说把某句歌词换掉,旋律不变、声音不变,它就能给你换掉。做短视频翻唱、二创的朋友应该懂这意味着什么。

三、真正让它“飞起来”的,是那个 Flash 版本

好东西通常有个毛病:慢。

AuK 原版生成一段语音,要走三十多步采样,才能把音频一点点“擦”出来。质量是够了,但排队等的时候,人会开始怀疑人生。

于是团队做了个加速版 AuK-Flash。用的办法叫蒸馏——你可以理解成老师傅把几十年的手感,浓缩成几句口诀,教给徒弟。

结果就是:只要 4 步,而且不需要额外的引导计算,速度提升约 4.5 倍,音质却基本追平原版。

这个差别,在“偶尔生成一条”时感受不明显,但在“一次要出一百条配音”的时候,就是能不能按时下班的区别。

四、进 SGLang-Omni,到底意味着什么?

这才是这次新闻的核心。

一个开源模型“能跑”,和“能上线”,中间隔着一整个太平洋。

自己在家跑,是玩具;能稳定接住几百上千个并发请求,才是生产工具。

SGLang-Omni 就是干这个的:它是一套专为语音、多模态模型设计的高性能服务框架,最擅长的就是把“思考”“发声”“解码”这些工序拆开,各用各的节奏跑,谁也不拖累谁。

AuK 进来之后,变化很直观:

第一,启动变成了“一行命令”的事。不用自己拼装推理代码,指定模型名就能起一个服务。

第二,接口变成了业界通行的样子。它对外提供的是大家熟悉的音频生成接口,你现有的系统改个地址就能接上,不用重写一套。

第三,硬件不再是独木桥。除了英伟达显卡,它还跑通了英特尔显卡、昇腾 NPU 等平台,甚至在单张 H100 上也有另一套主流推理框架的现成方案。对很多买不到卡、或者手里只有特定硬件的团队来说,这等于门被推开了一条缝。

第四,工具链开始自己长出来。有人做了 ComfyUI 的可视化节点,拖拖拽拽就能搭一条语音流水线;有人做了 GGUF 量化版本,让普通电脑也能离线跑;还有推理平台直接把它集成进去,做成开箱可用的服务。

这就是标题里说的“悄悄长成生态”——不是官方一家在推,而是社区自己开始接枝、开花。

顺带一提,它还被选为 ICASSP 2027 音频编辑挑战赛单模型赛道的官方基线。学术圈愿意拿它当标尺,说明它不只是个好用的玩具。

五、普通人怎么玩?门槛比想象中低,但也没那么低

先说最省事的路:官方在魔搭和 Hugging Face 上都放了在线体验页,打开网页,上传一段音频,输入一句指令,就能听到结果。不用装环境,不用显卡,适合先尝个鲜。

想在自己电脑上跑,就得看硬件了。实测在原版精度下,峰值显存大约在 25GB 上下。这个数字对普通笔记本来说确实不友好。

好消息是它支持把一部分模型放到内存里,显存能省下大约 8GB,降到 17GB 左右。再配合量化版本,门槛还能继续往下压。苹果芯片的 Mac 也有了专门的支持分支。

不过得说几句实话,免得你兴冲冲装完发现翻车:

一是时长限制。目前单次生成默认卡在 30 秒左右,做短句配音、短视频片段够用,想整段有声书还得切着来。

二是它并非全能。有测评提到,情绪编辑这类“玄学任务”的成功率还不高,你说“改成悲伤一点”,它有时候只是把语速放慢了,情绪并没真的到位。

三是它更像“半成品工具”。它把最难的那部分能力开放出来了,但批量化、素材管理、多轨合成这些活儿,还得你自己或社区的工具来补。

所以它最适合谁?

自媒体创作者,用来改口误、去杂音、批量出不同版本配音;后期和剪辑师,用来做快速预演;做 AI 应用的小团队,用来当语音能力的底座;以及那群喜欢折腾的科技爱好者,拿它做点别人还没想到的事——网上已经有人拿它做 ASMR 了。

六、写在最后

回头看这几年,AI 语音的竞争早就不在“像不像人”了,而是转向“听不听得懂人话”。

AuK 走的路子很明确:不给你一堆参数和滑块,就给你一个输入框,你说什么,它做什么。这个交互方式看起来朴素,但它把专业音频编辑的门槛,从“会不会用软件”,拉低到了“会不会说话”。

再叠上 SGLang-Omni 这样的高性能底座、ComfyUI 这样的可视化外壳、量化版本这样的轻量方案,一个开源模型正在变成一套可以自由拼装的乐高。

当然,它现在还不完美,30 秒的枷锁、情绪控制的短板,都明晃晃摆在那儿。

但开源的好处就在这儿:今天不行的地方,明天可能就有人补上了。

最后想问问你:如果有一个“说句话就能改声音”的工具,你最想拿它干的第一件事是什么?是修掉那段说了八遍都没说顺的口播,还是给自己做一个专属的数字分身?

评论区聊聊,说不定你的脑洞就是下一个爆款玩法。

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进