【免费下载链接】YuE2-Studio
Local AI song generator with an editable score — YuE2 on your GPU: full songs with vocals, sheet music, covers, exact replay. Native Windows app, no Python, installer with auto-update.
YuE2 Studio 是一个本地运行的 AI 歌曲生成器,它还能把生成好的歌曲做词级卡拉OK对齐:内置的 Parakeet 与 Whisper 两种语音识别引擎负责"听",配合自研的 LRC 增强算法,为每个词打上时间戳,产出所有卡拉OK播放器都认识的增强 LRC(A2)文件。本文带你理解两种对齐方案的差异、LRC 增强的原理,以及如何三步生成歌词时间轴。
什么是词级卡拉OK?增强 LRC 的价值
普通 LRC 文件只有"整行"的时间戳,播放器只能在一行内线性扫过高亮,听久了就会发现高亮和口型"漂"开了。YuE2 Studio 输出的是增强 LRC:行首一个时间戳,之后每个词前还有一个独立时间戳。
[00:01.00]<00:01.00>Neon <00:01.40>on <00:01.80>the <00:02.20>glass [00:09.00]<00:09.00>Driving <00:09.60>home有了每个词的时间,播放器与视频工作室都能让高亮精确落在正在唱的那个字上。这个能力对新手非常友好——你写的歌词原样保留,模型只贡献"时间",不会把歌词改得面目全非。
Parakeet 与 Whisper 两种对齐方案对比
YuE2 Studio 的卡拉OK 时间轴默认关闭,需要时才会下载识别组件(见 lyrics_sync.rs 顶部注释)。引擎在"设置 → 模型 → 可选附加 → 卡拉OK 时间轴"中选择,界面逻辑在 KaraokeSettings.tsx。
Parakeet:轻量快速的本地识别
- NVIDIA Parakeet TDT 0.6B 模型(约 0.7 GB),跑在 transcribe.cpp 引擎上
- 自动选择最优运行时:NVIDIA 卡走CUDA,AMD/Intel 卡走Vulkan,没有独显则走CPU
- 可选Parakeet Ultra(Moondream 微调版),俄语和嘈杂环境下错词更少
- 单次加载即可批量处理多首歌,速度快、显存占用低
Whisper:模型可选、抗干扰更强
- 使用 faster-whisper 独立运行时,CUDA 版优先,无 CUDA 时自动退回 CPU
- 模型从
tiny到large-v3共 5 档可选;官方注释明确推荐large-v3-turbo用于演唱人声(见 lyrics_sync.rs) - 内置一套幻觉过滤:识别器面对音乐和静音时常"脑补"字幕组署名、"[Music]" 之类的文字,YuE2 Studio 用 whisper_hallucinations.txt 词表把这些段整段剔除,避免污染时间轴
怎么选?一张表看懂
| 对比项 | Parakeet | Whisper |
|---|---|---|
| 模型大小 | 约 0.7 GB | 75 MB ~ 2.9 GB(按档位) |
| 显卡路径 | CUDA / Vulkan / CPU | CUDA / CPU |
| 速度 | 更快 | 档位越高越慢 |
| 适用场景 | 欧洲语言、快速批量对齐 | 复杂编曲、听不清时更准 |
| 附加能力 | Ultra 变体抗噪 | 幻觉过滤 + 多档位精度 |
官方给出的运行位置(NVIDIA / AMD·Intel / 无显卡)见 README.md 的"What runs where"表格。
LRC 增强原理:歌词不变,只借时间
这是整个功能最巧妙的设计。识别器听到的演唱人声经常是错的("on the glass" 可能听成 "arms the grass"),YuE2 Studio从不把识别文本当歌词,而是:
- 行级锚定:用单调对齐(动态规划)把每一行歌词匹配到识别流中得分最高的位置,整首一起优化而不是逐行贪心——重复副唱会按"先唱的那次"对齐,听不清的行则在相邻两行之间均匀插值,保证时间轴无空洞(align_lyrics)
- 词级落点:行内每个词寻找匹配的识别词并直接取它的时间;没匹配上的词按词长比例铺在空隙中间,高亮就不会"两个字同时亮"(align_lyrics_words)
- 防闪烁合并:起始间隔不足 2 秒的行会被合并,避免字幕一闪而过(merge_flashing_lines)
最终由 enhanced_lrc 写出上文那种"行时间 + 词时间"的增强 LRC 文本。
一键生成卡拉OK 时间轴的操作步骤
- 安装组件:打开"设置 → 模型 → 可选附加",在"卡拉OK 时间轴"分组里选择识别器(Parakeet 或 Whisper)、运行时与模型,点击下载。组件目录默认在数据目录的
karaoke\下,中断可续传。 - 开启开关:勾选"为新曲目自动生成时间轴"(KaraokeSettings.tsx 中的
karaokeEnable),之后的新曲目会自动对齐。 - 生成时间轴:在曲库歌曲菜单点"生成卡拉OK",按钮会经历"正在对齐…"到"卡拉OK 已就绪"三态(KaraokeAction.tsx)。已有的老曲目随时可以补跑。
生成后的时间轴有两个去处:播放器逐行/逐词滚动歌词,视频工作室导出带歌词字幕的视频——歌词按演唱时间"唱一句亮一句",前提正是这首歌有卡拉OK 时间轴。
常见问题:对齐失败怎么办
界面里的报错都有明确指向(zh.ts):
- 卡拉OK 已关闭 / 尚未选择识别模型:回设置里打开开关并选好引擎
- 这首曲目没有歌词:纯音乐无词可对齐,补上歌词即可
- 识别模型没有在音频中听到这段歌词:先确认歌词与音频是同一首歌;人声很轻时换 large-v3-turbo 或 Parakeet Ultra 再试
- 所选识别模型下载失败:检查网络后重试,或换另一个引擎
- Whisper 走了 CPU 而非 CUDA:确认 cuBLAS / cuDNN 运行时已随组件安装完成
总结
YuE2 Studio 的词级卡拉OK把三件事组合得很干净:Parakeet 快而轻,Whisper 准而稳,二选一即可本地跑完识别;自研的行级 + 词级对齐算法保证"歌词只借时间不被篡改";输出的增强 LRC 被玩家器和视频导出直接消费。对新手来说,只需在设置里点一次下载,之后每首歌的歌词高亮都会自动跟上演唱节奏。
【免费下载链接】YuE2-Studio
Local AI song generator with an editable score — YuE2 on your GPU: full songs with vocals, sheet music, covers, exact replay. Native Windows app, no Python, installer with auto-update.
相关推荐
实现歌词卡拉OK效果:APlayer LRC高亮动画
实现歌词卡拉OK效果:APlayer LRC高亮动画 你是否曾想过在网页播放器中实现如同KTV般的歌词高亮效果?APlayer的LRC解析模块通过精巧的时间轴匹
音视频椒盐音乐(SaltPlayer)对增强型LRC歌词格式的技术适配解析
椒盐音乐 SaltPlayer 对增强型LRC歌词格式的技术适配解析 在音乐播放器开发领域,歌词显示功能的精细化一直是提升用户体验的重要方向。近期,开源项目椒盐
Distil-Whisper vs Whisper:终极性能对比与选择指南
Distil Whisper vs Whisper:终极性能对比与选择指南 Distil Whisper 是 Whisper 的蒸馏变体,专为语音识别设计,实现
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考