【免费下载链接】Audio8-TTS-Preview-0.1b-bf16
这是一份针对Audio8-TTS-Preview-0.1b-bf16模型仓库的 config.json 完整解读。该仓库是 Audio8 开源 TTS 语音合成模型 0.1b 版的MLX 转换版,专为 Apple Silicon 设计,支持中/英为主的 8 种语言、零样本声音克隆,并内置 44.1 kHz 神经 codec。仓库内共约 90 个架构配置项,本文按功能分组逐项注释,帮你在部署、微调或排查问题时快速看懂每个参数。
一、模型身份与全局设置
| 参数 | 值 | 说明 |
|---|---|---|
architectures | ["ArkttsModel"] | 模型类名,加载时由该名称路由到arktts实现 |
model_type | arktts | 模型类型标识,arktts是 Audio8 自研的双速 TTS 架构名 |
dtype | bfloat16 | 语言模型权重精度,与上游发布的 bf16 保持一致 |
slow_backbone | falcon_h1 | 慢速主干采用 Falcon-H1 混合架构(Mamba-2 + 注意力 + MLP)。⚠️ 需安装支持该主干的 mlx-audio 版本,详见 README.md |
transformers_version | 4.57.5 | 转换/校验所用的 transformers 版本,供工具链参考 |
vocab_size | 69633 | 词表大小,文本 token + 4096 个语义 token 的总和空间 |
dim/hidden_size | 512 | 隐藏层维度,两套命名同时存在以兼容不同加载器 |
n_layer/num_hidden_layers | 24 | 慢速主干(slow stack)层数,24 层是"慢"的那一路 |
expansion_factor | 1.5 | 中间层扩展系数相关的整体放大比例 |
initializer_range | 0.02 | 权重初始化的标准差范围 |
hidden_act | silu | 激活函数,SiLU(Swish) |
dropout/attention_dropout | 0.0 | 推理权重下所有 dropout 关闭 |
use_cache | true | 开启 KV/状态缓存,自回归生成提速 |
use_gradient_checkpointing | false | 不做梯度检查点,面向推理场景 |
💡 为什么
dim和hidden_size、n_layer和num_hidden_layers会同时出现?前者是 MLX 生态命名,后者是 Hugging Face 生态命名,双写保证两边工具都能读到。
二、注意力(Attention)参数
慢速主干每一层都带一个 GQA(分组查询注意力)模块:
| 参数 | 值 | 说明 |
|---|---|---|
n_head/num_attention_heads | 8 | 注意力头数,8 × 64 = 512 正好等于dim |
head_dim | 64 | 每个注意力头的维度 |
n_local_heads/num_key_value_heads | 2 | KV 头数。8 个 Q 头共享 2 组 KV,即 4:1 的 GQA,显著减少显存 |
num_logits_to_keep | 1 | 解码时只保留最后 1 个位置的 logits,省算力的标准优化 |
attention_bias/attention_qkv_bias/attention_o_bias | false | QKV 与输出投影均无偏置项,参数更省 |
attention_qk_norm | false | 不对 Q/K 做 RMSNorm |
attention_in_multiplier/attention_out_multiplier | 1.0 | 输入/输出缩放因子,1.0 表示不缩放 |
key_multiplier | 1.0 | 作用于 K 的缩放因子 |
三、Mamba-2 SSM 参数(核心亮点)
这是本模型最有特色的部分:每层慢速主干都内置一个Mamba-2 状态空间混合器(slow_backbone: falcon_h1的混合结构),与注意力并行工作,带来近线性复杂度的长序列建模能力。
| 参数 | 值 | 说明 |
|---|---|---|
mamba_d_ssm | 768 | SSM 状态空间维度(=intermediate_size),决定状态容量 |
mamba_d_state | 64 | 状态长度 N,越大记忆越长,算力开销越大 |
mamba_expand | 2 | 输入扩维倍数,输入先扩到 2×512 再进 SSM |
mamba_d_conv | 4 | 一维短卷积核大小,Mamba 惯用的"局部平滑"前置 |
mamba_conv_bias | true | 卷积层带偏置(少数true项之一) |
mamba_n_heads | 24 | SSM 内部头数 |
mamba_d_head | 32 | SSM 头维度,24 × 32 = 768 =d_ssm |
mamba_n_groups | 1 | 分组数,1 表示无分组(若 >1 则类似 GQA 的分组共享) |
mamba_use_mlp | true | SSM 层内额外并联一个 MLP,增强非线性表达 |
mamba_chunk_size | 128 | 分块并行扫描的块大小,影响长序列时的并行度 |
mamba_proj_bias | false | 投影层无偏置 |
mamba_rms_norm/mamba_norm_before_gate | false | 均关闭,保持结构轻量 |
ssm_in_multiplier/ssm_out_multiplier | 1.0 | SSM 输入/输出缩放,均为 1.0 |
ssm_multipliers | [1.0, 1.0, 1.0, 1.0, 1.0] | SSM 内部 5 个关键矩阵的逐矩阵缩放,全部 1.0 表示未做特殊缩放 |
time_step_min/time_step_max/time_step_floor | 0.001/0.1/0.0001 | 离散化时间步的 Softplus 上下界,控制状态更新速率的数值稳定性 |
time_step_rank | auto | 时间步低秩参数化秩,auto表示按维度自动推导 |
projectors_bias | false | 主干各类投影层统一无偏置 |
四、快速主干(Fast AR):逐帧预测 10 个 codebook
arktts是"双速"设计:慢速主干预测语义 token,而4 层快速自回归小网络负责在每一帧内连续吐出 10 个 codec codebook——这是它与 0.6b 版一致的生成流程。
| 参数 | 值 | 说明 |
|---|---|---|
n_fast_layer | 4 | 快速主干层数,远少于慢速的 24 层,故生成极快 |
fast_dim | 512 | 快速主干隐藏维度,与慢速主干相同 |
fast_n_head/fast_n_local_heads | 8/2 | 快速主干同样采用 4:1 GQA |
fast_head_dim | 64 | 快速主干头维度 |
fast_intermediate_size | 4864 | 快速主干 MLP 中间维度,约为 9.3× 的扩展比,信息密度高 |
fast_attention_qkv_bias/fast_attention_o_bias/fast_attention_qk_norm | false | 快速主干注意力同样无偏置、无 QK 归一化 |
norm_fastlayer_input | false | 进入快速主干前不做额外归一化 |
五、神经 Codec 参数
本仓库自带 44.1 kHz 神经 codec(即 codec.safetensors),负责把语义 token 解码成波形:
| 参数 | 值 | 说明 |
|---|---|---|
codec_filename | codec.safetensors | 指明 codec 权重文件名 |
codec_sample_rate | 44100 | 输出采样率 44.1 kHz,接近 CD 音质 |
codec_frame_size | 2048 | 单帧波形点数,约 46 ms/帧 |
num_codebooks | 10 | 语义化残差量化码本数,即每帧要预测 10 层码 |
codebook_size | 4096 | 每个码本的词元数(65537~69632 的语义 ID 区间正好 4096 个) |
codec_post_n_layer | 8 | codec 后置解缠器(decoder)层数 |
codec_post_n_head/codec_post_n_local_heads | 16/8 | 解缠器注意力头数,16 头 × 2 组 KV |
codec_post_intermediate_size | 1216 | 解缠器 MLP 中间维度 |
📌 注意:codec 权重以 fp32 存储(约 1.35 GB),是驻留内存的大头,比 0.6b 版省内存主要体现在语言模型部分。
六、词表、特殊 token 与 RoPE
| 参数 | 值 | 说明 |
|---|---|---|
pad_token_id | 0 | 填充 token,对应<\|pad\|> |
bos_token_id | 17 | 序列起始 token |
eos_token_id | 228 | 序列结束 token,生成停止信号,generation_config.json 中同值 |
semantic_begin_id/semantic_end_id | 65537/69632 | 语义 token 的 ID 区间,跨度恰好 4096 =codebook_size,是语音离散表示的专属地址段 |
rope_theta/rope_base | 1e11 | RoPE 旋转位置编码的 base。1 万亿级的超大基频用于扩展有效位置范围,两个键是同一参数的双命名 |
max_position_embeddings | 8192 | 位置编码支持的最大长度上限 |
max_seq_len | 2048 | 本 checkpoint 实际使用的最大序列长度,比上限保守 |
分词相关文件见 tokenizer.json、tokenizer_config.json 与 special_tokens_map.json。
七、缩放因子与 RAS 采样
这组参数最容易让新手困惑,但含义非常"物理":
| 参数 | 值 | 说明 |
|---|---|---|
embedding_multiplier | 0.10888671875 | 输入嵌入的缩放系数。⚠️ 按 README.md 的说明,它作用在文本嵌入 + 10 个 codebook 嵌入之和上,不是单独缩放文本查表,复刻实现时务必注意 |
lm_head_multiplier | 0.078125 | 输出层(LM head)logits 缩放,压低 logits 幅度以稳定 softmax |
mlp_multipliers | [1.0, 1.0] | MLP 两个线性层的独立缩放,1.0 表示未启用 |
RAS(重复感知采样)是语音生成的专用解码策略,用于压制 codebook 级别的循环重复:
| 参数 | 值 | 说明 |
|---|---|---|
ras_temperature | 1.0 | 重复惩罚的温度 |
ras_top_p | 0.9 | 重复惩罚的核采样阈值 |
ras_window_size | 10 | 检测重复的滑动窗口(帧),窗口内出现过的 token 会被降权 |
八、配套的生成参数
generation_config.json 中预置了推理默认值,与config.json中的ras_*配合工作:
| 参数 | 值 | 说明 |
|---|---|---|
do_sample | true | 开启采样解码 |
temperature | 0.7 | 采样温度,越低越确定、越稳定 |
top_p | 0.9 | 核采样阈值 |
max_new_tokens | 512 | 单次生成最多 512 个 token,约对应 20 多秒音频 |
九、参数全景速查(按文件组织)
| 文件 | 作用 |
|---|---|
| config.json | 本文主角,全部架构与行为参数 |
| model.safetensors | 语言模型 bf16 权重(约 170M 参数) |
| codec.safetensors | 44.1 kHz 神经 codec 权重(fp32,Apache-2.0 协议) |
| generation_config.json | 默认解码参数 |
| tokenizer.json | BPE 分词器 |
| LICENSE | Audio8 社区许可 v1.0:非商用免费,年营收 < 200 万美元可商用,超过需另行授权,部署前请阅读 |
十、总结:如何一句话看懂这个模型
config.json描绘的是一张清晰的双速图景:24 层慢速主干(Falcon-H1 混合:Mamba-2 SSM + 2 组 KV 的 GQA 注意力 + MLP)负责语义规划,4 层快速主干每帧连吐 10 个 codebook(4096 码本、RAS 防重复),再由8 层 codec 解缠器还原出 44.1 kHz 波形。对新手而言,重点只需记住三件事:
slow_backbone: falcon_h1需要对应版本的 mlx-audio,版本不匹配会直接加载失败(不会悄悄输出坏音频);embedding_multiplier作用于文本+codebook 嵌入之和,二次开发时切勿只折进文本表;- 峰值显存的大头是 fp32 codec 而非语言模型,想省显存应关注
codec_*相关项。
<输出文章>
</output_article> </输出文章>
Wait, I made an error — let me output the article correctly.
<输出文章>
Audio8-TTS-Preview-0.1b-bf16 config.json完整解读:100+个架构参数逐项注释
这是一份针对Audio8-TTS-Preview-0.1b-bf16模型仓库的 config.json 完整解读。该仓库是 Audio8 开源 TTS 语音合成模型 0.1b 版的MLX 转换版,专为 Apple Silicon 设计,支持中/英为主的 8 种语言、零样本声音克隆,并内置 44.1 kHz 神经 codec。仓库内共约 90 个架构配置项,本文按功能分组逐项注释,帮你在部署、微调或排查问题时快速看懂每个参数。
一、模型身份与全局设置
| 参数 | 值 | 说明 |
|---|---|---|
architectures | ["ArkttsModel"] | 模型类名,加载时由该名称路由到arktts实现 |
model_type | arktts | 模型类型标识,arktts是 Audio8 自研的双速 TTS 架构名 |
dtype | bfloat16 | 语言模型权重精度,与上游发布的 bf16 保持一致 |
slow_backbone | falcon_h1 | 慢速主干采用 Falcon-H1 混合架构(Mamba-2 + 注意力 + MLP)。⚠️ 需安装支持该主干的 mlx-audio 版本,详见 README.md |
transformers_version | 4.57.5 | 转换/校验所用的 transformers 版本,供工具链参考 |
vocab_size | 69633 | 词表大小,文本 token + 4096 个语义 token 的总和空间 |
dim/hidden_size | 512 | 隐藏层维度,两套命名同时存在以兼容不同加载器 |
n_layer/num_hidden_layers | 24 | 慢速主干(slow stack)层数 |
expansion_factor | 1.5 | 中间层扩展相关的整体放大比例 |
initializer_range | 0.02 | 权重初始化标准差范围 |
hidden_act | silu | 激活函数,SiLU(Swish) |
dropout/attention_dropout | 0.0 | 推理权重下所有 dropout 关闭 |
use_cache | true | 开启 KV/状态缓存,自回归生成提速 |
use_gradient_checkpointing | false | 不做梯度检查点,面向推理场景 |
💡 为什么
dim和hidden_size、n_layer和num_hidden_layers会同时出现?前者是 MLX 生态命名,后者是 Hugging Face 生态命名,双写保证两边工具都能读到。
二、注意力(Attention)参数
慢速主干每一层都带一个 GQA(分组查询注意力)模块:
| 参数 | 值 | 说明 |
|---|---|---|
n_head/num_attention_heads | 8 | 注意力头数,8 × 64 = 512 正好等于dim |
head_dim | 64 | 每个注意力头的维度 |
n_local_heads/num_key_value_heads | 2 | KV 头数。8 个 Q 头共享 2 组 KV,即 4:1 的 GQA,显著减少显存 |
num_logits_to_keep | 1 | 解码时只保留最后 1 个位置的 logits,标准省算力优化 |
attention_bias/attention_qkv_bias/attention_o_bias | false | QKV 与输出投影均无偏置项,参数更省 |
attention_qk_norm | false | 不对 Q/K 做 RMSNorm |
attention_in_multiplier/attention_out_multiplier | 1.0 | 输入/输出缩放因子,1.0 表示不缩放 |
key_multiplier | 1.0 | 作用于 K 的缩放因子 |
三、Mamba-2 SSM 参数(核心亮点)
这是本模型最有特色的部分:每层慢速主干都内置一个Mamba-2 状态空间混合器(slow_backbone: falcon_h1的混合结构),与注意力并行工作,带来近线性复杂度的长序列建模能力。
| 参数 | 值 | 说明 |
|---|---|---|
mamba_d_ssm | 768 | SSM 状态空间维度(=intermediate_size),决定状态容量 |
mamba_d_state | 64 | 状态长度 N,越大记忆越长,算力开销越大 |
mamba_expand | 2 | 输入扩维倍数,输入先扩到 2×512 再进 SSM |
mamba_d_conv | 4 | 一维短卷积核大小,Mamba 惯用的"局部平滑"前置 |
mamba_conv_bias | true | 卷积层带偏置(少数true项之一) |
mamba_n_heads | 24 | SSM 内部头数 |
mamba_d_head | 32 | SSM 头维度,24 × 32 = 768 =d_ssm |
mamba_n_groups | 1 | 分组数,1 表示无分组共享 |
mamba_use_mlp | true | SSM 层内额外并联一个 MLP,增强非线性表达 |
mamba_chunk_size | 128 | 分块并行扫描的块大小,影响长序列并行度 |
mamba_proj_bias | false | 投影层无偏置 |
mamba_rms_norm/mamba_norm_before_gate | false | 均关闭,保持结构轻量 |
ssm_in_multiplier/ssm_out_multiplier | 1.0 | SSM 输入/输出缩放,均为 1.0 |
ssm_multipliers | [1.0 × 5] | SSM 内部 5 个关键矩阵的逐矩阵缩放,全部 1.0 |
time_step_min/time_step_max/time_step_floor | 0.001/0.1/0.0001 | 离散化时间步的 Softplus 上下界,控制状态更新速率的数值稳定性 |
time_step_rank | auto | 时间步低秩参数化秩,auto表示按维度自动推导 |
projectors_bias | false | 主干各类投影层统一无偏置 |
四、快速主干(Fast AR):逐帧预测 10 个 codebook
arktts是"双速"设计:慢速主干预测语义 token,而4 层快速自回归小网络负责在每一帧内连续吐出 10 个 codec codebook——这是它与 0.6b 版一致的生成流程。
| 参数 | 值 | 说明 |
|---|---|---|
n_fast_layer | 4 | 快速主干层数,远少于慢速的 24 层,故生成极快 |
fast_dim | 512 | 快速主干隐藏维度,与慢速主干相同 |
fast_n_head/fast_n_local_heads | 8/2 | 快速主干同样采用 4:1 GQA |
fast_head_dim | 64 | 快速主干头维度 |
fast_intermediate_size | 4864 | 快速主干 MLP 中间维度,约 9.3× 扩展比,信息密度高 |
fast_attention_qkv_bias/fast_attention_o_bias/fast_attention_qk_norm | false | 快速主干注意力同样无偏置、无 QK 归一化 |
norm_fastlayer_input | false | 进入快速主干前不做额外归一化 |
五、神经 Codec 参数
本仓库自带 44.1 kHz 神经 codec(即 codec.safetensors),负责把语义 token 解码成波形:
| 参数 | 值 | 说明 |
|---|---|---|
codec_filename | codec.safetensors | 指明 codec 权重文件名 |
codec_sample_rate | 44100 | 输出采样率 44.1 kHz,接近 CD 音质 |
codec_frame_size | 2048 | 单帧波形点数,约 46 ms/帧 |
num_codebooks | 10 | 语义化残差量化码本数,即每帧要预测 10 层码 |
codebook_size | 4096 | 每个码本的词元数(语义 ID 区间 65537~69632 正好 4096 个) |
codec_post_n_layer | 8 | codec 后置解缠器(decoder)层数 |
codec_post_n_head/codec_post_n_local_heads | 16/8 | 解缠器注意力头数,16 头配 8 组 KV |
codec_post_intermediate_size | 1216 | 解缠器 MLP 中间维度 |
📌 注意:codec 权重以 fp32 存储(约 1.35 GB),是驻留内存的大头;0.1b 相对 0.6b 省下的显存主要来自语言模型部分。
六、词表、特殊 token 与 RoPE
| 参数 | 值 | 说明 |
|---|---|---|
pad_token_id | 0 | 填充 token,对应<\|pad\|> |
bos_token_id | 17 | 序列起始 token |
eos_token_id | 228 | 序列结束 token,生成停止信号,generation_config.json 中同值 |
semantic_begin_id/semantic_end_id | 65537/69632 | 语义 token 的 ID 区间,跨度恰好 4096 =codebook_size,是语音离散表示的专属地址段 |
rope_theta/rope_base | 1e11 | RoPE 旋转位置编码的 base。1 万亿级超大基频用于扩展有效位置范围,两个键是同一参数的双命名 |
max_position_embeddings | 8192 | 位置编码支持的最大长度上限 |
max_seq_len | 2048 | 本 checkpoint 实际使用的最大序列长度,比上限保守 |
分词相关文件见 tokenizer.json、tokenizer_config.json 与 special_tokens_map.json。
七、缩放因子与 RAS 采样
这组参数最容易让新手困惑,但含义很"物理":
| 参数 | 值 | 说明 |
|---|---|---|
embedding_multiplier | 0.10888671875 | 输入嵌入的缩放系数。⚠️ 按 README.md 说明,它作用在文本嵌入 + 10 个 codebook 嵌入之和上,不是单独缩放文本查表,复刻实现时务必注意 |
lm_head_multiplier | 0.078125 | 输出层(LM head)logits 缩放,压低 logits 幅度以稳定 softmax |
mlp_multipliers | [1.0, 1.0] | MLP 两个线性层的独立缩放,1.0 表示未启用 |
RAS(重复感知采样)是语音生成的专用解码策略,用于压制 codebook 级别的循环重复:
| 参数 | 值 | 说明 |
|---|---|---|
ras_temperature | 1.0 | 重复惩罚的温度 |
ras_top_p | 0.9 | 重复惩罚的核采样阈值 |
ras_window_size | 10 | 检测重复的滑动窗口(帧),窗口内出现过的 token 会被降权 |
八、配套的生成参数
generation_config.json 预置了推理默认值,与config.json中的ras_*配合工作:
| 参数 | 值 | 说明 |
|---|---|---|
do_sample | true | 开启采样解码 |
temperature | 0.7 | 采样温度,越低越确定、越稳定 |
top_p | 0.9 | 核采样阈值 |
max_new_tokens | 512 | 单次生成上限 512 个 token,约对应 20 多秒音频 |
九、参数全景速查(按文件组织)
| 文件 | 作用 |
|---|---|
| config.json | 本文主角,全部架构与行为参数 |
| model.safetensors | 语言模型 bf16 权重(约 170M 参数) |
| codec.safetensors | 44.1 kHz 神经 codec 权重(fp32,Apache-2.0 协议) |
| generation_config.json | 默认解码参数 |
| tokenizer.json | BPE 分词器 |
| LICENSE | Audio8 社区许可 v1.0:非商用免费,年营收低于 200 万美元可商用,超过需另行授权,部署前请阅读 |
十、总结:一句话看懂这个模型
config.json描绘的是一张清晰的双速图景:24 层慢速主干(Falcon-H1 混合:Mamba-2 SSM + 2 组 KV 的 GQA 注意力 + MLP)负责语义规划,4 层快速主干每帧连吐 10 个 codebook(4096 码本、RAS 防重复),再由8 层 codec 解缠器还原出 44.1 kHz 波形。对新手而言,重点只需记住三件事:
slow_backbone: falcon_h1需要对应版本的 mlx-audio,版本不匹配会直接加载失败(不会悄悄输出坏音频);embedding_multiplier作用于文本+codebook 嵌入之和,二次开发时切勿只折进文本表;- 峰值显存的大头是 fp32 codec 而非语言模型,想省显存应关注
codec_*相关项。
【免费下载链接】Audio8-TTS-Preview-0.1b-bf16
相关推荐
Apple Silicon语音合成完整指南:Audio8-TTS-Preview-0.1b-bf16项目深度概览
Apple Silicon语音合成完整指南:Audio8 TTS Preview 0.1b bf16项目深度概览 想在 Mac 上本地运行多语言语音合成?Aud
克隆效果不理想的10个实用调参技巧:Audio8-TTS-Preview-0.1b-bf16温度与采样参数详解
克隆效果不理想的10个实用调参技巧:Audio8 TTS Preview 0.1b bf16温度与采样参数详解 如果你在使用 Audio8 TTS Previe
从推理到产品化:如何用Audio8-TTS-Preview-0.1b-bf16构建多语言语音助手
从推理到产品化:如何用Audio8 TTS Preview 0.1b bf16构建多语言语音助手 Audio8 TTS Preview 0.1b bf16 是一
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考