【AI大模型】TensorBoard 进阶:看 Loss 曲线诊断模型问题
写在前面:Loss 曲线会“说话”
上一课讲了 Wandb,本课讲本地部署、免费无上限的 TensorBoard。很多人只会“看 loss 有没有下降”,其实 Loss 曲线的形态藏着大量诊断信息——欠拟合、过拟合、学习率过高、梯度爆炸,都能从曲线形状读出来。
本文讲透 TensorBoard 进阶用法:记录指标 → 启动面板 → 看懂常见曲线 → 据此调整训练。全文代码可直接运行。
一、TensorBoard 能看什么
TensorBoard 不只是画 loss,还能记录并可视化:
标量曲线——loss、准确率、学习率随时间变化。
分布直方图——权重/梯度的分布。
图像与计算图——模型结构。
一句话:对微调来说,最核心的是“标量曲线”,尤其是训练/验证 loss 与学习率。
二、用 Trainer 自动记录到 TensorBoard
Hugging Face Trainer 默认就会把日志写到 TensorBoard,只需指定日志目录:
from transformers import TrainingArguments args = TrainingArguments( output_dir="./tb-out", per_device_train_batch_size=4, num_train_epochs