Reasoning with Sampling: Your Base Model is Smarter Than You Think链接https://arxiv.org/pdf/2510.14901本文提出了一个新的逻辑不需要进行后训练仅仅通过调整采样就能达到接近 GRPO 或者超越 GRPO 的效果。基本逻辑可以概括为RL 其实并没有提供模型不存在的推理能力只是把模型本身就能做对的路径提升了概率提升了 pass1 但是不一定提升了 passk。我们只看某个 token 的维度的话其实我们忽略了整体回答的概率。比如词表只有 a, b概率分别 aa0, ab0.4, ba0.25, bb0.25但是第一个 token 为 a 概率 0.4为 b 概率 0.5这样第一个 token 倾向于 a但是整体路径来说是 ab 更高。Why Supervised Fine-Tuning Fails to Learn: A Systematic Study of Incomplete Learning in Large Language Models链接https://arxiv.org/pdf/2604.10079本文提到了 SFT 存在的根本问题有些样本根本没有被学习到。我们可能很少思考这样的一个问题在训练集上有多少样本被模型学到了SFT训练中存在不完全学习现象以及给出了对应的方案。这篇文章对于做SFT的同学是一个比较深刻、系统性的文章。 【后训练相关论文】杂文
Reasoning with Sampling: Your Base Model is Smarter Than You Think链接https://arxiv.org/pdf/2510.14901本文提出了一个新的逻辑不需要进行后训练仅仅通过调整采样就能达到接近 GRPO 或者超越 GRPO 的效果。基本逻辑可以概括为RL 其实并没有提供模型不存在的推理能力只是把模型本身就能做对的路径提升了概率提升了 pass1 但是不一定提升了 passk。我们只看某个 token 的维度的话其实我们忽略了整体回答的概率。比如词表只有 a, b概率分别 aa0, ab0.4, ba0.25, bb0.25但是第一个 token 为 a 概率 0.4为 b 概率 0.5这样第一个 token 倾向于 a但是整体路径来说是 ab 更高。Why Supervised Fine-Tuning Fails to Learn: A Systematic Study of Incomplete Learning in Large Language Models链接https://arxiv.org/pdf/2604.10079本文提到了 SFT 存在的根本问题有些样本根本没有被学习到。我们可能很少思考这样的一个问题在训练集上有多少样本被模型学到了SFT训练中存在不完全学习现象以及给出了对应的方案。这篇文章对于做SFT的同学是一个比较深刻、系统性的文章。 RELATED READING
延伸阅读
更多一线实战笔记与深度复盘，助您持续精进
