论文精读 · 2026-10-05
Harvard 团队用 MCMC 采样把 off-policy 专家数据逐步"搬"近 base model 分布，让最普通的 SFT 在泛化和遗忘两个维度上同时打赢 on-policy RL 与自蒸馏。
论文精读 · 2026-10-02
USTC/复旦的新工作：从 O*NET 职业种子出发抓真实文件构建工作区，用证据图编译任务与评分 rubric，2,169 条轨迹让 Qwen3.6-27B 的 GDPVal 提升 65.7 Elo。
主题归档 · 2026-06-16
梳理带 think/反思轨迹的 SFT 为什么会有 off-policy 问题，以及从 CoT、搜索轨迹、RL 到 OPD/Agent OPD 的最新研究进展。
主题归档 · 2026-06-15
系统梳理 think/reasoning 模型 SFT 与传统 instruction SFT 的差异，分析 DeepSeek-R1、s1、LIMO、STILL-2、Sky-T1、OpenThoughts、Qwen3 等代表工作，并讨论 long-CoT SFT、cold-start、蒸馏、verifier、RLVR、test-time compute 与 latent reasoning 的关系。
论文精读 · 2026-06-10
这篇 position paper 认为，当前 LLM 的大规模后训练正在把评测分布变成训练分布；即使从随机初始化开始，只靠数学/代码 SFT 数据也能在对应 benchmark 上取得不低成绩，因此很多“推理能力”可能首先是分布拟合能力，而不是开放泛化能力。