论文精读 · 2026-05-24
解读 arXiv:2605.20613 HRM-Text：用分层递归架构、任务完成目标和 PrefixLM，把 1B 模型从零训练的门槛压到 40B tokens / 约 1500 美元量级。
主题归档 · 2026-04-30
数学与代码能力确实存在迁移，但不是简单对称迁移：代码更像形式化执行与工具使用的底座，常常更强地反哺数学；数学数据更强地提升抽象推理与可验证训练信号，对代码的提升依赖任务形态与训练阶段。
主题归档 · 2026-04-30
调研“按人类学习顺序组织预训练数据”的现有研究支撑：从 Bengio 的 Curriculum Learning、自步学习、NMT 中的 competence-based curriculum，到 BabyLM、TinyStories、Textbooks Are All You Need、DoReMi、ODM、Irreducible Curriculum 与最新 LLM 预训练课程实验，分析该想法的证据、边界与可研究机会。