前沿报告与关键范式论文,在这里连成一条路。
保留原图、证据与实验条件,把注意力放在真正改变的方法上。
把 RL 的训练、环境与评分一起做大
这篇报告把中训练、真实环境、评分计算、训练稳定性和蒸馏连成了一条完整链路。适合作为 Agentic Post-Training 的主读本。
2026FRONTIER把长上下文的能力与代价一起重做
它展示了架构与服务共同设计的前沿,同时明确声明后训练重点在数据和环境,适合纠正“每代进步都来自新 RL 算法”的直觉。
2026FRONTIER从混合架构到多教师,重新分配每一份计算
K3 不只是 K2 的规模更新。它把混合注意力、层间信息流、专家压缩与部署感知后训练放在一起,适合和旧代逐项比较。
2026FRONTIER最值得学的,是那些没有被采用的设计
这是一份架构与消融报告,不是假装完整披露全部后训练。它同时观察 loss、下游评测、效率和稳定性,尤其适合学习怎样做训练决策。
2026CONNECTION从长上下文中训练,到异步 Agentic RL
这里选 GLM-5 技术报告,因其训练阶段和异步 RL 细节充分;不把它冒充更新版本 GLM-5.3 的完整训练披露。
2024 / v2CONNECTION一份把算法、算子和集群连起来的训练报告
虽然不是最新代,V3 的公开系统细节仍是读新架构的好底座:路由、FP8、并行和部署都有可定位的说明。
2025CONNECTION从三阶段预训练,读懂能力塑形
Qwen3 的三阶段预训练和两条后训练路径公开得很清楚,是学习 pre / mid / post 接口的关键参照。
2025CONNECTION从工具库生成任务,再从环境反馈学习
K2 把工具使用的数据合成、真实执行和可验证 RL 写得具体;同时为 K3 的 optimizer 与数据演进提供参照。
2025FOUNDATION把 R1-Zero 和 R1 当作两个问题来读
这篇是理解 reasoning RL 的关键转折;同时必须区分纯 RL 观察、多阶段产品配方和蒸馏结果。
2024FOUNDATIONGRPO 之前,先看它怎么得到数学数据
这篇不仅是 GRPO 原始论文,也是数据构建与领域继续训练如何为 RL 建立起点的直接案例。
2023FOUNDATION沿着公式,看奖励模型怎样消失
DPO 的推导短而关键。读清楚重参数化、reference 和数据支持范围,才能判断何时值得用离线偏好优化。
2023FOUNDATION最终答案之外,怎样评价推理过程
这篇能建立 process supervision 的准确边界:先区分训练奖励模型、用它选答案与直接用它训练 policy。
2022FOUNDATION把示范、偏好和策略优化分开看
不是用它概括今天全部后训练,而是用这张经典系统图建立参照,之后才看得懂 DPO、RLVR 和在线蒸馏删改了哪些部分。
2022FOUNDATION把注意力的中间矩阵留在芯片上
这是从理论进入 GPU 的最好入口之一。重点是 IO 与算子调度,随后再读新版本 kernel 或新架构。
2022FOUNDATION先学会给参数和数据分预算
它提供后续所有预算讨论的参照,但不是今天每个部署场景都必须遵守的参数/token 比例。
新报告通常默认你已经了解旧方法。这里保留 DeepSeek-V3、Qwen3、Kimi K2 等关键承接,再用 Chinchilla、DPO、GRPO 和 FlashAttention 补齐范式的来路。GLM 选用披露充分的 GLM-5 报告,不将它的训练细节自动外推给更新版本。
按问题选择阅读顺序