THE INTERACTIVE WORKBENCHLIVE COMPUTATION

调整一个变量。
看见背后的机制。

浏览器里建立直觉,本地实验里验证假设。所有交互实时计算,无需 GPU 或 API 密钥。

EVALUATION

pass@k 不等于单次成功率

在固定样本中计算无偏估计,理解采样预算。

回到原理
同一任务,在不同采样预算下的估计
k = 1k = 20
pass@120.0%
pass@571.8%
评测预算倍数5×
WHAT TO NOTICE

更多尝试可以提高“至少成功一次”,不能替代 pass@1。

给定 n 个独立采样、c 个正确,pass@k 的组合估计为 1 − C(n−c,k) / C(n,k),要求 n ≥ k。多个任务应先分别估计,再做任务级平均。

曲线来自当前这一个任务的样本;不是新模型的泛化置信区间。浏览器展示组合公式,Python 实验提供任务级 bootstrap 和去重/污染检查。评测预算、采样温度、harness 和 verifier 都必须记录。

继续到可运行的 Python 实验

python3 -m labs.run --experiment evaluation

在项目根目录运行 · Python 3.10+ · 纯标准库 · 配置与预期输出见 labs/README.md

教学边界:这些是机制实验和离散事件模拟,不是完整 LLM 训练,也不代表任何模型或硬件的真实性能。

从这些报告开始

全文包括公式解释与图解旁注 Esc 关闭