VeriLoop E2 – 清华大学开源的 27B 后训练模型

VeriLoop E2是什么

VeriLoop E2 是清华大学深圳国际研究生院机器人实验室开源的一个 27B 后训练模型，底子打在 Qwen3.8-27B上，主攻代码、数学与物理推理，许可证 Apache-2.0，原生 262K 上下文。它真正的看点是核心 VGR 机制：把“模型提案”和“外部验证/持久化”拆成两件事——候选状态只有在保护证据坐标无退化、且至少一项严格改进时才会被提交，不然就回滚，模型没法自证成功。

VeriLoop E2的主要功能

• 开源后训练模型：基于 Qwen3.8-27B 的 27B 模型，权重与分词器按 Apache-2.0 放出，原生上下文 262,144 tokens，可以用 vLLM 0.17.0 以 OpenAI 兼容方式对外服务。
• 代码与智能体能力：仓库级软件修复、终端/工具执行这类任务都在覆盖范围内，发布分数包括 SWE-bench Pro 76.2%、Terminal-Bench 2.1 88.8%、DeepSWE v1.1 64.6% 等。
• 数学与科学推理：冲着竞赛数学和高难度科学问答去的，报告成绩为 AIME 2026 98.3%、ArXivMath 100%、GPQA Diamond 93.9%、Apex 2025 89.6%。
• 证据闭合科学演示：发布了黎曼 ζ 零点比例 67.350003708785593% 的严格有限维证书，还有渐近引力子断层成像 T1–T9 框架与 6/6 通过的可执行证书套件。
• 可审计工程契约：公开 14 条 Golden Rules，把长周期任务约束在有界、可测试、可追溯的范围内，并明确禁止伪造成功、资源预算后置或覆盖本地约定。
• 明确边界：生产版 VeriLoop Harness、私有编排与训练数据都不在其中；科学工件与模型许可证是分开的，结果不能外推成黎曼猜想或黑洞信息悖论已被解决。

VeriLoop E2的技术原理

• VGR 的总体机制：VeriLoop-Governed Recurrence 把一次任务求解看成围绕“已保留状态”的候选状态转移。分工是这样的：模型是学习到的 proposer，负责生成候选潜变量位移或候选工件；固定 decoder 把它物化成输出；外部 verifier 在固定合同下返回受保护证据秩。提交条件很硬——候选秩要对现任秩满足弱支配，并且至少一个坐标严格改进，才走原子提交；不然现任 bundle 完整留下，只把被拒绝的那次位移写进探索记忆。
• 受保护偏序与原子提交：验证器合同先给出有序义务列表 O=(o1​,…,om​) 和秩向量 r∈N0m​ ，坐标越小意味着剩余违例越少；提交谓词 χt​=1{rt′​≺P​rt​} 要求逐坐标不恶化、同时至少一个坐标严格改善。换句话说，聚合分数变好掩盖不了单点回归，不可比或回退的候选一律拒收。提交的单位是 CertifiedBundle，把工件、潜状态、验证结果与摘要绑在一起；一旦拒绝，整个 bundle 原样保留，所以可回滚、可重放，还能由整数势下降推出严格提交次数有限。
• 证据反馈与拒绝探索：每尝试一轮，证据编译器 $\Gamma$ 都会在替换现任验证对象之前，从“现任结果—候选结果—提交决策”里算出有界模型可见特征，比如秩和压缩、改善/恶化/持平比例、提交与零秩指示等；这些特征只用来条件化下一步提案，没有提交权。被拒绝的位移则进探索记忆 Et​ ，能影响后续搜索，却覆盖不了已保护的状态——失败轨迹因此“有信息但不持久”。
• 后训练监督接口：既然 VGR 标签定义在任务级状态转移上，E2 的后训练就用上 1,841,831 条结构化记录：验证过的严格进展动作充当纠正监督，不可提交的候选充当对比负例，零秩工件充当最终生成目标。损失由成对偏好 logistic 项、动作 NLL 与生成 NLL 加权组成，训练走 QLoRA-4/bfloat16、梯度检查点、按能力面路由与 protected-core replay。报告强调，这套做法让学习改善的是“提案分布”。

如何使用VeriLoop E2

• 获取模型：从 Hugging Face 拉取 tsinghua-sigs-robot-lab/VeriLoop-E2，仓库自带的 tokenizer、chat template 与配置都别动，原样保留。
• 准备环境：装好 Python 3.12.x、PyTorch 2.10.0 + CUDA 12.9、Transformers 4.57.6、Triton 3.6.0，然后执行 python -m pip install "vllm==0.17.0"。
• 启动服务：运行 VLLM_USE_MODELSCOPE=true vllm serve <MODEL_PATH_OR_HF_ID> --served-model-name veriloop-e2 --dtype bfloat16 --model-impl vllm --language-model-only --max-model-len 131072 --max-num-seqs 16 --gpu-memory-utilization 0.92 --generation-config vllm --host 127.0.0.1 --port 8001。
• 先做冒烟测试：往 http://127.0.0.1:8001/v1/chat/completions 发一个 temperature: 0 的小请求，确认返回如 8001_OK 再接入正式流量。
• 按 OpenAI 协议调用：用 model="veriloop-e2" 的 /v1/chat/completions，Python 侧靠 OpenAI(base_url="http://127.0.0.1:8001/v1", api_key="EMPTY") 创建客户端。
• 把模板当作协议一部分：角色分隔符、工具调用语法、停止语义、推理历史格式都不要替换，哪怕权重不变，工具使用和系统行为也可能跟着变。
• 规划长上下文资源：发布 tokenizer 原生上限为 262,144 tokens，但公开验证服务长度为 131,072 tokens，要拉更长的窗口，显存与 KV cache 得自己评估。
• 区分模型与 Harness 权限：E2 只管提案、抽象、诊断和修复；证据接纳、确定性检查、提交/回滚、终止和持久化，要由你自己的 verifier/Harness 来实现。

VeriLoop E2的核心优势

• 生成与验证解耦：模型只提案、诊断和修复，接纳、回滚、终止与持久化的权力全交给外部 Harness，模型自证成功这条路被堵死了。
• 防回归的提交规则：VGR 只在“保护证据坐标无退化且至少一项严格改进”时才提交，整体分数变好也遮不住单点回退。
• 原子回滚与安全失败：被拒绝的候选会留下完整的 CertifiedBundle，失败轨迹还能复用，但不会覆盖已经验证过的状态。
• 监督信号来自真实验证：后训练用严格进展、不可提交负例和零秩终稿构造偏好/NLL目标。
• 较强综合能力：27B 这个规模就把代码智能体、终端执行、数学与科学推理都覆盖了，报告成绩包括 SWE-bench Pro 76.2%、AIME 2026 98.3%、GPQA Diamond 93.9% 等。
• 长上下文与开放服务：原生 262,144 tokens 上下文，权重 Apache-2.0，还提供经过 vLLM 0.17.0 验证的 OpenAI 兼容服务路径。
• 可审计而非只报分数：评估证据包按任务绑定身份、输出、原生执行/评估记录、通过与失败及完整性元数据。

VeriLoop E2的项目地址

• HuggingFace模型库：https://huggingface.co/tsinghua-sigs-robot-lab/VeriLoop-E2
• 技术论文：https://openreview.net/pdf?id=P6FIQILHwX

VeriLoop E2的同类竞品对比

VeriLoop E2的应用场景

• 仓库级代码修复：SWE 类任务里生成补丁、诊断回归，再由测试/评估器决定要不要保留，正适合“修改必须可验证”的维护场景。
• 终端与工具智能体：在 Terminal-Bench 类环境里跑命令、调工具、按证据决定下一步，推进与否交给通过/失败凭证说了算。
• 数学推理与竞赛求解：面对 AIME/ArXivMath 这类高难推导，多轮采样后由外部判定保留可复现解答，不至于只赌单次答案的运气。
• 科学计算与理论物理探索：黎曼 ζ、量子场论、渐近引力子这些研究中，它可以辅助提出构造、定位证明缺口。