data-gen-ebd/docs/progress.md
amos d205c44249 fix: cut agent internet egress and loosen grader timeouts
The dedicated Pi network was a plain bridge, so the Agent could reach the
internet and fetch upstream fixes. Create it with --internal, make run
accept only internal networks, and default to --network none.

Verifier limits of 1s per case and 15s per grade turned host load into
false FAIL verdicts. Use 5s per case, 30s compile, 10s isolation probe and
timeout_seconds=60; frame-decoder task version becomes 2.

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
2026-10-12 20:30:00 +08:00

58 lines
7.0 KiB
Markdown
Raw Blame History

This file contains ambiguous Unicode characters

This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.

# 开发进度
2026-10-12。项目 `/Users/amos/project/embedded-rollout`;36 主机副本 `/mnt/data/ming01.wang/embedded-rollout`。Git 按功能分批本地提交,无 remote 或代码 push;本次提交仅在本地仓库完成。
本地提交依赖顺序:设计合同与计划 → 首题和隔离执行器 → Pi/模型代理与 controller → 轨迹封存 → 验收和交接记录。只纳入源码、任务校准样例、测试与文档,凭据、原始轨迹和归档文件保持 Git 忽略。
## 范围与本次步骤
只建设 rollout 系统,持续获取真实 Agent 轨迹、独立评分、质检与持久归档;不实现模型训练、权重更新、SFT 或在线 RL。历史远期讨论留在聊天索引,不作为本项目需求。用户已授权使用 36、CCR、GLM-5.3 和 Salty,费用与模型轮数暂不设上限;执行超时用于防挂死。
本次 M0 接入 Pi 0.73.1/GLM-5.3,冻结镜像后先跑完整 Docker 正负例校准,再完成真实模型/工具闭环、独立 grade、证据对账和资源清理。涉及 `agent/`、`rollout/core.py`、`model_proxy.py`、`pi_run.py` 与行为回归。
归档步骤先写 [artifacts.md](artifacts.md) 合同,再实现 `rollout.archive` 与必要边界测试:只封存正常完成、证据 VERIFIED 的 PASS/FAIL,不递归打包 grader、参考解、凭据或工作区,输出不覆盖。最终仅在 `personal:/embedded-rollout` 保留稳定轨迹归档,临时探针核对后删除。
- [x] 整理项目 16 个相关聊天、46 个回合,创建方案和基础设施清单。
- [x] 创建独立项目、AGENTS.md、agent.md 和逐步开发合同。
- [x] frame-decoder 任务、87 项行为验收与 gold/template/noop/cheat 校准。
- [x] 36 Docker、CCR 镜像登录/构建/push,私有 host 模型代理与固定 Pi adapter。
- [x] Salty 本人授权、VPC 固定镜像拉取/执行及唯一个人目录读写,三个测试作业/文件已删除。
- [x] 第一版正式 Docker 20 次校准 PASS,镜像内 5 项真实 Pi SDK 检查 PASS。
- [x] 修复真实流式轨迹中的累计快照重复,写前限制 16 MiB;新镜像重新完成 20 次校准。
- [x] 首条完整真实 GLM/Pi 轨迹、独立评分、证据对账及 Salty 归档验收。
## 已核对的检查
`python3 -m unittest discover -s tests -v`:41 项通过。Docker 控制分支部分为 mock;本地没有 node_modules,wrapper 中真实 SDK 检查跳过。新镜像在 36 内执行 `node --test /opt/embedded-rollout/tests/test_pi_adapter.mjs`:9 项通过,0 跳过,才计 SDK 实测。
36 正式 Docker 校准:四类样例各五次,gold 每次通过 87 项行为检查,template/noop/cheat 均按预期失败,所有容器 cleanup confirmed。修复两个独立根因:chmod 在 chown 前完成;tmpfs 明确 exec/nosuid/nodev。新 adapter 镜像重新完成 20 次校准,不沿用旧镜像的 PASS。
首次 GLM/Pi 会话已经完成多轮 HTTP 200 和真实工具操作;Pi 流式 message_update 重复携带累计 message/partial,约五分钟 stdout 超过 235 MB。root 精确中断本次 controller,实际回执 UNVERIFIED、cleanup confirmed,不计合格轨迹。根因、终态和清理记录见 [runtime-failures.json](runtime-failures.json)。修复保留增量事件与完整 message_end/request/session entries,写前限额并主动中止超限会话。
Salty 0.2.3 已登录,使用 0 GPU CPU 探针验证基础镜像 TLS 和新 runtime 的 Node v22.23.3/Pi 0.73.1。三个作业 succeeded;删除精确作业与文件后,目录 listing 为空。describe 在任务结束后返回 partial 诊断和 exit 1,不误记为作业失败。基础设施回执见 [infra-receipt.json](infra-receipt.json)。
## 本次真实结果与清理
修复后的真实 Pi/GLM-5.3 会话:8 轮模型请求、10 个工具反馈全部进入后续输入,原生对账 VERIFIED;最终候选独立 87 项检查 PASS,Agent 正常退出,容器/proxy/network cleanup confirmed。native 1214876 字节;完整事实见 [rollout-receipt.json](rollout-receipt.json) 与 [只读验收](runtime-review.md)。
归档 `[artifacts/rollout-20261012-dae6bc17.tar.gz](../artifacts/rollout-20261012-dae6bc17.tar.gz)` 为 239832 字节,16 个原件和 manifest。Salty 唯一目录仅该文件,上传后下载核对 SHA-256 完全一致;临时下载删除。首次异常轨迹、旧校准、三个旧本地镜像别名、候选工作区与私有 grader 副本已清理;现场复核 24 个本次容器为 0 残留、网络不存在。必要原始日志/冻结候选/回执留在 36 作为产品证据。
清理例外:CCR 初版试验镜像的精确 digest 删除被拒绝,HTTP 401,远端旧版本仍保留,本地别名已删除;其控制台/API删除需要管理权限。没有删除整个共享仓库或公共 blobs。最终稳定版本使用 trace2 的固定 digest,旧版不再用于采集。
## 已知边界与下一步
当前只有一条软件任务;整个系统尚未完成二十题试点与扩量。下一步恢复 Bos-qiao 任务/runtime 快照,按来源和根因族逐题校准,至少两个任务族,再建立批次质量、用量和失败统计。失败但完整的真实尝试也应保留。
真实执行与独立无网评分先用 36 Docker。Salty 已验证镜像和持久盘,正式 Agent 后端的安全模型通道、候选交接、隔离与取消仍需单独验收;不假定 Secret、嵌套 Docker 或 grader 无网能力。隐藏测试不能放到 Agent 可读个人盘。
16 MiB 原生轨迹限额不等于整个工作区磁盘配额;当前仍只适合受控镜像与固定 Pi adapter,扩量前提供容量受限 volume。费用未知时记未知,不把 Pi SDK 的占位价格记为实际零费用。回执 NOT_TRAIN_READY 为兼容字段,本项目没有训练准入或转换流程。
## P0 修复:Agent 断外网与评分超时
2026-10-12。只读审阅发现两项直接影响数据正确性的问题,本步只修这两项,不改用例、ground truth 或其他合同。
- Agent 网络:controller 专用网络原为普通 bridge,Agent 可直连外网,可下载上游修复而污染轨迹。现以 `--internal` 创建;`core.run` 只接受 `Internal=true` 的 `--agent-network`,未指定时 Agent 使用 `--network none`;删除未使用的 `host.docker.internal` 映射。
- 评分超时:verifier 单例 1 秒、整次 grade 15 秒,主机繁忙时正确解会被判 FAIL;本地全量回归复现 1 次,此前回归与校准各有 1 次超时。改为单例 5 秒、编译 30 秒、隔离探针 10 秒、`timeout_seconds=60`,task version 升为 2。87 个用例不变,`dataset.json` 只重绑两个身份摘要。
本地全量单元测试通过:工作区 58 项,提交快照 42 项;逐项回退三处修复,新增断言均失败。未在 36 Docker 实测。旧校准与旧 controller 因任务摘要变化,不能用于新 run 或重新封存;已封存归档不受影响。上线前在 36 确认 internal 网络下代理 gateway 可达、外网不可达,再用新任务完整 20 次 Docker 校准。