The cluster never ran Theia or the IDE gateway, so every workspace stayed "未配置" forever. The feature is gone instead of half-present: - API: workspace, launch and lifecycle endpoints, the gateway identity and its internal routes, the dispatcher's workspace provisioning and the lifecycle worker. Migration 003 deletes stored workspaces and settles their pending outbox items. - Provisioner: workspace provisioning and lifecycle for both backends. - Web: the 云 IDE panel, the launch route, the start-branch picker that listed IDE branches, and the workspace count on usage. - apps/ide, infra/oct, dev:ide and the CI job; IDE parts of local k3s, network policies, RBAC, docs and the architecture diagram. A wish can still start from a pushed branch through the API (sourceBranch). Plan files and stored entitlements may still carry maxWorkspaces; it is accepted and ignored. Co-Authored-By: Claude Opus 5.5 (1M context) <noreply@anthropic.com>
24 KiB
WishForge 部署在 POC 集群
WishForge(数据库、编排、对象存储、控制面、网页、执行器、发布 Runner、备份)只运行在 DroboticFlow 所在的百度云 POC 集群(https://120.48.181.105:6443)。它在 2026-11-01 从 Mac 迁入,Mac 上的部署和数据已于 2026-11-02 删除;操作者的电脑只保存集群设置的输入(见「数据与密钥」),不运行任何服务。执行器仍然使用 Claude CLI,模型改走公司地瓜网关(Anthropic 协议,https://ai-api.d-robotics.cc,客户端自动拼接 /v1/messages),默认 deepseek-pro@latest,小模型槽位 deepseek-flash@latest。
当前进度(2026-11-02)
| 步骤 | 状态 |
|---|---|
| 镜像构建并推送到 CCR | 2026-11-01 已构建并部署 sha256:2c6a103217d1…,包含检查 Pod 清理修复和每日备份;当前镜像记录在 .wishforge/cluster-poc/image.json |
| 命名空间、节点数据目录、本地卷、访问规则、准入策略 | 完成,权限已逐项核对 |
| Gitea 部署密钥 | 已添加到 longtao.wu/droboticflow(写权限),集群内拉取已验证 |
| Secret 与 ConfigMap | 已创建,网关 Key 已写入 |
| 演练验收 | 隔离标签与日志脱敏修复已部署并在新运行中验证;发布后重跑愿望优化、幂等提交、实现、暂停/继续、独立检查、审核门禁和取消,通过并完成产物独立验收,见部署后验收。该轮暴露的取消期间检查 Pod 回收竞态已修复并复现验证通过,见检查 Pod 清理验收 |
| 公网入口(独立负载均衡 + 公网 IP + 域名) | https://wishforge.d-robotics.cc 已启用正式证书,校验通过;负载均衡 180.76.227.59,HTTP 跳转 HTTPS。本机解析正常,其他内网设备需确认公司 DNS 的记录,见下文 |
| 从 Mac 迁入 | 2026-11-01 演练后正式切换,数据逐表一致导入;2026-11-02 删除 Mac 部署、数据和备份副本,迁移命令也已移除 |
| 项目 | 2026-11-01 旧项目全部删除,只保留两个:「DroboticFlow POC」(poc 分支 → POC 集群)和「DroboticFlow Fanyu · dev」(dev 分支 → Fanyu 集群),见下文「两个项目」 |
| 每日备份 | 节点上每日快照,恢复在集群内完成,见下文「备份与恢复」 |
迁入前后的验收:
| 项目 | 结果 |
|---|---|
| 7 个容器就绪、无重启;网页、API、对象存储健康;未登录访问 API 返回 401 | 通过 |
集群用部署密钥访问 Gitea,poc 分支与 Mac 一致 |
通过 |
AI 优化愿望(控制面经地瓜网关调用 deepseek-pro@latest) |
通过 |
检查 Pod 自检:工具链齐全;无集群令牌和设置文件;.git 只读;看不到平台数据;连不上平台 Pod 的数据库、API、Temporal、对象存储端口;安装依赖可联网;退出码如实传回 |
通过 |
测试愿望:「需审核」测试账号提一个改后端路径的愿望;执行器经网关实现,检查 Pod 跑完安装和受保护检查(lint、前端测试、前端构建、Go 测试全部通过),停在代码审核;取消后 Temporal 工作流为 CANCELED,poc 分支没有收到推送 |
通过(第 4 次;前 3 次暴露了检查工具链缺 python3、OpenCV 等和 apply 不刷新设置的问题,均已修复) |
| 真实功能愿望(2026-11-01):实现 Unicode 空白规范化函数及单元测试,检查阶段暂停/继续,验证事件游标和 SSE、产物下载和哈希,停在代码审核后取消 | 通过;独立编写的 8 组验收用例也通过。第一轮预算不足被取消,第二轮完整通过;两轮均未合入或发布,见验收记录 |
| 管理员登录、会话、首页、项目列表 | 配置修复并由操作者执行 apply 后,经公网 HTTPS 实测通过:登录 303、会话已认证、首页和项目列表 200;后续也通过端口转发完成真实浏览器登录与退出验证 |
| 浏览器页面与只读操作 | 项目搜索、运行过滤、diff/事件/验证输出、执行器/用量/成员/历史发布、窄屏导航、登录/退出已验证;新版本的隔离标签与日志数字正确,AI 优化和“采用建议”回填也已实测通过,未点击最终提交或审批,见部署后验收 |
| 暂停/取消期间的检查 Pod 回收 | 首轮检查 Pod 启动时暂停/取消,额度已释放但一只 Pod 遗留,已核对归属后人工清理;生命周期缺陷已修复(check-pods.ts 全阶段取消贯穿 + 独立清理预算),并用贴近原事故时序的复现测试验证通过,见检查 Pod 清理验收 |
| 个人账号登录与权限 | 受审核测试账号可读取所属项目(200),不能管理账号(403);其他个人账号的密码登录尚未验收 |
| 合入、构建、发布 | 正式切换后由第一个真实愿望验收(演练副本不向 poc 分支推送、不发布) |
| Pod 重启后恢复:运行停在代码审核时删除 Pod,约 25 秒恢复就绪;数据行数、运行状态、待审核记录和 Temporal 工作流不变,之后取消正常完成 | 通过 |
公网入口是 WishForge 专属负载均衡的公网 IP 180.76.227.59,以及公司自己的域名 wishforge.d-robotics.cc(公网 DNS 在阿里云,A 记录指向这个 IP;不使用 sslip.io、Cloudflare 等第三方域名)。HTTPS 时域名和 IP 各有一张 Let's Encrypt 证书,由 Caddy 自动续签,HTTP 的 GET/HEAD 跳转到 HTTPS,其他方法拒绝;控制台以域名为主地址。也可以用 public --http 改成纯 HTTP,这时密码和会话明文传输。
2026-10-30 查询时,公司内网 DNS(10.9.0.10、10.48.6.10,hobot.cc 的 AD 域控)自己托管的 d-robotics.cc 区域没有这条记录,返回 NXDOMAIN;仅在公网 DNS 加记录不一定能让内网用户访问。2026-11-01 本机已能正常解析并通过域名访问。其他内网设备若仍解析失败,需要 IT 在内网区域补同样的 A 记录 wishforge → 180.76.227.59;在那之前可用 IP 访问。public --domain 只要求公网解析正确,本机 DNS 解析不到时会给出提醒。
两个项目
| 项目 | 分支 | 发布到 | 访问地址 | Runner 容器 |
|---|---|---|---|---|
| DroboticFlow POC | poc |
POC 集群 droboticflow:api、worker、coordinator |
http://120.48.164.19 |
runner |
| DroboticFlow Fanyu · dev | dev |
Fanyu 集群 https://180.76.138.88:6443 的 droboticflow-fanyu:api、worker、coordinator,以及同用 api 镜像的 annotation-processor、annotation-validator |
http://120.48.180.80 |
runner-fanyu |
- 两个项目的环境都不预授权:每次发布都要有人批准。愿望一律用 Claude CLI 执行,从目标分支开始;受保护检查都在 POC 集群的检查 Pod 里跑。
- 两个项目沿用旧 POC 项目的「后端代码」划分(除
src/、tests/frontend/、**/*.md外都算后端),前端账号只能改前端。POC 项目的成员沿用旧项目(管理员和qianduan);Fanyu 项目先只有管理员,要给其他账号,在账号管理页面勾选项目。 - 每个环境有固定的 profile:POC 的在
.wishforge/cluster-poc/poc-profile.json,Fanyu 的在.wishforge/cluster-poc/fanyu-profile.json(由fanyu-access生成)。profile 钉死分支、集群地址、命名空间及其 UID、各 Deployment 的 UID、镜像仓库和访问地址;任何一项对不上,构建和发布都会拒绝。 - Fanyu 的 api 镜像同时跑在 api、annotation-processor、annotation-validator 三个 Deployment 上:一次发布把三者都换成新 api 镜像(顺序 coordinator → worker → api → processor → validator),逐个核对 rollout 和 Pod 摘要;回滚时每个 Deployment 恢复成它自己原来的镜像。headpose、wilor 不在发布范围内。
- Fanyu 集群里 WishForge 的身份(fanyu-access.yaml):Service Account
droboticflow-fanyu/wishforge,只能读取并更新那 5 个 Deployment 的镜像、查看 rollout、在droboticflow-fanyu里创建构建 Pod,读不到 Secret 和 ConfigMap;准入策略只允许它创建固定 Kaniko 镜像、只挂临时目录和镜像仓库凭据、不带令牌的构建 Pod。它的长期令牌只在 WishForge 集群的 Secretwishforge-fanyu-kube里,只挂进 executor(构建)和 runner-fanyu(发布)。删除 Fanyu 集群里的 Secretwishforge-token即可吊销。
重建 Fanyu 身份或换管理员凭据后:
node scripts/cluster-poc.mjs fanyu-access --kubeconfig ~/workSpace/droboticflow/local-data/fanyu.conf
删除全部项目并重建这两个(没有执行中的运行时才会执行;先在节点上取一份快照):
node scripts/cluster-poc.mjs projects --replace
它删除每个项目及其愿望、运行、发布、环境、Runner、证据和审核记录,以及运行事件、对象存储里的产物和托管的 Git 仓库;保留账号、成员、用量账本和审计日志。两个 Runner 的注册信息保存在操作者电脑的 .wishforge/cluster-poc/projects.json(0600),之后的 secrets/apply 从这里生成两个 Runner 的设置。
架构
命名空间 wishforge 中一个单副本 StatefulSet(platform.yaml),固定在 CPU 节点 192.168.80.249(由本地卷的节点亲和性决定)。Pod 里的容器共享回环网络:
| 容器 | 内容 | 监听 |
|---|---|---|
| postgres | PostgreSQL 17.6 | 127.0.0.1:5432,TCP 连接一律需要密码 |
| temporal | Temporal 1.4.1 开发服务(SQLite),关闭 Web UI | 127.0.0.1:7233 |
| minio | MinIO RELEASE.2025-07-23T15-54-02Z(官方镜像已不公开发布,镜像内从公开源码构建) |
127.0.0.1:9000 |
| platform | 网页、API、Git 服务、coordinator、deployer | 回环 |
| executor | 执行调度与每次运行的 Claude CLI | 回环 |
| runner | POC 发布 Runner | 不监听 |
| runner-fanyu | Fanyu 发布 Runner | 不监听 |
| backup | 每日数据快照(cluster-poc-backup.mjs) | 不监听 |
| caddy | 公网 HTTPS 入口、HTTP 跳转 | Pod 地址 8080/8443 |
只有 Caddy 监听 Pod 地址,其余服务都只在回环上。这个集群不执行 NetworkPolicy(real2sim-poc、simfoundry 的默认拒绝策略实际上都没有生效),所以这种布局是集群里其他 Pod 访问不到内部服务的唯一保证。
受保护检查(依赖安装、测试、构建)不在这个 Pod 里运行,而是每个工作区在命名空间 wishforge-checks 中起一个临时检查 Pod(check-pods.ts):
- 只挂载这次运行的工作区(
.git只读)和检查缓存;看不到数据库、密钥或设置; - 不挂 Service Account 令牌、不读任何 Secret;默认 seccomp、非 root、去掉全部 capability、只读根文件系统;
- 验证器每次重建工作区目录后会换一个新的检查 Pod;命令超时或被取消时连同 Pod 一起删除;Pod 自身最长存活 2 小时;
- 起不来或 exec 连不上时,运行停在「基础设施」等待,不会当作检查失败。
注意:检查 Pod 可以访问外网和集群内网(集群不执行网络策略)。这是选择「不放宽集群安全」换来的代价,证据中记录为 checkSandbox: pod。
身份与权限(rbac.yaml、admission.yaml)
WishForge 在集群里只有一个身份 wishforge/wishforge,它的短期令牌只挂进 executor 和 runner 两个容器:
wishforge-checks:创建、删除检查 Pod 并 exec;droboticflow:只能读取和更新droboticflow-api、droboticflow-worker、drosync-coordinator三个 Deployment,创建 Kaniko 构建 Pod;读不到任何 Secret 或 ConfigMap;- 集群范围:只能读取
droboticflow这一个命名空间。
两条准入策略只约束这个身份:检查 Pod 只能使用固定的 WishForge 镜像、挂载工作区子目录、不带令牌和 Secret;构建 Pod 只能使用 POC 固定的 Kaniko 镜像和镜像仓库凭据。这样即使令牌泄露,也只能创建这两种固定形状的 Pod。
数据与密钥
- 节点 192.168.80.249 的本地盘
/home/cce/wishforge(storage.yaml),回收策略 Retain,各容器只挂自己的子目录。检查 Pod 另有一个只指向其中exec/目录的本地卷。 - 每个容器只读自己的设置文件(
wishforge-env中的platform.env、executor.env、runner.env),executor 拿不到数据库和对象存储的密码。 - 集群设置的输入只在操作者电脑的
.wishforge/cluster-poc/(0700,文件 0600):持久数据依赖的密钥和令牌carried.env(CARRIED,见 cluster-poc.mjs,其中WF_VAULT_KEY解密数据库里的凭据)、Runner 签名密钥runner-ed25519.pem、套餐plans.json、POC 与 Fanyu 的 profile、Gitea 主机密钥known_hosts、数据库与对象存储密码generated.json、两个 Runner 的注册projects.json。secrets/apply只读这些文件和 POC 集群的 kubeconfig。这个目录要另外妥善备份:快照里没有它,丢了就无法解密快照里的凭据,也无法重建 Pod 设置。 - 网关 Key 只写进集群 Secret
wishforge-claude,不在本地另存。 - 项目的受保护安装、检查命令是镜像里的
/usr/local/bin/node /opt/wishforge/scripts/poc-project-check.mjs install|verify;platform 容器每次启动时把仍指向别处的这类命令改回镜像里的路径(cluster-poc-project.ts)。
实现要点
部署过程中遇到并已经处理的问题,改动清单或镜像时要保留:
- Pod 以 uid 10001 运行,镜像里 Temporal 没有这个用户的 passwd 条目,Go 不开 cgo 时解析不到当前用户,所以 Temporal 容器设置了
USER。 - 所有容器共享 Pod 的回环地址,PostgreSQL 默认信任 127.0.0.1,因此初始化时指定
--auth-host=scram-sha-256;恢复数据和运维查询走 postgres 容器内的 Unix socket。 - 维护模式和 Runner 停用时,入口必须显式保持进程存活(只注册信号处理不会让 Node 留下),否则容器反复退出重启。
- StatefulSet 的 OrderedReady 滚动更新不会替换一个没有就绪的 Pod,
apply会删除停在旧版本的 Pod。 - SWC 的原生模块缓存拒绝父目录对其他用户可写的位置,platform 容器的
HOME放在持久卷里的私有目录。 - 网页启动器只透传
WF_LOCAL_API_TOKEN,不透传WF_DEV_AUTH_TOKEN。集群设置必须把前者设成控制面所接受的后者;否则管理员密码校验和会话都成功,项目接口仍返回 401。凭据只在 platform 容器内使用,不下发到 executor 或 runner。 - OpenSSH 按用户数据库里的家目录找
~/.ssh,不看$HOME,所以 Git 的 SSH 目录挂在镜像用户的家目录/home/wishforge。 - 受保护检查的工具链除了 Node、npm、Go、Git,还有 python3(带 NumPy、OpenCV、PyYAML)和 ffmpeg:DroboticFlow 的 Go 测试(
internal/worker)用它们运行算子 runnerbackend/operator-runner/main.py的视频和数据集算子。镜像里装 Debian 的python3、ffmpeg,Python 包按 check-python-requirements.txt 固定版本和哈希安装。缺了它们,这些测试会失败或等到超时。
需要操作者完成
-
添加 Gitea 部署公钥(已完成):在
longtao.wu/droboticflow的部署密钥中添加以下公钥,并勾选写权限(需要仓库管理员)。查看公钥:node scripts/cluster-poc.mjs deploy-key -
写入地瓜网关 Key(已完成):建议为 WishForge 单独申请一个 Key,更换时同样写入。复制到剪贴板后运行,Key 直接写入集群,不会打印;也可以加
--stdin从标准输入读取:node scripts/cluster-poc.mjs gateway-key容器只在启动时读取 Key。更换后,在没有执行中愿望的时候重启 Pod,新 Key 才生效:
kubectl --kubeconfig ~/.config/droboticflow/kubeconfigs/poc.config -n wishforge delete pod wishforge-0 -
授权启动:Claude Code 的自动权限检查可能拦截
apply,这时在交互式claude终端中为这些命令加权限规则,或者自己在终端里执行下面的命令。
命令顺序
所有命令都在仓库根目录运行,只使用 ~/.config/droboticflow/kubeconfigs/poc.config,执行前都会核对集群地址。
node scripts/cluster-poc.mjs bootstrap
node scripts/cluster-poc.mjs secrets
容器只在启动时读取设置文件(其中也写着检查 Pod 使用的镜像)。apply 每次都会先刷新这些 Secret 和 ConfigMap,内容有变化时 Pod 模板上的摘要随之改变,Pod 自动按新设置重建;重新构建镜像后运行 apply 即可,平台和检查 Pod 会用同一个镜像。
node scripts/cluster-poc.mjs status
通过端口转发在本机验收(网页只监听 Pod 回环,端口转发可以直接到达):
kubectl --kubeconfig ~/.config/droboticflow/kubeconfigs/poc.config -n wishforge port-forward pod/wishforge-0 13000:3000
保持它运行,在浏览器打开 http://127.0.0.1:13000。网页只接受登记过的来源地址,本机端口必须是 13000。
集群版管理员密码在 Pod 的私有文件里,复制到剪贴板(不打印):
kubectl --kubeconfig ~/.config/droboticflow/kubeconfigs/poc.config -n wishforge exec wishforge-0 -c platform -- node -e 'process.stdout.write(JSON.parse(require("fs").readFileSync("/var/lib/wishforge/platform-state/local-access.json","utf8")).password)' | pbcopy
公网入口(开始计费):创建 WishForge 专属的负载均衡和公网 IP,入口为 https://<公网IP>。先签 staging 证书,确认挑战路径通过后再签正式证书。账号的 BLB 配额用满时,负载均衡会停在 pending(Service 事件里是 ErrorExceedsQuota),提高配额后 CCE 自动创建,再运行一次 public。Pod 重启后负载均衡要几十秒才连上新 Pod,第一次挑战可能连接失败,Caddy 会自动重试:
node scripts/cluster-poc.mjs public
node scripts/cluster-poc.mjs public --production
加域名(先在 DNS 把 A 记录指向负载均衡的 IP;之后的 public 会沿用这个域名):
node scripts/cluster-poc.mjs public --production --domain wishforge.d-robotics.cc
纯 HTTP:负载均衡只保留 80 端口,不申请证书,密码和会话明文传输:
node scripts/cluster-poc.mjs public --http
备份与恢复
Pod 里的 backup 容器每天 03:20(北京时间)取一份快照,写到数据盘的 backups/<UTC 时间>/,保留最近 7 份。Pod 启动时若最新快照超过一天,会在约一分钟后补一份;失败一小时后重试。status 显示节点上的快照、最新时间和最近一次结果。
一份快照包括:
| 文件 | 内容 |
|---|---|
postgres.dump |
pg_dump -Fc。与逐表行数取自同一个数据库快照(pg_export_snapshot),行数记在 manifest.json,恢复后据此核对 |
temporal.db |
Temporal 的 SQLite,经 SQLite 在线备份复制并通过 integrity_check |
git.tgz、minio.tgz、poc-state.tgz、runner-state.tgz、runner-state-fanyu.tgz、platform-state.tgz |
对应数据目录;platform-state 不含可重建的 home 缓存,minio 不含 MinIO 启动时会清理的 .minio.sys/tmp |
manifest.json |
时间、镜像、行数,以及每个文件的大小和 SHA-256 |
不包括运行工作区和检查缓存(exec/)、Claude 的家目录、Caddy 的证书(会自动重新签发)。解密快照里的凭据需要 carried.env 里的 WF_VAULT_KEY,见「数据与密钥」。
backup 容器只读挂载它要保存的目录,只写 backups/;通过回环连接数据库(需要数据库密码),没有集群令牌、设置文件或密钥。镜像带有与数据库同版本的 pg_dump、pg_restore(从固定的 postgres 镜像复制)。
恢复:用节点上的一份快照替换集群里的全部数据(数据库、Temporal、Git、对象存储,以及平台、POC 和两个 Runner 的记录),全程在集群内完成:
- 停掉 WishForge Pod,起一个只挂数据卷的恢复 Pod;
- 先按
manifest.json逐个核对快照文件的大小和 SHA-256,核对不过就什么都不动、把 Pod 启动回来; - 清空并解包各数据目录,放回 Temporal 的数据库;
- 维护模式启动 Pod(只有数据库、Temporal、对象存储在跑),由
backup容器经回环把postgres.dump导入全新的 PostgreSQL; - 逐表行数与快照记录一致才正常启动。节点上的快照保留不动。
node scripts/cluster-poc.mjs restore <UTC 时间,例如 20261102T192000Z> --runner
不加 --runner 时两个 Runner 保持空闲,不会部署任何东西。
套餐与额度
租户用的是 local-poc 套餐:月度模型额度 20 亿 token(2026-11-02 起,版本 local-poc-v2),同时只跑 1 个运行。单次运行的 token 预算最多 5 亿,默认 1 亿;Claude CLI 的缓存读取按 1/10 计入预算和月度额度,输入、输出、缓存创建全额计入。
改额度:先改 .wishforge/cluster-poc/plans.json 里这个套餐的 limits,同时把 version 加一;apply 下发后,在集群里重新分配一次套餐(会记一条 plan.assigned 审计事件;新额度低于本月已用量时会拒绝):
node scripts/cluster-poc.mjs apply --runner
kubectl --kubeconfig ~/.config/droboticflow/kubeconfigs/poc.config -n wishforge exec wishforge-0 -c platform -- sh -c 'WF_OPERATOR_SUBJECTS=11111111-1111-4111-8111-111111111111 node --env-file=/etc/wishforge/env/platform.env --import tsx scripts/tenant-admin.ts plan demo local-poc 11111111-1111-4111-8111-111111111111'
回退
- 数据出错:用出错前的快照
restore。 - 新镜像有问题:把
.wishforge/cluster-poc/image.json换回上一个镜像的记录后apply。 - 删除
wishforge-public会回收公网 IP,删除后在百度云控制台核对 BLB 和 EIP 已经释放。
已知限制
- 云 IDE(Theia、OCT)已从 WishForge 中移除,集群版不再有 IDE 入口。
- 检查 Pod 有网络(见上文)。
- 数据和快照都在同一个节点的同一块本地盘上。快照能防误删、误改和软件故障,但节点或磁盘损坏时数据和快照会一起丢失;集群里没有可跨节点挂载的存储(没有 StorageClass),目前没有异地副本。
- Temporal 使用开发服务,Web UI 已关闭。
- 模型名取自网关的
/v1/models(2026-10-30):deepseek-pro@latest、deepseek-flash@latest是网关的别名,都已用 Anthropic 协议实测可用;[1m]后缀让 Claude CLI 按 1M 上下文处理。网关文档里推荐的deepseek-v4-flash不在列表中。
验证
node --test scripts/cluster-poc.test.mjs scripts/cluster-poc-backup.test.mjs scripts/poc-project-check.test.mjs scripts/local-services.test.mjs
npx vitest run packages/runtime/test/check-pods.test.ts tests/host-checks.test.ts packages/runtime/test/claude-native.test.ts
在集群里还需逐项验收:个人账号登录与权限、AI 优化(经网关)、愿望执行与检查 Pod、执行器读不到工作区以外的凭据、审核与合入、构建与发布、Pod 重启后恢复。未验证的项目不能当作完成。