jev-training-data/JEV_SIDECAR_API.md

2.3 KiB
Raw Blame History

jev 打分服务调用指南(FAT · API Key 各自配置)

模型: jev r41 (Laya mmBERT-base + LoRA), 文档级相关度打分, 输出校准概率 部署: d-cloud FAT 推理服务 jev-r41-sidecar (svc-6uz682ztqn), API Key 鉴权

接口

POST /score — 单条打分

BASE="https://dcloud-ns6hy2.inference-fat.d-robotics.cc/AIStudio/v1/inference/api/svc-6uz682ztqn"
KEY="sk-****"   # 自行创建:算力平台创建自己的 API Key(明文只显示一次) → 绑定到 jev-r41-sidecar(id 450), 不要共用他人 key、不要提交进 git (网关只认 Authorization: Bearer, 不认 X-API-Key)

curl -X POST "$BASE/score" \
  -H "Authorization: Bearer $KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "query": "S100 的默认调试串口波特率是多少",
    "doc_text": "RDK S100 使用 UART0 作为调试串口, 默认波特率 921600..."
  }'

返回:

{
  "p_win":   [0.99, 0.71, 0.12],   // 每个滑动窗口的相关度概率
  "p_mean":  0.607,                // 窗口均值 (主排序依据)
  "p_max":   0.99,                 // 窗口最大值
  "p_final": 0.643,                // 温度校准后的最终分 (展示/阈值用)
  "n_win":   3                     // 文档被切的窗口数
}

POST /score_batch — 批量打分

{"items": [{"query": "...", "doc_text": "..."}, {"query": "...", "doc_text": "..."}]}

GET /health — 健康检查

打分语义

  • 输出的是「query 与文档的相关度概率」(0~1), 经温度校准
  • 排序用途: 按 p_mean 降序; 阈值用途: p_final
  • 经验阈值 (RDK 知识库场景): >0.7 强相关, 0.4-0.7 待定, <0.3 不相关
  • 文档自动滑窗 (800 token/窗, 最多 4 窗), 长文档无需预切

适用边界 (实测, 重要)

  • ✅ 主题相关度: "这篇文档讲的是不是这个问题的话题" — 强项
  • ❌ 型号/实体细粒度区分: "RDK S100 串口(921600)" vs "RDK S600 串口(1500000)" 两篇都会得 0.98 — 模型分不清型号, 型号过滤要在打分前后自己做 (标题/URL 匹配)
  • ⚠️ 完全无关的短文本 (<50字) 校准不稳, 打分对象应是知识库文档块

注意

  • ⚠️ key 不要写进代码仓库, 用环境变量
  • 单条打分 CPU ~1s (4 窗长文档), 批量请用 score_batch
  • 服务部署在 FAT 环境, 仅供测试/评测, 不接生产流量