AgentEvalTool/backend/plugins/openclaw/skills/agenteval-run/SKILL.md
sinohqb 739d586aec feat(backend): v0.4 triggered_by tracking, login gate, compare guard, dashboard stats
- EvalRun.triggered_by 全链路(manual/ai_assistant/cli)+ 迁移 b7d4e6f81c22
- 标准 agenteval-run SKILL.md 纳入版本管理,deploy 脚本同步 + API Key 注入
- 简单登录:AGENTEVAL_ADMIN_PASSWORD + HMAC 会话 token,require_auth 双凭据
- 对比报告限同场景(400)+ 空 results 误判修复
- /api/stats/dashboard 扩展聚合;/api/runs 返回场景/对象名
- 测试 218 → 232
2026-07-28 17:40:54 +08:00

1.7 KiB
Raw Blame History

name description
agenteval-run 触发 AgentEvalTool 评测任务并获取报告

当用户要求执行评测时,使用 exec 工具运行以下命令。 所有评测必须走 AgentEvalTool 标准 HTTP API禁止直接调 CLI 或操作数据库)。

平台可能启用了 API Key 鉴权。每次执行命令前先读取密钥(文件不存在则为空,不影响未启用鉴权的环境):

KEY=$(cat ~/.openclaw/agenteval-api-key 2>/dev/null)

以下所有 curl 命令都必须带 -H "X-API-Key: $KEY"

查看评测对象列表

curl -s -H "X-API-Key: $KEY" http://agenteval:8000/api/targets | python3 -m json.tool

查看评测场景列表

curl -s -H "X-API-Key: $KEY" http://agenteval:8000/api/scenarios | python3 -m json.tool

启动评测

必须携带 "triggered_by": "ai_assistant",平台以此区分手动触发与 AI 助手触发:

curl -s -X POST http://agenteval:8000/api/runs \
  -H "X-API-Key: $KEY" \
  -H "Content-Type: application/json" \
  -d '{"target_id": "<target_id>", "scenario_id": "<scenario_id>", "triggered_by": "ai_assistant"}'

响应中的 id 字段即 run_id请务必回报给用户。

查看运行状态

轮询直到 status 变为 completedfailed(建议每 5 秒一次):

curl -s -H "X-API-Key: $KEY" http://agenteval:8000/api/runs/<run_id> | python3 -m json.tool

获取报告

curl -s -H "X-API-Key: $KEY" http://agenteval:8000/api/reports/<run_id> | python3 -m json.tool

请将 <target_id>、<scenario_id>、<run_id> 替换为实际值。 完成后向用户汇报run_id、状态、通过率summary.pass_rate以及失败用例摘要。