AgentEvalTool/docs/api-reference/cli-v1.0.md
sinohqb a77cd83e6a v0.2.0-dev: 文件管理 + 页面布局统一 + 6 个 bug 修复
## 新增功能
- 文件管理模块:分类树 + 文件上传/下载/删除
- 文件上传支持拖拽(Dragger)+ 手动上传(customRequest 模式)

## 页面布局统一(参照评测执行页)
- 仪表盘/评测对象/评测场景/评测报告 全部改为全高 flex 布局
- 统一内联页头样式(h2 + 竖线分隔 + 描述)
- 表格撑满高度、overflow 处理
- 每页添加刷新按钮

## Bug 修复
- 分类树操作按钮 hover 不可见(CSS 规则缺失)
- 文件上传失败(multipart boundary 缺失)
- LLM API 响应 content blocks 数组格式支持(_extract_content_from_api_response)
- response_time_max_ms 被静默忽略(隐式规则传空 params)
- 空 messages 导致 IndexError 崩溃
- poll_reply 异常中止整个 run(缺 try/catch)
- engine finally 未关闭 session
- 3 个页面 UTC 时间戳解析偏差 8 小时

## 后端
- EvalEngine: poll_reply 异常保护、空 dialog 保护、session 关闭
- LLM API 响应解析支持 content-block-array 格式
- 隐式 response_time 规则正确传递 max_ms 参数

## 前端
- api.ts: 移除手动 Content-Type(让浏览器自动添加 boundary)
- Files.tsx: customRequest 替代 beforeUpload、布局优化
- index.css: 分类树 hover 规则
- Targets/Scenarios/Home/Reports: 全高布局改造
- 3 个页面时间戳改用 formatDateTime()(修复 UTC 偏差)

Co-Authored-By: Claude <noreply@anthropic.com>
2026-07-16 15:25:22 +08:00

3.6 KiB
Raw Permalink Blame History

AgentEvalTool CLI 命令参考

版本: v1.0
日期: 2026-07-09
状态: 已发布
作者: AgentEval Team


一、概述

AgentEvalTool 提供命令行工具 agenteval 用于管理评测对象、场景、执行评测和生成报告。

安装

pip install -e .

主入口

agenteval [command] [subcommand] [options]

二、评测对象管理

2.1 列出所有评测对象

agenteval target list

2.2 添加评测对象

agenteval target add --name "社区医院AI客服" --config config/config.json

参数

  • --name: 对象名称(必填)
  • --config: 通道配置文件路径(必填)

2.3 获取评测对象详情

agenteval target get <id>

2.4 更新评测对象

agenteval target update <id> --config config/config.json

2.5 删除评测对象

agenteval target remove <id>

2.6 测试评测对象连通性

agenteval target test <id>

验证消息通道是否正常连接。

三、评测场景管理

3.1 列出所有评测场景

agenteval scenario list

3.2 校验评测场景文件

agenteval scenario validate data/scenarios/health_basic.yaml

3.3 导入评测场景

agenteval scenario import data/scenarios/health_basic.yaml

3.4 导出评测场景

agenteval scenario export <id> > data/scenarios/health_basic.yaml

3.5 获取评测场景详情

agenteval scenario get <id>

3.6 删除评测场景

agenteval scenario remove <id>

四、评测执行

4.1 启动评测任务

agenteval run start --target-id <target-id> --scenario-id <scenario-id>

参数

  • --target-id: 评测对象 ID必填
  • --scenario-id: 评测场景 ID必填
  • --output-json: 运行结束后输出 JSON 报告(可选)

示例

# 基本执行
agenteval run start --target-id aa4cd4e4-1c84-41d0-b3d7-06ee7dd94971 \
                    --scenario-id 5b1a8cf7-25bc-4424-97d0-795b61149c0c

# 执行并输出 JSON
agenteval run start --target-id <id> --scenario-id <id> --output-json

4.2 查看评测状态

agenteval run status <run-id>

4.3 列出所有评测记录

agenteval run list

4.4 查看评测日志(对话轮次)

agenteval run logs <run-id>

五、报告管理

5.1 生成 HTML 报告

agenteval report generate <run-id> --format html

参数

  • --format: 报告格式,htmljson(默认 json

5.2 查看报告

agenteval report show <run-id> --format json

5.3 对比报告

agenteval report compare <run-id-1> <run-id-2>

六、Web 服务

6.1 启动 Web 后台服务

agenteval server start --host 0.0.0.0 --port 8000

参数

  • --host: 监听地址(默认 0.0.0.0
  • --port: 监听端口(默认 8000
  • --reload: 开发模式热重载(可选)

七、OpenClaw 集成示例

OpenClaw 插件通过调用 CLI 完成评测:

import subprocess

# 触发评测
subprocess.run([
    "agenteval", "run", "start",
    "--target-id", "<target-id>",
    "--scenario-id", "<scenario-id>",
], check=True)

# 获取报告
report = subprocess.check_output([
    "agenteval", "report", "show", "<run-id>", "--format", "json",
])

八、退出码

退出码 说明
0 成功
1 一般错误(对象不存在、参数错误等)
2 评测执行失败
3 通道连接失败