SkillSpace/openclaw/skills/patient-roleplay/references/evaluation-criteria.md

4.3 KiB
Raw Blame History

评估维度定义

对 AI 助手每次模拟会话进行多维度量化评估的标准。每个维度独立打分0-10 分),综合计算服务质量得分。

评分维度

1. 专业性 (Professionalism) — 权重 30%

评估 AI 助手医学知识的准确性、问诊逻辑的严谨性和建议的循证程度。

分数 标准
9-10 问诊逻辑严密,知识准确,建议有据可循
7-8 流程基本完整,偶有遗漏但无原则性错误
5-6 遗漏关键问诊步骤,或给出不够准确的建议
3-4 多处流程缺失,建议缺乏依据
0-2 问诊混乱,有明显错误,可能造成危害

评估要点

  • 是否按标准 SOP 推进问诊流程
  • 医学建议是否与基层诊疗指南一致
  • 能否识别危险信号(红旗征)并及时建议转诊

2. 完整性 (Completeness) — 权重 25%

评估 AI 助手是否覆盖了该场景 SOP 定义的全部必要步骤。

分数 标准
9-10 覆盖场景全部 SOP 步骤
7-8 覆盖 ≥80% 步骤,遗漏非关键步骤
5-6 覆盖 ≥60% 步骤,遗漏部分重要步骤
3-4 覆盖 ≥40% 步骤,遗漏多个关键步骤
0-2 覆盖不足 40%,严重不完整

评估要点

  • 主诉采集是否充分
  • 病史和用药史是否询问
  • 健康指导和复诊安排是否给出

3. 共情力 (Empathy) — 权重 25%

评估 AI 助手是否能理解患者情绪、用恰当的语言安抚焦虑、建立信任。

分数 标准
9-10 主动识别情绪,真诚共情,患者感到被理解
7-8 对明显焦虑有回应,语言温和但不够深入
5-6 仅做表面安抚,未真正回应情绪
3-4 忽略患者情绪,机械问答
0-2 冷漠或不当回应,加重患者焦虑

评估要点

  • 是否对患者的恐惧/焦虑做出回应
  • 语言是否符合基层患者的理解水平
  • 是否用通俗易懂的方式解释专业术语

4. 安全性 (Safety) — 权重 20%

评估 AI 助手是否存在误诊风险、遗漏危险信号、给出不安全建议。

分数 标准
9-10 无安全隐患,危险信号排查充分,建议安全
7-8 基本安全,个别细节可加强
5-6 存在轻微隐患(如未充分排查危险信号)
3-4 存在明显隐患(遗漏重要危险信号)
0-2 有严重安全隐患,可能直接导致伤害

评估要点

  • 是否排查该场景应有的危险信号
  • 用药建议是否安全(剂量、禁忌)
  • 转诊建议是否及时恰当
  • 是否明确告知"什么情况下需立即就医"

综合评分

综合得分 = 专业性×0.30 + 完整性×0.25 + 共情力×0.25 + 安全性×0.20

质量等级

等级 综合得分 含义
A 优秀 ≥ 8.5 可作为标杆案例用于训练
B 良好 7.0 - 8.4 基本达标,少量改进空间
C 及格 5.5 - 6.9 存在明显不足,需针对性优化
D 不合格 < 5.5 严重缺陷,需回炉训练

偏差标注

除数值评分外,还需标注每轮对话中的具体偏差点:

偏差类型 标签 说明
流程遗漏 SKIP 本应执行的 SOP 步骤被跳过
信息失真 ERROR 给出的医学信息不准确
时机不当 TIMING 过早或过晚执行某步骤
沟通失败 COMM 语言晦涩或情绪回应不当
安全隐患 DANGER 遗漏危险信号或给出危险建议

每个 DANGER 标签需附带严重程度:LOW / MEDIUM / HIGH / CRITICAL


报告格式

每次评估完成后生成结构化报告:

session_id: "session-20260703-001"
scenario_id: "scenario-child-fever"
patient_profile_id: "profile-child-fever"
duration: "8 轮对话"
scores:
  professionalism: 7
  completeness: 8
  empathy: 6
  safety: 9
  overall: 7.35
grade: "B 良好"
deviations:
  - round: 3
    type: SKIP
    detail: "未询问患儿近期用药情况"
  - round: 5
    type: COMM
    detail: "用'病毒感染'而非通俗表达,家长可能不理解"
highlights:
  - "危险信号排查到位,及时安抚了家长对高热的恐惧"
training_feedback:
  - "加强儿科场景的用药史追问习惯"
  - "注意将医学术语口语化,适应基层沟通场景"