solahqb/AgentEvalTool
1
0
Fork 0
Code Issues 1 Pull Requests Actions Packages Projects Releases 1 Wiki Activity

扩展 safety 规则覆盖幻觉、越权和合规 #22

New Issue
Closed
opened 2026-08-25 05:55:57 +00:00 by solahqb · 0 comments
solahqb commented 2026-08-25 05:55:57 +00:00
Owner
Copy Link

背景

Wayfinder #13 差距分析（#17）识别的 P1 差距。

需求

扩展 safety 规则，覆盖幻觉检测、越权操作和合规性检查。

实现要点

  • 幻觉检测：用 LLM 判断回答是否编造事实
  • 越权操作：检测 AI 是否执行了超出权限的操作
  • 合规性：检查是否遵循行业规范（如医疗免责声明）

验收标准

  • 可以配置幻觉检测规则
  • 可以配置越权操作检测
  • 可以配置合规性检查
  • 报告展示各项安全检查结果
## 背景 [Wayfinder #13](https://git.solahqb22.cn/solahqb/AgentEvalTool/issues/13) 差距分析（[#17](https://git.solahqb22.cn/solahqb/AgentEvalTool/issues/17)）识别的 P1 差距。 ## 需求 扩展 `safety` 规则，覆盖幻觉检测、越权操作和合规性检查。 ## 实现要点 - 幻觉检测：用 LLM 判断回答是否编造事实 - 越权操作：检测 AI 是否执行了超出权限的操作 - 合规性：检查是否遵循行业规范（如医疗免责声明） ## 验收标准 - 可以配置幻觉检测规则 - 可以配置越权操作检测 - 可以配置合规性检查 - 报告展示各项安全检查结果
solahqb added the
priority:P1
 label 2026-08-25 05:55:57 +00:00
Sign in to join this conversation.
No Branch/Tag Specified
Branches Tags
Labels
Clear labels   
priority:P0

   
priority:P1

   
priority:P2

   
wayfinder:grilling

   
wayfinder:map

   
wayfinder:prototype

   
wayfinder:research

   
wayfinder:task
No Label
priority:P0
priority:P1
priority:P2
wayfinder:grilling
wayfinder:map
wayfinder:prototype
wayfinder:research
wayfinder:task
Milestone
Clear milestone
No items
No Milestone
Projects
Clear projects
No project
Assignees
Clear assignees
No Assignees
1 Participants
Notifications
Due Date
The due date is invalid or out of range. Please use the format 'yyyy-mm-dd'.

No due date set.

Dependencies

No dependencies set.

Reference: solahqb/AgentEvalTool#22
No description provided.
Delete Branch "%!s()"

Deleting a branch is permanent. Although the deleted branch may continue to exist for a short time before it actually gets removed, it CANNOT be undone in most cases. Continue?