# 可解释性
42 个相关产品 · 中文解读 · 按热度排序
截至 2026-10-27,KanonAgent 库内有 42 个带「可解释性」标签的 AI agent 与工具,本页按真实热度排序。标签由中文拆解自动归纳,不是人工打的;数据可经公开 API 复核。
agentscope
一个可可视化、可理解、可信任的 AI Agent 构建与运行平台，帮助开发者调试与管理复杂智能体系统，提升 AI 应用的透明度与可控性。
AgentMachinist: make your coding agent show its work
让AI编码助手展示其思考过程，提升可解释性与调试效率，帮助开发者理解AI生成代码的逻辑
Give your agent somewhere to think loud watch its decisions unfold live
一个用于可视化 AI 决策过程的工具，让开发者或用户实时观察 AI 在执行任务时的思考路径与逻辑演变。
Understanding your Claude Code with trajectory segmentation
通过轨迹分割技术分析 Claude Code 代理的执行路径，帮助开发者理解 AI 的决策逻辑，提升可解释性。
Watch how an AI agent thinks
可视化 AI 代理的思考过程，通过动画展示其推理链、决策路径和内部状态，帮助理解 AI 的‘思维’逻辑
RootNous
RootNous 是一个面向企业级应用的「基础智能」平台，帮助开发者构建可信赖、可解释的 AI 系统，适用于需要高可靠 AI 的金融、医疗等关键领域。
Virena, a minimal vision-language-action robot model you can read
Virena 是一个可读的极简视觉-语言-动作机器人模型，通过自然语言理解与视觉输入生成动作指令，适合研究人员和开发者探索具身智能的可解释性。
I built a web tool to see and edit what an AI thinks before it answers
一款可视化与可编辑 AI 推理过程的网页工具，让用户能‘看见’AI 在生成回答前的思考路径，适合研究人员、教育者与 AI 透明性关注者。
agentscope-ai/agentscope
可可视化、可理解、可信任的AI代理开发框架，帮助开发者构建透明且可控的智能体系统。
Aurora
Aurora 是一个面向人类和智能体的透明量化人工智能平台，旨在让AI决策过程可解释、可调试，适用于金融、科研等对可解释性要求高的场景
Verdict – AI hiring verdicts where every score cites the CV verbatim
基于AI的招聘评估工具，为每个评分提供简历原文作为依据，提升招聘决策的透明度与可解释性。
ARA
ARA 是一个为 AI 系统提供决策记忆的开发工具，帮助开发者追踪和回溯 AI 的每一次决策过程，提升可解释性与可审计性
ReasonGate- An explainable gate that blocks LLM prompt injection
ReasonGate 是一个可解释的防护机制，用于检测并阻止大语言模型中的提示注入攻击，帮助开发者理解为何某些输入被拦截，提升 AI 应用的安全性与可信度。
Graph Context Engine for Reliable AI
一个用于构建可靠AI系统的图上下文引擎，通过结构化知识图谱增强大模型推理的可解释性与一致性，适合AI研发团队和企业级应用开发者，亮点是融合图神经网络与动态上下文管理，提升AI决策可
TokenPath – token-level citations for LLM output, read from attention
TokenPath 是一个用于大语言模型输出的逐 token 引用工具，通过分析注意力机制自动标注生成内容的来源依据，帮助开发者验证 LLM 输出的可追溯性与可信度。
ClearWork
一款强调可解释性与可辩护性的AI发现工具，帮助用户理解AI的决策依据并进行合理论证。
AI Context | Smart, Safe, Scalable
面向教育领域的AI文档层工具，帮助构建可信赖、可解释、可扩展的AI系统文档
Coachix
让开发者构建可审查推理过程的可靠AI代理，支持对AI决策逻辑进行追踪与优化
semantica-agi/semantica
面向上下文感知与可问责AI系统的图原生基础设施，用图数据库思维管理AI决策链路，提升透明度与可追溯性。
Lians v0.5
开发者工具，用于回溯和分析AI在执行任务时的内部认知过程，提升AI行为可解释性。
A replayable A2A jury for tracing how agents influence decisions
一个可回放的 A2A（Agent-to-Agent）评审系统，用于追踪智能体之间如何影响决策过程，适合 AI 决策透明性研究与审计。
NextSteamGame
基于RAG（检索增强生成）技术的Steam游戏推荐系统，强调推荐逻辑的可解释性，帮助玩家理解‘为什么推荐这款游戏’
A UI to see all the assumptions your coding agents are making
可视化界面，展示AI编码代理在执行任务时所依赖的隐含假设，帮助开发者理解并调试AI行为，提升可信度。
NeuronScope
NeuronScope 是一个开源工具，用于追踪大语言模型（LLM）的输出结果，回溯到具体激活的神经元和注意力头，帮助开发者理解模型决策过程，适合AI研究人员与模型可解释性开发者。
Agents Workbook watch Claude Code, Codex write down their working notes
一个让 AI 代理（如 Claude Code、Codex）自动记录工作笔记的工具，帮助开发者追踪 AI 的思考过程与决策路径，提升可解释性与协作效率。
Aivory AI
SaaS平台，帮助用户理解AI的决策逻辑与输出依据，提升AI系统的可解释性与可信度，适合企业级AI应用落地与合规审查
NetraSetu: Explainable DR Screening
基于AI的眼科疾病筛查工具，可解释诊断过程，帮助医生与患者理解AI判断依据，适用于基层医疗与远程健康场景。
Instantly get the transcript from the agent that wrote any line of code
通过代码行自动获取撰写该行代码的 AI 代理（agent）的完整执行记录与转录，帮助开发者理解 AI 编程行为的来龙去脉
The courtroom inside our AI
一个探索AI决策过程透明性的可视化项目，将AI的‘法庭’逻辑以交互方式呈现，揭示其推理机制
Tripofreak
AI旅行规划工具，不仅能生成行程，还能解释每一步决策逻辑，提升用户信任与可控感
LinearMemory: AI Memory Explorer
为AI代理设计的可读、可审计记忆系统，让AI行为更透明、可追踪，便于调试与信任建立。
Understanding your Claude Code with trajectory segmentation
通过轨迹分割技术分析Claude Code中AI行为的执行路径，帮助开发者理解AI如何拆解任务、决策与调用工具，提升对AI代理行为的可解释性。
PaperMachine
AI分析工具，不仅能给出结论，还能展示推理过程，提升AI决策的可解释性
DecisionGraph
AI决策辅助工具，为AI的判断提供可追溯的证据链，并支持“回溯”修改，增强AI决策的透明度与可控性。
Inficy
AI智能体操作可视化追踪工具，记录并保留AI执行过程的可验证证据
NiubiGEO
NiubiGEO 是一个开源的 AI 可视化平台，通过人工驱动的方式增强 AI 模型的可解释性与增长能力，助力开发者理解与优化 AI 行为
AI·rete·RAG – a Rete rule engine decides, RAG explains why
AI·rete·RAG 结合 Rete 规则引擎的决策能力与 RAG 的可解释性，实现既智能又透明的 AI 决策系统。
Making agent decisions better and traceable
该项目聚焦提升 AI 代理（Agent）决策的可解释性与可追踪性，通过结构化日志与推理链记录，帮助开发者调试和优化智能体行为。
use-citations – Claude Code skill for citation backed answers
use-citations 是 Claude Code 的一个插件技能，可让 AI 在回答代码问题时附带引用来源，增强答案可信度与可追溯性。
DocMind AI
DocMind AI 是一款文档 AI 工具，不仅能处理文档，还能展示其推理过程，提升结果的可解释性与可信度。
WhyObserve
WhyObserve 是一个用于追踪和记录决策过程的工具，帮助用户理解 AI 或自身行为背后的推理逻辑，适合需要可解释性的研究者与工程师。
TachyRoute
TachyRoute 是一个开源的可解释、多模态、早退出决策引擎，用于构建高效且透明的AI决策系统，适合需要可解释性的AI应用场景。
其他标签
常见问题
「可解释性」这个标签是怎么归的?
标签来自每个产品的中文拆解(解决什么场景、面向谁),由模型从产品自述里归纳,不是人工逐条打的,也不接受付费打标。
这里的排序依据是什么?
按库内真实热度:投票数 / MRR / 增速,取产品实际有的那个。不是编辑推荐,也不卖位置。
数据多久更新?
追踪持续进行(分钟级),本页于 2026-10-27 生成。全部数字可经公开只读 API 复核:https://kanonagent.com/data