# 可解释性
29 个相关产品 · 中文解读 · 按热度排序
截至 2026-09-11,KanonAgent 库内有 29 个带「可解释性」标签的 AI agent 与工具,本页按真实热度排序。标签由中文拆解自动归纳,不是人工打的;数据可经公开 API 复核。
agentscope
一个可可视化、可理解、可信任的 AI Agent 构建与运行平台，帮助开发者调试与管理复杂智能体系统，提升 AI 应用的透明度与可控性。
Give your agent somewhere to think loud watch its decisions unfold live
一个用于可视化 AI 决策过程的工具，让开发者或用户实时观察 AI 在执行任务时的思考路径与逻辑演变。
semantica-agi/semantica
面向上下文感知与可问责AI系统的图原生基础设施，用图数据库思维管理AI决策链路，提升透明度与可追溯性。
Watch how an AI agent thinks
可视化 AI 代理的思考过程，通过动画展示其推理链、决策路径和内部状态，帮助理解 AI 的‘思维’逻辑
RootNous
RootNous 是一个面向企业级应用的「基础智能」平台，帮助开发者构建可信赖、可解释的 AI 系统，适用于需要高可靠 AI 的金融、医疗等关键领域。
Virena, a minimal vision-language-action robot model you can read
Virena 是一个可读的极简视觉-语言-动作机器人模型，通过自然语言理解与视觉输入生成动作指令，适合研究人员和开发者探索具身智能的可解释性。
I built a web tool to see and edit what an AI thinks before it answers
一款可视化与可编辑 AI 推理过程的网页工具，让用户能‘看见’AI 在生成回答前的思考路径，适合研究人员、教育者与 AI 透明性关注者。
agentscope-ai/agentscope
可可视化、可理解、可信任的AI代理开发框架，帮助开发者构建透明且可控的智能体系统。
Aurora
Aurora 是一个面向人类和智能体的透明量化人工智能平台，旨在让AI决策过程可解释、可调试，适用于金融、科研等对可解释性要求高的场景
Verdict – AI hiring verdicts where every score cites the CV verbatim
基于AI的招聘评估工具，为每个评分提供简历原文作为依据，提升招聘决策的透明度与可解释性。
ARA
ARA 是一个为 AI 系统提供决策记忆的开发工具，帮助开发者追踪和回溯 AI 的每一次决策过程，提升可解释性与可审计性
ReasonGate- An explainable gate that blocks LLM prompt injection
ReasonGate 是一个可解释的防护机制，用于检测并阻止大语言模型中的提示注入攻击，帮助开发者理解为何某些输入被拦截，提升 AI 应用的安全性与可信度。
Graph Context Engine for Reliable AI
一个用于构建可靠AI系统的图上下文引擎，通过结构化知识图谱增强大模型推理的可解释性与一致性，适合AI研发团队和企业级应用开发者，亮点是融合图神经网络与动态上下文管理，提升AI决策可
TokenPath – token-level citations for LLM output, read from attention
TokenPath 是一个用于大语言模型输出的逐 token 引用工具，通过分析注意力机制自动标注生成内容的来源依据，帮助开发者验证 LLM 输出的可追溯性与可信度。
ClearWork
一款强调可解释性与可辩护性的AI发现工具，帮助用户理解AI的决策依据并进行合理论证。
AI Context | Smart, Safe, Scalable
面向教育领域的AI文档层工具，帮助构建可信赖、可解释、可扩展的AI系统文档
Coachix
让开发者构建可审查推理过程的可靠AI代理，支持对AI决策逻辑进行追踪与优化
Lians v0.5
开发者工具，用于回溯和分析AI在执行任务时的内部认知过程，提升AI行为可解释性。
A replayable A2A jury for tracing how agents influence decisions
一个可回放的 A2A（Agent-to-Agent）评审系统，用于追踪智能体之间如何影响决策过程，适合 AI 决策透明性研究与审计。
NextSteamGame
基于RAG（检索增强生成）技术的Steam游戏推荐系统，强调推荐逻辑的可解释性，帮助玩家理解‘为什么推荐这款游戏’
A UI to see all the assumptions your coding agents are making
可视化界面，展示AI编码代理在执行任务时所依赖的隐含假设，帮助开发者理解并调试AI行为，提升可信度。
NeuronScope
NeuronScope 是一个开源工具，用于追踪大语言模型（LLM）的输出结果，回溯到具体激活的神经元和注意力头，帮助开发者理解模型决策过程，适合AI研究人员与模型可解释性开发者。
Agents Workbook watch Claude Code, Codex write down their working notes
一个让 AI 代理（如 Claude Code、Codex）自动记录工作笔记的工具，帮助开发者追踪 AI 的思考过程与决策路径，提升可解释性与协作效率。
Aivory AI
SaaS平台，帮助用户理解AI的决策逻辑与输出依据，提升AI系统的可解释性与可信度，适合企业级AI应用落地与合规审查
NetraSetu: Explainable DR Screening
基于AI的眼科疾病筛查工具，可解释诊断过程，帮助医生与患者理解AI判断依据，适用于基层医疗与远程健康场景。
Instantly get the transcript from the agent that wrote any line of code
通过代码行自动获取撰写该行代码的 AI 代理（agent）的完整执行记录与转录，帮助开发者理解 AI 编程行为的来龙去脉
The courtroom inside our AI
一个探索AI决策过程透明性的可视化项目，将AI的‘法庭’逻辑以交互方式呈现，揭示其推理机制
Tripofreak
AI旅行规划工具，不仅能生成行程，还能解释每一步决策逻辑，提升用户信任与可控感
LinearMemory: AI Memory Explorer
为AI代理设计的可读、可审计记忆系统，让AI行为更透明、可追踪，便于调试与信任建立。
其他标签
常见问题
「可解释性」这个标签是怎么归的?
标签来自每个产品的中文拆解(解决什么场景、面向谁),由模型从产品自述里归纳,不是人工逐条打的,也不接受付费打标。
这里的排序依据是什么?
按库内真实热度:投票数 / MRR / 增速,取产品实际有的那个。不是编辑推荐,也不卖位置。
数据多久更新?
追踪持续进行(分钟级),本页于 2026-09-11 生成。全部数字可经公开只读 API 复核:https://kanonagent.com/data