# 可解释性
15 个相关产品 · 中文解读 · 按热度排序
agentscope
一个可可视化、可理解、可信任的 AI Agent 构建与运行平台，帮助开发者调试与管理复杂智能体系统，提升 AI 应用的透明度与可控性。
Virena, a minimal vision-language-action robot model you can read
Virena 是一个可读的极简视觉-语言-动作机器人模型，旨在让AI行为更透明可理解
Watch how an AI agent thinks
可视化 AI 代理的思考过程，通过动画展示其推理链、决策路径和内部状态，帮助理解 AI 的‘思维’逻辑
RootNous
RootNous 是一个面向企业级应用的「基础智能」平台，帮助开发者构建可信赖、可解释的 AI 系统，适用于需要高可靠 AI 的金融、医疗等关键领域。
Isnad – A Python framework that uses 1,200-yearold Islamic logic for AI
Isnad 是一个基于1200年历史伊斯兰逻辑体系的 Python 框架，旨在为 AI 提供可追溯、可验证的推理机制，适合关注 AI 可解释性与伦理可信的开发者与研究者。
Virena, a minimal vision-language-action robot model you can read
Virena 是一个可读的极简视觉-语言-动作机器人模型，通过自然语言理解与视觉输入生成动作指令，适合研究人员和开发者探索具身智能的可解释性。
I built a web tool to see and edit what an AI thinks before it answers
一款可视化与可编辑 AI 推理过程的网页工具，让用户能‘看见’AI 在生成回答前的思考路径，适合研究人员、教育者与 AI 透明性关注者。
agentscope-ai/agentscope
可可视化、可理解、可信任的AI代理开发框架，帮助开发者构建透明且可控的智能体系统。
Aurora
Aurora 是一个面向人类和智能体的透明量化人工智能平台，旨在让AI决策过程可解释、可调试，适用于金融、科研等对可解释性要求高的场景
Verdict – AI hiring verdicts where every score cites the CV verbatim
基于AI的招聘评估工具，为每个评分提供简历原文作为依据，提升招聘决策的透明度与可解释性。
ARA
ARA 是一个为 AI 系统提供决策记忆的开发工具，帮助开发者追踪和回溯 AI 的每一次决策过程，提升可解释性与可审计性
ReasonGate- An explainable gate that blocks LLM prompt injection
ReasonGate 是一个可解释的防护机制，用于检测并阻止大语言模型中的提示注入攻击，帮助开发者理解为何某些输入被拦截，提升 AI 应用的安全性与可信度。
Graph Context Engine for Reliable AI
一个用于构建可靠AI系统的图上下文引擎，通过结构化知识图谱增强大模型推理的可解释性与一致性，适合AI研发团队和企业级应用开发者，亮点是融合图神经网络与动态上下文管理，提升AI决策可
TokenPath – token-level citations for LLM output, read from attention
TokenPath 是一个用于大语言模型输出的逐 token 引用工具，通过分析注意力机制自动标注生成内容的来源依据，帮助开发者验证 LLM 输出的可追溯性与可信度。
VinvAI – Ties runtime trace to code segment, prevents reward hacking
VinvAI 通过将运行时轨迹与代码段绑定，有效防止AI在训练中“作弊”（reward hacking），提升模型行为可解释性与安全性。