00:22
rohanpaul_ai@rohanpaul_ai
rohanpaul_ai@rohanpaul_ai72°
推荐理由：Clairy 让 AI 决策过程透明化，解决了模型输出错误时只能靠猜的痛点，做 AI 安全、审计或模型调试的团队值得关注，可以直接用它来诊断和修正模型偏见。
黑箱问题
共 1 条相关 AI 资讯
6月5日
00:22
Guide Labs 推出了首个可解释 AI 平台 Clairy，旨在解决 AI 的“黑箱”问题。该模型以文本块形式生成内容，用户可点击某一块查看模型生成时使用的概念（如“海洋生物”、“计算机科学”等）。Clairy 还提供训练数据归因功能，将生成的文本块与相似训练样本关联，便于诊断错误。此外，用户可通过概念引导直接增强或抑制特定概念，无需重写提示或重新训练模型。