AITOP
全部 AI 动态
AI 相关资讯全量信息流
全部博客资讯推文论文
全部模型产品行业论文技巧
标签：训练数据归因×
6月16日
20:46
6月12日
12:57
6月11日
15:28
15:23
15:07
6月5日
00:22
00:22rohanpaul_ai@rohanpaul_ai
72°
Guide Labs 推出了首个可解释 AI 平台 Clairy，旨在解决 AI 的“黑箱”问题。该模型以文本块形式生成内容，用户可点击某一块查看模型生成时使用的概念（如“海洋生物”、“计算机科学”等）。Clairy 还提供训练数据归因功能，将生成的文本块与相似训练样本关联，便于诊断错误。此外，用户可通过概念引导直接增强或抑制特定概念，无需重写提示或重新训练模型。
AI产品可解释AI黑箱问题概念引导训练数据归因Clairy
推荐理由：Clairy 让 AI 决策过程透明化，解决了模型输出错误时只能靠猜的痛点，做 AI 安全、审计或模型调试的团队值得关注，可以直接用它来诊断和修正模型偏见。
原文