消息来源频道

硬核开源智库

@HardcoreOpenAI

频道811 位成员公开可见持续更新

提供硬核学习资源，探索开源力量，驾驭AI未来！本频道精选GitHub优质开源项目、最新人工智能(AI)技术进展、前沿科技资讯以及各类有价值的学习资源，助你站在技术浪潮之巅，实现知识与技能的快速跃迁。无论你是开发者、AI爱好者还是技术探索者，都能在这里找到属于你的宝藏！

成员规模811 位成员

在线情况待同步

消息总数1,140 条消息

浏览量总数116,736 次浏览

频道详情频道地址

2025/05/30 10:18

Anthropic 开源“思维追踪”工具，可视化揭秘 AI 内部逻辑
Anthropic于5月29日发布“思维追踪”（Circuit Tracer）开源工具，以图形化方式呈现AI大语言模型的内部思维过程。该工具通过构建“归因图”（Attribution Graph），帮助研究者可视化模型内部运作并进行交互式探索。Circuit Tracer已在GitHub平台以开源库形式发布，研究者可在Decode Research运营的Neuronpedia平台上使用交互式前端查看“归因图”。用户可利用该工具生成自定义归因图，追踪模型内部逻辑，并进行标注、分享和调整特征值以验证研究假设。Anthropic 认为，开源这些工具将促进对语言模型内部运作的更广泛理解。
🏷 #Anthropic #Circuit #Tracer #开源