Show HN: Neuronpedia, an open source platform for AI interpretability
a year ago
- #machine learning
- #AI interpretability
- #open source
- Neuronpedia 已于2025年3月开源
- 该平台提供4TB的AI模型可解释性数据
- 支持探针、潜在特征/特征、自定义向量和概念分析
- 近期发布了针对Llama-3.1-8B和GPT2-Small等模型的稀疏自编码器(SAEs)
- 兼容模型包括DeepSeek-R1-Llama-8B、Gemma-2-2B-IT和GPT2-Small等
- 由前苹果工程师Johnny Lin创建，获得Decode Research和长期未来基金支持