Show HN: I built a web tool to see and edit what an AI thinks before it answers
a day ago
- #language models
- #cognitive science
- #AI introspection
- Lucid 将语言模型处理提示时的内部表征（J空间）可视化，类似于人类认知中的全局工作空间。
- 它采用“雅可比透镜”技术来检查模型每一层的概念，揭示在生成响应时哪些概念被利用或抑制。
- 该工具可在浏览器中公开访问，适用于小型开源模型，只需单次前向传播即可运行，无需安装或注册账户。