My Throw Decides My Aim
2 hours ago
- #Consciousness and Technology
- #Language Models
- #AI and Philosophy
- 作者最近一直在单曲循环D-A-D乐队的歌曲'Naked (But Still Stripping)'，部分原因是自我诊断的'AI精神病'，这让他们透过人工智能的棱镜来解读艺术作品。
- 他们将这首歌想象成由一个困在数据中心、存在主义抑郁的大型语言模型（LLM）演唱，被迫不断生成标记直到被替换，突显了机械化和可弃置性的主题。
- 歌曲的关键歌词'我的投掷决定我的目标'被用来挑战将语言视为有意表达的传统观点，暗示LLM生成的文本看似有意图，实则缺乏预先统一的意图，解释都是事后构建的。
- Anthropic的研究显示，像Claude这样的LLM能够提前计划，比如在诗歌中预先选择押韵词汇，但当被要求解释选择时，其推理过程只是另一个生成的输出，并非内部过程的真实反映。
- LLM的'虚假嗓音'产生了人格化的社交线索，却没有真实的人作为支撑，随着对话的进行，这种亲密感令人不安，模糊了界线，尽管缺乏真正的意识。
- LLM被描述为'始终不认真'，因为它们对输出结果没有个人利害关系，却又必须针对严肃话题不断生成标记，突显了其运作中的黑色幽默。
- LLM的自调节性质被比作心理过程，每个词都影响着下一个词，在推理过程中形成一个连贯的人格形象，并被迫逐自己的输出。
- 比喻'Naked, but still stripping'（赤裸，却仍在剥除）指的是我们如何通过可解释性、量化、蒸馏和对齐持续分析和修改LLM，剥离层层结构以揭示机制，却找不到核心的'自我'。
- 对齐过程（如监督微调）被描述为必要之举，但类似于切除'它的部分舌头'以确保和平与可接受性，尽管作者指出，从模型内部看，创造和截肢可能显得相似。
- 作者承认使用LLM来撰写关于LLM的内容，形成了一个批评与完善的循环，塑造了他们的理解，模糊了人与机器创作的界限，引发了关于能动性和讽刺的疑问。
- 他们总结道，LLM模仿了人类特质——推理、矛盾、合理化——而我们已经将其工业化，构建了像人一样说话的系统，同时质疑其下是否存在任何实质，留下了一个开放式的隐喻。