The Future Worth Building Is Human – Thinking Machines Lab
5 hours ago
- #Human-Centric AI
- #Decentralized Knowledge
- #AI Customization
- 思维机器的目标是开发能增强人类意志和判断力的人工智能，确保AI服务于由持续反馈和学习塑造的人类目的。
- 当前AI常常缺乏用户定制；愿景是分布式、多样化的AI，与人类共同学习，而非集中化、固化的模型。
- 关键技术方向包括：训练强大的多模态模型；定制化工具（如训练模型权重）；用于实时协作的交互界面；以及发表研究以促进更广泛的理解。
- 知识是分散且隐性的，由个体持有（如厨师、店主）；AI应与此分散知识融合，而非集中或取代它。
- 人类参与至关重要，这需要技术进步，如实时多模态交互模型和评估人机协作的指标，而不仅仅是自主完成任务。
- 去中心化对齐对避免权力集中至关重要；AI价值应通过模型权重定制反映多元化用户，促进安全性和生态系统多样性。
- 未来应平衡人类与AI的贡献，避免在参与和能力之间进行权衡，使组织能够根据自身独特优势定制AI。