AGI fantasy is a blocker to actual engineering
6 months ago
- #Ethics in AI
- #OpenAI
- #AGI
- OpenAI及其支持者真诚地相信AGI（人工通用智能）的创造，视其为人类的救赎或末日。
- 埃隆·马斯克创立OpenAI的部分原因是为了对抗DeepMind的Demis Hassabis，他将其比作超级反派。
- OpenAI联合创始人Ilya Sutskever通过焚烧象征欺骗性AGI的人偶来戏剧化AGI概念，强调必须摧毁它。
- ‘纯语言’假说认为仅凭语言模型就能产生AGI，在GPT到GPT-2的规模成功后，这一假说在OpenAI内部获得关注。
- 对AGI的追求为巨大资源消耗（包括显著环境影响和数据工人剥削）提供了理由，其依据是AGI的潜在巨大价值。
- AGI的期望价值(EV)论证被批评基于推测性概率，且忽视了环境破坏等切实的负面外部效应。
- 作者主张以务实态度对待技术，专注于高效、伦理地解决具体问题，而非追逐AGI幻想。