AI is Anti-Human (and assorted qualifications)
a year ago
- #AI ethics
- #Human agency
- #Tool conviviality
- 氛围编码（Vibe coding）正在nostr开发者社区中流行，但需警惕潜在陷阱
- 讨论强调不应全盘否定AI，而应受伊万·伊利奇《宜人工具》启发审慎使用技术
- 比特币支持者与奥斯陆自由论坛讲者主张用大语言模型（LLMs）行善，防止被企业和政府垄断
- 伊利奇的'宜人工具'概念涵盖电话、印刷、互联网、密码学及LLMs，这些工具能赋能社区中的个体
- 工具滥用会导致管理主义霸权，滋生无知、依赖和现实脱节
- 不加反思地使用工具可能使人背离自身利益，沦为工具的奴隶
- 工具过度扩张（如工业化农业）无论意图如何都会导致恶果
- LLMs的弊端包括扭曲人类表达、遮蔽信息、增加琐碎工作及取代人际关系
- 解决方案包括：教授正确工具使用、推广开源模型、产业来源多元化、开发内置限制的模型
- 将生产力增益导向人类素养提升、抵制垄断，是保持人类能动性的关键
- 反对技术决定论，主张以生命质量和人类繁荣为尺度的质性理解
- 对新科技采取保守态度，留出反思空间，让人类福祉而非单纯生产力指导技术使用