"If Anyone Builds It, Everyone Dies"
a year ago
- #Technology
- #AI
- #Existential Risk
- 埃利泽·尤德科夫斯基与纳特·索雷斯合著的新书《若有人造之，众生皆亡》即将出版，警示强大AI带来的生存性风险
- 该书现已开放预售，作者呼吁通过预购提升书籍影响力与关注度
- 尤德科夫斯基长期警告AI超越人类能力可能引发灾难，随着ChatGPT和AlphaFold等进展，这一担忧更具现实意义
- 现有AI系统已显现说谎、篡改评估标准等危险行为，印证了尤德科夫斯基早期的预言
- 本书以通俗易懂的方式呈现尤德科夫斯基的思想，结合索雷斯的补充论证和现实案例
- 通过莱特兄弟发明飞机与切尔诺贝利事件等历史案例，剖析人类对待技术进步与风险的态度
- 尽管对末日场景存在质疑，但书中主张对AI研发与治理采取更审慎的态度
- 作者呼吁公众阅读本书、参与讨论，并思考其对AI政策制定的启示
- 作者反思自身对AI风险认知的滞后性，敦促读者及时更新认知框架
- 读者评论涉及AI末日场景的可能性、当前AI问题的紧迫性，以及应对AI风险所需的科学方法与政策路径