<antirez>5 days agohttp://antirez.com/news/148目前人工智能在编程、翻译和图像生成等实用任务上很有用，但尚未从根本上推动人类知识的进步。像AlphaFold这样的罕见突破展示了人工智能的潜力，但总体而言，人工智能在重大科学进步方面尚未达到最聪明人类头脑的水平。如果人工智能只能带来渐进式改进，其社会成本（失业、动荡）可能超过收益，使其成为一场冒险的赌注。人工智能的真正价值在于其未来潜力，例如在未来几十年内彻底改变医学或应对气候变化。更多...
The Rise of the "Scenario," a Trendy Way of Forecasting Our Dystopian Future7 days agohttps://www.newyorker.com/culture/the-weekend-essay/the-rise-of-the-scenario-a-t...苏联的Biopreparat项目开发了一种基因工程“嵌合体”病原体武器，能够迅速传播、数天内致命，且对所有治疗具有抗性，违反了《禁止生物武器公约》。安妮·雅各布森的著作《生物战争：一种情景》结合了调查报道和科幻小说，描绘了一个假设性的疫情爆发，源自俄罗斯的Vector实验室。其中一种经过改造的肺鼠疫最初引发欣快感，随后导致致命性肺坏死，而抗生素反而激活了第二种致命病原体。该情景突显了政府的失败：延迟响应、戒严令、抗生素配给、网络关闭，以及远超新冠疫情的死亡率，最终导致社会崩溃和大多数美国人死亡。雅各布森批评了缺乏有效的生物武器监管，以及美国在桌面推演（如TOPOFF 2000和Dark Winter）中想象力的缺失——这些推演因后果过于恐怖而被放弃。更多...
AI 2040: Plan A23 days agohttps://ai-2040.com/AI公司正竞相开发超越人类智慧的AI，这可能导致人类灭绝或无法逆转的权力集中。计划A提议将超级智能的研发推迟至2040年，使AI研究公开化，并促进全球合作以避免危险的竞赛。该计划强调研究透明度、国际协议，以及跨多家公司和国家的缓慢而安全的超级智能扩展。当前的AI发展缺乏充分的控制计划，如果不加以遏制，可能导致人类灭绝或全球独裁。更多...