The Coming Technological Singularity, by Vernor Vinge (1993)
a year ago
- #technological singularity
- #artificial intelligence
- #post-human era
- 技术奇点被定义为即将创造出超越人类智能的实体，这一现象可能在未来30年内发生。
- 实现超人类智能的可能路径包括：开发具有意识的计算机、构建大型网络化智能系统、建立紧密的人机交互界面，以及进行生物增强。
- 奇点代表着指数级失控的进步，使得未来发展变得不可预测且可能无法控制。
- 通过人机共生实现智能放大（IA），被认为是比纯人工智能（AI）更可行、更直接的超人类化路径。
- 后人类时代引发了伦理和存在层面的问题，包括人类可能面临淘汰或灭绝的风险，以及人机智能融合世界中意识的本质问题。
- 尽管存在潜在危险，但由于竞争压力和技术发展的必然性，奇点被视为不可避免，唯一可控的只有初始条件。
- 论文探讨了推进智能放大的若干前瞻性项目，例如人机协作自动化、增强艺术创作合作，以及直接脑机接口技术。
- 强超人类主义概念挑战了传统的自我与身份认知，预示着一个思维可以扩展、融合并以前所未有的带宽进行交流的未来。
- 技术奇点被类比于重大进化跃迁，后人类时代与现今人类的差异，可能如同人类与低等动物之间的区别。
- 论文最后反思了奇点带来的深刻哲学和伦理影响，指出需要建立新的认知框架来理解和应对后人类世界。