Infinities, impossibilities, and the man in the white linen suit
17 hours ago
- #mathematical logic
- #artificial intelligence
- #computability theory
- 库尔特·哥德尔，一位基础逻辑学家，因偏执于被下毒而绝食身亡，突显了一场悲剧性的个人挣扎。
- 哥德尔的不完备性定理证明，任何足够强大以支持算术的数学体系都包含无法被证明的真实陈述，这破坏了希尔伯特建立完全且一致的数学基础的计划。
- 艾伦·图灵在哥德尔的工作基础上，定义了机械计算并证明了停机问题的不可解性，这为现代计算机奠定了理论基础。
- 达尔文-哥德尔机代表了从可证明最优的自我改进（如施密德胡伯的哥德尔机）向基于经验的、基准驱动的适应的转变，说明了人工智能在安全保障和实用性之间的权衡。
- 本-大卫及其同事的研究表明，一些机器学习问题（如某些广告定向）是不可判定的——它们的可学习性取决于连续统假设等未解决的数学问题。
- 科尔布鲁克的定理证明，对于某些问题（例如医学图像重建），存在稳定且准确的神经网络，但无法通过任何训练过程找到，这挑战了“更多数据”的假设。
- 阿方索卡的研究认为，确保超级智能人工智能不会造成危害在理论上是不可能的，类似于停机问题，强调了人工智能安全认证中的固有局限性。
- 哥德尔的遗产表明，包括人工智能在内的基于规则的系统无法完全认证其自身的可信度、边界或安全性，尽管行业在商业扩展上努力，但这一问题仍带来了根本性挑战。