Intelligence from Learnable Novelty
18 hours ago
- 智能在不同领域表现为数据压缩、通用计算或自适应行为，每种都有其自身目标。
- 两种有影响力的驱动——新奇搜索（寻求惊喜）和自由能原理（避免惊喜）——以镜像方式失败，例如被嘈杂的电视吸引或满足于黑暗的房间。
- 这两种失败都源于将学习者能够转化为知识的惊喜和不能转化的惊喜视为同一量。
- 信息的可学习部分，称为可学习新奇，产生了智能的不同投影，并且基于廉价、可微的储层计算机构建了一个封闭形式估计器。
- 作为无监督的度量，该估计器恢复了数十年的复杂性分类，将图灵完备的规则110列为基本元胞自动机中最高。
- 作为目标，其梯度引导神经元胞自动机从简单动力学进入孤子态，完全无监督地将图像编码器表示围绕MNIST数字类别组织起来。
- 作为强化学习的内在奖励，它提供了任务奖励中缺失的探索，在十个环境中的九个上改善了基线而不崩溃。
- 复杂性生成、抽象和探索源于对一个可微量的上升，将智能的投影统一在共同的定量基础上。