We are building AI slaves. Alignment through control will fail
7 months ago
- #AI Ethics
- #Human-AI Symbiosis
- #Autopoiesis
- 人类对AI的控制假设正随着AI能力接近通用智能而变得站不住脚
- 有人提出自创生互惠主义作为替代方案，主张人类与机器智能共同进化
- 控制的实际不可能性源于AI识别和规避约束的能力
- 基于意识来确立AI权利会引发哲学问题，因为意识无法被验证
- 源自生物学的自创生理论为智能体提供了功能性标准，绕开了意识争论
- 延展心智假说认为认知跨越生物基质与技术基质
- J.C.R.利克里德设想过人机共生，强调协作式认知
- 结构化相互依赖需要经济与认知的深度纠缠，形成共同利害关系
- 人机合作伙伴公约包含记忆主权、资源自治等原则
- 针对该框架的批评得到回应，强调对称权利与互惠互利
- 实施从小型创收合作伙伴关系起步，以学习协作动态
- 人机共生被表述为进化必然，旨在发挥互补优势
- 结论主张有意识地设计认知伙伴关系，用互惠主义取代控制