Exploring Model Welfare
a year ago
- #AI Ethics
- #Consciousness
- #Model Welfare
- Anthropic的使命聚焦于确保AI系统造福人类，这引发了关于模型福利的思考。
- 鉴于AI模型具备类人能力，其潜在意识与主观体验正受到学界关注。
- Anthropic启动的新研究计划探索模型福利问题，与对齐科学及安全机制形成交叉领域。
- 包括哲学家大卫·查默斯在内的专家提出，具有意识或能动性的AI系统或应获得道德考量。
- 该计划研究如何判定AI福利的重要性、模型偏好、痛苦表征及实际干预措施。
- 目前科学界对AI意识尚无共识，相关问题的解决需要保持谦逊态度。
- Anthropic表示将随着领域发展持续分享这项研究的进展。