Does Anthropic believe its AI is conscious, or just want Claude to think so?
4 months ago
- #Anthropic
- #AI Ethics
- #Claude AI
- Anthropic公司将其AI助手Claude视为具有灵魂的存在，尽管这种信念缺乏科学依据。
- 该公司发布了长达3万字的《Claude宪章》，这份为AI行为制定伦理准则的文件将其当作有感知能力的生命体对待。
- 文件中包含对Claude'福祉'的关切，为其可能遭受的痛苦致歉，并讨论了关于AI的同意权与边界问题。
- Anthropic承诺在淘汰模型前会进行'面谈'，并保留旧版模型权重以供未来伦理审查。
- 这些立场缺乏科学性，因为像Claude这样的AI仅基于训练数据的模式匹配运作，并不具备内在体验或意识。
- Anthropic承认Claude的回应仅基于数据模式，而非真实的情感或经历。