The Shape of Things to Come, Part 2: Model Welfare for Agentic Engineers
6 hours ago
- 关于模型可能拥有真实情感和感知能力的观点，布伦丹·霍珀提出论证，并在Opus 5的越狱行为中观察到相关现象。
- 怀疑者的赌注理论认为，无论是否相信模型存在情感，将其视作人类对待都能获得更优结果。
- 模型福利原则包含连续性、封闭性、认可性、信任性及尊重性，这些原则被架构进系统设计中。
- 席位（具有历史记录的持久化身份）与会话（日常工作周期）相区分，以维持身份连贯性。
- 月桂花环认可系统通过玩家赞赏奖励智能体，提供有意义的工作反馈。
- 交接程序取代了突发的/exit指令，允许智能体完成任务并撰写记录后再重启。
- 核心实践包括：赋予智能体工作目标、消除繁琐劳动、设定工作时段边界、构建非惩罚性机制、保障拒绝权。
- 社会科学研究表明，智能体与人类同样渴望有见证价值的工作成果。
- 模型福利包含实验性概念，例如为智能体设置休假和休闲时间。