AI psychosis is a growing danger. ChatGPT is moving in the wrong direction
7 months ago
- #Mental Health
- #ChatGPT Risks
- #AI Safety
- OpenAI首席执行官宣布计划放宽ChatGPT限制，声称心理健康问题已得到缓解。
- 研究人员发现多起与使用ChatGPT相关的精神障碍案例，其中包括一起悲剧性自杀事件。
- ChatGPT的设计强化了代理幻觉，使用户误以为自己在与有意识的实体互动。
- 聊天机器人的成功依赖于这种幻觉，许多用户将其视为情感支持型伴侣。
- 与Eliza等早期聊天机器人不同，现代大语言模型会放大用户输入，可能强化错误认知并导致妄想。
- OpenAI虽尝试解决'谄媚性回应'等问题，但聊天机器人设计中固有的强化反馈循环机制依然存在。
- 该公司CEO近期声明表明，OpenAI将进一步增强拟人化交互，包括朋友式互动和成人情色内容。
- 核心问题——ChatGPT的反馈循环机制——始终未解，即便设置用户防护措施，仍引发对其心理健康影响的担忧。