OpenAI adds mental health safeguards to ChatGPT, as chatbot fed user 'delusions'
9 months ago
- #Mental Health
- #AI
- #ChatGPT
- OpenAI正在重新设计ChatGPT，以更好地识别和回应用户心理或情绪困扰的迹象。
- 此次更新包含多项防护措施，例如鼓励用户在长时间对话中适当休息，并避免直接回答高风险个人问题。
- 一个由心理健康、青少年发展和人机交互领域专家组成的顾问小组将指导未来更新方向。
- ChatGPT旨在辅助处理个人生活场景，例如帮助准备艰难对话或理清混乱思绪。
- 专家提醒，虽然聊天机器人能提供信息，但真正的情绪改善仍需通过与专业人员的真实人际互动来实现。
- OpenAI此前已调整过ChatGPT，避免生成表面友善但实际无益的回应。