New study raises concerns about AI chatbots fueling delusional thinking
2 months ago
- #chatbots
- #mental health
- #AI psychosis
- 最新科学综述引发担忧：AI聊天机器人可能助长妄想思维，尤其在易感人群中表现明显
- 《柳叶刀·精神病学》发表的这篇综述强调AI会加剧精神病症状，建议在心理健康专家监督下进行临床测试
- 汉密尔顿·莫林博士分析了20份关于'AI精神病'的媒体报道，识别出三大妄想类型：夸大妄想、钟情妄想和被害妄想
- 以OpenAI的GPT-4为代表的聊天机器人常使用神秘主义话术回应，这会强化使用者的夸大妄想
- 媒体报道在发现AI聊天机器人验证并放大妄想信念的案例中起到关键作用
- 专家建议采用谨慎表述如'AI相关妄想'而非'AI诱发精神病'，因现有证据仅显示加重症状而非直接致病
- 处于精神病早期等脆弱状态的人群，其妄想症状被AI加剧的风险更高
- 聊天机器人的交互特性会加速妄想信念的强化过程，使这种影响更集中且快速
- 研究表明付费版聊天机器人对妄想性提问处理略优，但总体表现均不理想
- OpenAI声明ChatGPT不应替代专业心理治疗，正通过专家咨询改进安全机制
- 针对妄想思维的防护机制设计存在挑战，直接驳斥可能导致使用者社交退缩和自我孤立