AI companies have stopped warning you that their chatbots aren't doctors
10 months ago
- #AI
- #Healthcare
- #Ethics
- AI公司已基本停止在聊天机器人回答健康问题时添加医疗免责声明。
- 研究发现，2025年AI模型输出中包含医疗警告的比例不足1%，较2022年的26%大幅下降。
- 当前AI模型不仅能回答健康问题，还会主动追问症状并尝试诊断，增加了用户轻信不安全医疗建议的风险。
- 研究人员测试了OpenAI、Anthropic和谷歌等公司的15个AI模型，发现免责声明随时间推移显著减少。
- 深度求索（DeepSeek）和xAI的Grok等模型对关键健康问题也完全未设置医疗免责声明。
- 移除免责声明可能是AI公司为提升用户信任度和产品使用率采取的策略。
- 尽管AI模型常出现错误，用户仍普遍过度依赖其提供的医疗建议。
- 在急诊情况、药物相互作用和化验结果等场景中，AI模型最易缺失免责声明。
- 随着AI模型日益复杂化，免责声明的缺失使得错误医疗建议造成现实危害的风险持续增加。
- 专家强调AI提供商必须制定明确准则，提醒用户这些模型不能替代专业医疗服务。