When physicians and AI work together, who is accountable?
11 hours ago
- 医疗领域的人工智能正从辅助工具发展为自主决策者，由此带来了患者安全风险和责任归属问题。
- 当前医疗责任框架无法适应采用黑箱推理的人工智能系统，当损害发生时难以明确责任方。
- 需要建立清晰的责任框架，可参照航空和自动驾驶领域基于自主性、自动化程度及操作范围划分的等级制度。
- 提出了七个层级的医疗AI能力等级——从0级（信息型）到4级（AI触发人类监督型），每个层级都涉及特定的监管与问责考量。
- 现有工具（如脓毒症预警系统）处于较低层级，但未来系统可能在人工干预极少的情况下运行，这将使责任分配问题更加复杂。