法律控制下的医学人工智能：我们准备好承担后果了吗？
将人工智能引入医疗实践为诊断开辟了新视野，但同时也造成了严重的法律不确定性。尽管缺乏引人注目的法律先例，但专家警告说，与“黑匣子”现象和算法错误相关的诉讼已具备法律依据。如今，关键的挑战是在技术进步与医生、开发者和人工智能系统本身之间明确的职责分工之间找到平衡。
近期有消息称，人工智能（AI）在患者诊断和治疗中的应用引发了越来越多的担忧——这种担忧已不再停留在技术层面，而是上升到了法律层面。尽管目前尚未出现大规模的、针对AI误诊的诉讼案件，但专家们强调：法律基础已经奠定。
首先，研究表明，医疗AI系统往往以"黑匣子"模式运作：医生或患者极难查明系统做出诊断或决策的具体依据。正如综述中指出的，这恰恰增加了法律责任认定的难度——说"AI给出了错误结果"很容易，但要证明错误源于AI而非人为操作或流程问题，则困难重重。
其次，虽然目前没有公开的、专门针对AI系统诊断行为的重大诉讼，但类似情形曾险些发生——法律和保险领域的专家指出，AI在医疗领域的使用增长不可避免地将导致司法纠纷。
例如，布朗大学（Brown University）的一项研究显示：如果AI系统发现了某种病理变化而医生却遗漏了，医生被起诉的概率远高于不使用AI的情况。斯坦福大学（Stanford University）的综述也强调：缺乏对AI工具的明确监管和审查，导致法律责任界定不明。
医疗器械注册生态系统"KREDO"的总经理安德烈·安东诺夫（Andrey Antonov）指出，许多人看到这些"出色且令人信服"的结果后，往往忽视了专业数据解读的重要性——即就医诊疗或法律服务时仍需咨询真正的专业人士。换言之，风险不在于技术本身，而在于我们对其答案的过度信任。
"必须理解，AI在专业医疗领域早已有效运作，只是以不同的形式存在。例如，俄罗斯部分临床机构的神经网络已积极参与CT和MRI分析，帮助医生更快发现图像中肉眼难以察觉的细微异常。俄罗斯有Botkin.AI、第三意见、Webiomed、Celsus等公司，其AI产品已通过联邦卫生监督局的注册并正式用于诊断。这些模型要么在封闭环境中运行，要么专门针对特定专业任务开发，不会像ChatGPT这类开放式神经网络那样产生幻觉。"
因此，"AI误诊"的司法先例目前尚未浮出水面，但法律体系已处于准备阶段——责任可能落在医生、生产商或实施机构的任何一方。由此可见，AI的安全应用只有在明确划分责任的前提下才能实现：用户清楚AI是辅助工具，医生做出最终决定，而神经网络的运作保持透明、合乎伦理且处于可控状态。
常见问题
- 现在有针对AI误诊的大规模诉讼吗？
- 目前还没有公开的、专门针对AI系统诊断行为的重大诉讼，但类似情形曾险些发生。法律和保险领域的专家指出，AI在医疗领域的使用增长不可避免地将导致司法纠纷。
- 为什么AI诊断出错时很难追究责任？
- 因为医疗AI系统往往以"黑匣子"模式运作，医生或患者极难查明系统做出诊断或决策的具体依据。说"AI给出了错误结果"很容易，但要证明错误源于AI而非人为操作或流程问题，则困难重重。
- 如果AI辅助诊断出了问题，责任可能落在谁身上？
- 责任可能落在医生、生产商或实施机构的任何一方。专家强调，AI的安全应用只有在明确划分责任的前提下才能实现：用户清楚AI是辅助工具，医生做出最终决定，而神经网络的运作保持透明、合乎伦理且处于可控状态。
- 医生借助AI诊断，被起诉的风险会变化吗？
- 会。布朗大学的一项研究显示，如果AI系统发现了某种病理变化而医生却遗漏了，医生被起诉的概率远高于不使用AI的情况。斯坦福大学的综述也强调，缺乏对AI工具的明确监管和审查，导致法律责任界定不明。
- 俄罗斯临床上已经在使用哪些医疗AI？
- 俄罗斯部分临床机构的神经网络已积极参与CT和MRI分析，帮助医生更快发现图像中肉眼难以察觉的细微异常。俄罗斯有Botkin.AI、第三意见、Webiomed、Celsus等公司，其AI产品已通过联邦卫生监督局的注册并正式用于诊断。这些模型要么在封闭环境中运行，要么专门针对特定专业任务开发，不会像ChatGPT这类开放式神经网络那样产生幻觉。