图说 / Nature近日发表评论文章，提出AI医疗体系分级责任认定的框架

出品 | 搜狐健康

作者 | 刘家碧

编辑 | 袁月

病史用AI收集，检查后AI可以进行初步诊断，手术方案的制定甚至操作引导都可以有AI参与……人工智能正以惊人速度嵌入医疗系统的每个角落。但问题也随之而来：当医院都用上了AI的时候，出事了谁来担责？

传统医疗中，责任边界的划分已经较为成熟、清晰：医生提供规范诊疗，医院搭建安全流程，厂商交付合格设备。但AI的介入正在模糊这些边界。近日，一篇发表于Nature的评论文章提出了一个AI医疗体系的责任认定框架模型：根据AI的智能程度、应用范围等，实行与不同风险等级相适应的分级管理措施。当技术狂奔遇上规则滞后，我们亟需一场关于责任与监管的系统性思考。

如何给医疗场景中的AI分级？各级别的AI需要什么样的监管？

分级管理并不是全新思路，自动驾驶行业早已采用0—5级分级模式管控车辆自动化权限。这篇Nature评论文章借鉴该分层治理逻辑，首创适配医疗场景的7级AI分级框架。

0级：信息提供型AI

0级AI按人类设定规则存储、调取和展示数据，如电子病历管理算法、可穿戴设备的生命体征传输程序。这类AI通常算法透明，输出结果可独立核验。

0级AI的监管模式相对成熟。监管机构可以评估工具可靠性、网络安全与数据保护水平；法院能够沿用传统标准判定责任。

1级：辅助提示型AI

1级AI执行单一明确任务，全程由医生监督。例如心电监护仪标记异常心律、影像扫描标出疑似肺结节。输出结果可通过医生复核来验证，按诊断辅助设备监管。

医院需确保医护人员清楚AI的局限性；使用者需要准确判断系统警报是否具备临床意义。

2级：决策支持型AI

2级AI整合多源数据，例如症状、病史、影像、诊疗指南等，出具诊断建议、撰写出院小结、生成分诊评分。运算逻辑可能不透明，但具备一定可核验性，最终决策权仍归医生。

监管机构应要求厂商证明系统能改善诊疗质量；医院应培训医生主动质疑AI输出，而非被动采信。

Nature的评论文章警示，医生工作繁忙时容易过度依赖决策支持型AI，外界也很难量化AI的建议究竟对医生产生了多大影响。

3级：医生监督下的自动化AI

3级AI在限定场景内进行医疗决策并动态调整。典型的例子是胰岛素输注设备，根据持续的血糖读数自动调整给药剂量，医生仅在异常时介入操作。目前，这类AI的应用还非常有限。

图说 / Nature统计了美、中、德、日、法5个国家医疗场景中应用的AI等级，0级与1级占大多数

对于3级AI，监管机构应重点审核设备操作指南及风险说明；医疗机构需完善知情同意规范，应对AI诊疗带来的新型风险。此时，传统责任判定模式已出现明显短板：若医生和机构操作均合乎规范，损害源于算法作出的、无法直观判断存在错误的决策，责任认定将十分棘手。

4级：由AI提醒医生介入监督

4级AI未来可能用于重症监护等场景的全周期管理，持续监测患者情况并动态调整方案，仅在发出警报时呼叫人工医疗团队。这一级别的AI目前尚未规模化落地应用，但其所需技术正逐步成熟。

Nature在评论文章中指出，未来4级AI若要进入临床应用，监管机构需承担起更大的举证责任，必须证明AI管理+医生辅助的模式，比传统的医生管理及医生管理+AI辅助模式的安全性更高。由于医生几乎没有机会实时复核系统所有操作，法院很难判定不良结局究竟源于人为过失、设备缺陷，还是医疗固有风险。

5级：自主“医生型”AI

相当于医疗领域的“全自动驾驶”。5级AI可在多种场景下处理各类病症与常规治疗，人类医生仅保留必要时干预权限。目前尚无AI达到此标准。

传统的责任认定标准对此几乎失效，若系统经合规审批、按规范使用且建议符合指南，出现无法预见的后果可能并非任何一方过错。

6级：自主学习型AI

6级AI不仅能自主诊疗，还能依托新数据与研究成果持续迭代诊疗模式，甚至可能提出尚未进行人体试验的新疗法。

6级AI的核心争议在于：这类系统究竟属临床AI还是科研工具？若创新治疗方案全程无人工参与并造成损害，责任归属将极为复杂：究竟是研发方、启用系统的医院，还是整个医疗体系承担责任？

值得注意的是，同一种AI因使用场景不同可能归属不同等级。例如眼底影像系统在眼科专科仅用于复核临床判断，风险就相对较低；若放在基层诊所自主决定转诊，风险显著升高。因此，分级不能只看产品本身，更要看“谁在用、怎么用、用在哪”。

从“事后追责”到“全周期治理”：当前的监管体系该如何升级？

AI的智能化程度正在飞速进展。拥有自主决策乃至自主执行能力的智能体已经从科幻变成现实，3级及以上AI在医疗领域的规模化落地也是可预见的未来。Nature的评论文章警示：当前对AI的管理仍沿用“上市前审批+上市后监测”模式，届时面对智能化程度更高的AI，这套管理体系将捉襟见肘。监管亟需从四个维度升级。

第一，建立精细化分级准入与动态调整机制。监管机构应将AI思考推理的自主性、执行操作的自动化程度以及AI的应用范围作为独立评判维度，针对AI的每项功能单独划定等级。这套体系有助于完善当前的AI管理办法，依据AI职能匹配风险适配的监管规则。需要特别注意的是，为防止企业对AI的分级“就低不就高”，应按所有预期用途对应的最高等级确定该AI的等级。

第二，明确人工复核的边界与标准。针对高自主性系统，应界定有效复核标准。因为医生无法还原算法推导逻辑，有效复核可包括核查部署场景是否适宜、定期核验运行表现、统计人工推翻系统决策的频次。若使用地点或方式发生变更，如从专科下沉至基层的诊所，应启动新一轮审查。

第三，构建全周期的上市后监测体系。美国食品药品监督管理局（FDA）已发布《医疗设备预定变更控制计划》（PCCP），要求制造商上市前提交详细变更计划，明确未来的算法修改类型、验证方法及性能边界，为迭代改进提供路径。

第四，完善法律规则以适应AI“黑箱”时代的责任判定。Nature的评论文章直言，现有法规难以判定AI算法的“黑箱”是否存在缺陷。法官应考量医疗场景中的各个主体对AI工具的掌控能力及预防伤害的能力。立法者还可要求相关主体购买“AI损害责任险”，将AI风险纳入产品责任险、职业责任险保障范围。

超越分级管理：让AI安全、高效融入医疗体系还需要什么？

责任认定只是AI应用治理的一个切面。要让AI安全、高效地辅助医疗服务，就要符合本土的医疗系统运行逻辑。

全国政协委员、汇珩资本主管合伙人梁颖宇曾在2026年两会期间提出，分级管理是完善AI医疗责任认定体系的一个方面，落实AI介入的医疗事故责任还需建立多方共担模式。另外，设立医疗AI监管沙盒，在风险可控的前提下，在部分地区机构试点创新空间，形成AI应用规范再向全国推广。同时，建立第三方评估与认证体系，对模型安全性、公平性、可解释性等性能进行评估，为医院采购与监管审批提供参考。推动跨机构开展真实世界的临床试验，形成可公开应用的证据库，避免每家医院都要从零开始做小样本验证。

除责任认定外，在推动AI应用的过程中，数据治理、支付机制、基础设施和人才培养等维度也需同步发力。

在数据治理层面，数据质量直接决定模型可靠性。梁颖宇委员指出，训练数据集中于大医院特定人群，可能导致模型在基层、小众群体及罕见病诊疗中稳定性不足；数据孤岛阻碍模型迁移推广。她建议在确保隐私与安全的前提下，推动区域医疗数据中心与高质量数据建设，为模型训练评估提供数据基础，并明确标准责任的边界。建立跨机构数据共享机制，引入隐私计算与去标识化技术，实现数据“可用不可见”。促进AI工具互联互通，形成统一的数据治理与互操作协议，提升算法透明性以及建立AI模型注册与追踪机制。

在支付机制层面，商业模式不清晰是制约落地的关键瓶颈。AI带来的效率提升如何纳入医保支付绩效考核，形成稳定定价机制，仍是试点难点。梁颖宇建议研究通过医保支付绩效的服务定价方式，让有效AI工具“用得起、用得久”。

在技术基础设施层面，基层医疗机构能力有限，本地部署大模型成本高，云端推理面临网络稳定性问题。梁颖宇建议建立国家AI医疗数据基础设施，分层推进应用，缩小城乡差距，将AI预筛查融入家庭医生签约服务系统，自动生成慢性病风险预警。

在人才培养与信任构建层面，确保医生在关键环节的主导地位至关重要。医院必须培训医护知晓AI局限性，留存全部决策记录，建立异常监测机制。同时，加强公众科普、完善患者知情同意，是构建社会信任的必要环节。

当下正处于巩固AI在医疗场景应用安全性、明确责任认定机制的宝贵窗口期。目前医疗领域的AI应用智能化程度相对较低，如果等到推理过程高度自主、任务执行高度自动化的AI系统大规模投入使用后再行动，无论是医院、医生、AI应用开发者还是患者，医疗场景中每一个人都将陷入被动。AI的监管不能“先上车后补票”；尽早行动，才能推动AI技术合规研发、规范监管与有序落地，最终让技术真正改善患者诊疗水平，而非让个体在算法与责任的迷雾中独自承担风险。

参考资料：

1、Nature.When physicians and AI work together, who is accountable? How to lay out medical liability

https://www.nature.com/articles/d41586-026-02315-9

2、中华人民共和国国家标准.汽车驾驶自动化分级

https://www.catarc.org.cn/upload/201908/28/201908281356203312.pdf

3、FDA.Predetermined Change Control Plans for Medical Devices

https://www.fda.gov/regulatory-information/search-fda-guidance-documents/predetermined-change-control-plans-medical-devices?trk=public_post_comment-text

4、FDA.Artificial Intelligence-Enabled Medical Devices

https://www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-enabled-medical-devices

5、证券时报.全国政协委员、汇珩资本梁颖宇：建议明确AI医疗事故责任认定机制，建立多方共担模式

https://mp.weixin.qq.com/s/icS7vbnialzKmYHmjh0RVg