评论

近日，国家互联网信息办公室起草的《人工智能拟人化互动服务管理暂行办法（征求意见稿）》公开向社会征求意见。在人工智能（AI）深度融入医疗领域的当下，征求意见稿通过建立身份透明、风险防控、弹性监管等制度体系，将为推动AI医疗健康规范发展提供重要指引。

锚定健康价值导向

征求意见稿立足AI技术应用的健康价值导向，通过系统性制度设计锚定了拟人化互动服务“助力人类健康”的核心定位。这一导向与医疗领域的公益属性高度契合，为AI医疗发展确立了价值坐标。

具体条款体现了“正向赋能健康+反向规避伤害”的双重规制逻辑：禁止通过情感操控、鼓励自残等方式损害用户身心健康；要求服务提供者具备心理健康保护与依赖风险预警能力；强制推行AI身份显著提示。在医疗场景中，无论是智能问诊系统的健康咨询、心理疏导AI的情绪干预，还是康复陪伴机器人的辅助护理，都必须以促进患者健康为前提，不得偏离医疗服务的核心目标。通过交互界面持续标注“AI服务”、明确告知服务功能边界等要求，既能保障患者知情权，避免其将AI等同于专业医疗主体，又能确保AI始终作为提升医疗服务效率、拓宽健康服务覆盖面的辅助力量，助力构建“技术赋能+人文医疗”的协同格局。

在医疗场景中，AI通过分析患者诊疗数据、情绪反馈形成个性化交互策略，若缺乏法律伦理约束，可能演变为“情感操控”工具。征求意见稿要求AI不得诱导用户作出不合理决策，对应到医疗领域，即禁止基于患者心理脆弱状态（如癌症患者的焦虑情绪）推送特定治疗方案或过度医疗建议，而应引导其寻求专业医疗帮助。这种对“情感计算”技术的规范，可避免AI利用信息不对称影响患者决策，守护医疗决策中人类主体的核心地位。

构建双重保障机制

征求意见稿明确的禁止AI鼓励自杀自残、实施情感操控，以及“提供者应当建立应急响应机制，发现用户明确提出实施自杀、自残等极端情境时，由人工接管对话”等内容，对精神卫生领域具有直接指导意义。这种严格规范既发挥AI在初步筛查、情绪安抚中的效率优势，又为人类专业干预保留介入空间，构建起“技术赋能+人文关怀”的双重保障机制。

例如，从抑郁症患者的情绪日志到肿瘤患者的治疗心理变化，均属于征求意见稿重点保护的“情感类个人信息”。征求意见稿要求对这类数据实施更严格的目的限制，明确除法律另有规定或权利人明确同意外，不得向第三方提供，也不得用于模型训练。

心理疏导AI仅可将对话内容用于提升服务质量，禁止用于商业营销或衍生开发。在技术层面，需采用隐私计算等手段实现“数据可用不可见”，如区域医疗平台整合多家医院的患者心理数据时，须进行去标识化处理。这种全链条保护是对患者人格尊严与隐私权的深度守护。

塑造AI良性发展生态

征求意见稿构建的全链条治理模式，为AI医疗产业建立了可追溯的责任体系。在模型设计阶段，研发团队需通过科技伦理审查，明确排除“诱导医疗消费”“替代医生决策”等不良目标，并加强训练数据管理，以保障数据合规和数据质量。

征求意见稿明确，国家坚持健康发展和依法治理相结合的原则，鼓励拟人化互动服务创新发展，对拟人化互动服务实行包容审慎和分类分级监管，防止滥用失控。在探索实践中，需强调行业组织、医疗机构、患者群体的协同参与，构建起立体化治理网络。行业协会可制定细分领域标准；医疗机构引入AI医疗产品时须建立合规评估机制；患者可通过投诉渠道反馈AI服务中的伦理问题。

期待更契合医疗实践

面对AI医疗发展的复杂挑战，建议在征求意见过程中充分吸纳医疗行业、科技企业、法律界及公众的合理诉求，进一步优化政策设计。笔者认为，征求意见稿可在医疗场景适配性、条款落地性、部门协同及算法透明度等方面进行优化。

一是补充医疗场景专属条款。明确AI医疗拟人化互动服务的负面清单，严禁在没有医生监督下模拟执业医师开展诊断、处方等核心医疗行为，细化“情感操控”在医疗场景中的具体表现形式；强化临床验证要求，规定AI医疗拟人化互动服务在投入使用前，须通过符合医学伦理的安全性、可靠性测试，验证其交互安全性、信息准确性及对诊疗决策的影响；补充AI医疗终止服务的特殊规则，要求提供者在终止服务前预留合理过渡期，妥善处置患者交互数据和健康记录，并向用户提供数据导出和转移通道，保障患者健康权益的连续性。

三是健全跨部门协同监管机制。鉴于AI医疗监管涉及网信、卫生健康、药监、医保、数据管理等多个部门，建议进一步明确跨部门协同监管的具体路径。建立联席会议制度，由网信部门牵头，统筹卫生健康、药监、医保等部门的监管职责，协调解决跨领域协同监管难题；构建信息共享与联合执法机制，实现各部门在AI医疗产品备案、安全评估、风险处置等方面的信息互通，提高监管效率；推动监管资源下沉，依托基层卫生健康监管体系，加强对基层医疗卫生机构AI拟人化互动服务应用的指导与监督，确保政策在基层落地见效。

直面健康热点

分享真知灼见

评论投稿邮箱：mzpljkb@163.com

文：中国医学科学院医学信息研究所医疗卫生法制研究室主任、中国卫生法学会学术委员会副主任 曹艳林

编辑：杨真宇

校对：马杨