北京大学博雅特聘教授、北京大学医学史研究中心主任张大庆：

AI医疗的风险治理

当下，人工智能（AI）医疗应用已经深入临床的方方面面。公众在积极拥抱AI技术带来的便利与创新的同时，对其潜在的伦理风险、数据安全隐患以及监管体系的完善性诉求也在增长，形成了一种“乐中存忧”的社会心态。

从我国的情况来看，数据显示，中国职场对AI的利用率位居全球前列；但公众对于数据保护的信任度却呈现下降趋势，揭示了技术快速落地与社会信任建设之间的现实矛盾。

这种“技术乐观主义与监管诉求呈正相关”的趋势，说明在广泛使用过程中，大家发现了更多问题，从而提高了治理需求。这恰好印证了贝克（Ulrich Beck）的“风险社会”理论：高新技术的社会效益与负面效应同步呈指数级增长，两者是无法割裂的共生关系。我们不可能只要收益而完全规避风险，必须建立起与之相适应的风险文化。

研究显示，全球公众对于AI的态度呈现出明显的地域文化差异。新兴经济体普遍持乐观态度，期待技术赋能带来的红利；而发达经济体则更多表现出审慎观望态度。这种差异并非仅由技术接触度决定，而是与各国的监管历史、媒体叙事等密切相关。

AI医疗风险也并非均匀分布，而是与既有的社会不平等高度重叠。如果缺乏包容性思维，AI不仅无法缩小健康差距，反而可能通过技术壁垒固化、放大结构性不平等。例如，年轻、高学历、城市群体对AI风险的敏感度和监管诉求更高；而老年群体及数字弱势群体，既难以享受AI医疗的技术红利，又缺乏风险辨识能力，甚至在治理规则制定和监督问责环节中被结构性地排除在外。

风险问题与信任问题是密切关联的。信任度越高，主观风险感知就越低。医务人员对AI建立信任涉及四个维度：第一，技术认知，即技术性能指标是否真正超越人类专家并符合临床思维；第二，人际交互效用，即AI能否无缝嵌入临床工作流并为医生减负；第三，法律与伦理责任，即当AI辅助诊断出现偏差时，关于责任由谁承担是否有明确的界定；第四，机构治理，即医院是否建立了针对AI应用的容错机制和风险分担机制。

相关调查显示，目前中国医务人员对医疗AI的应用呈现出“高认知、高期待、低应用”的特点。这说明问题不在于认知，而在于技术成熟度、临床工作流程的整合以及风险控制等尚未真正落地。

AI作为医患之间的中介，可以通过影响医患沟通、知识信息储备和环境条件三个要素，深度重塑患者对医生的信任，但也可能引发隐私安全、关怀缺失、制度不透明等风险。

总体而言，AI医疗的风险可归纳为三类：一是技术性风险；二是社会分配性风险；三是道德与制度风险。这三类风险相互交织、缠绕，因此在设计和应对时必须进行整合性考虑，而非单一处理。

AI医疗的风险治理本质上是一个社会问题，它关乎我们每一个人，并决定了未来希望建构一个具有何种人文温度与科技理性的健康照护社会。

广州医科大学人文社会科学研究所所长刘俊荣：

伦理学是技术发展的“导航器”

当前，虽然国家已经明确“伦理先行”，但在实践中，如何更好地推动其发展落地仍是难题。在科研启动前的伦理审查过程中，必须确保审查人员懂得伦理审查的基本理论及相关的专业知识，具有伦理审查的胜任力，这是对伦理审查委员会委员素质的基本要求。

当前各机构伦理审查委员会的审查能力和水平参差不齐，委员不仅需要具备伦理意识，还要具备专业素养。面对脑机接口、干细胞等生物医学新技术，并非每个岗位的人员都熟悉所有领域。因此，委员会的人员结构中必须包含相关专家；若没有相应人员，至少要聘请独立顾问，以确保审查的科学性和伦理性。

“伦理先行”不能仅靠审查这一个环节，最终的落地要靠研究者去执行。在实际操作中，研究者应严格按照伦理审查的要求、方案以及知情同意书去执行，而不能只是形式上规范。此外，研发人员应力争做到“价值对齐”，即技术研发的目标和目的必须与人类的价值目标和目的保持一致。如果技术目的仅是为了追求效益，而未将患者权益放在第一位，就会出现问题。因此，研发人员、临床研究人员和伦理委员会需要共同发力。

伦理审查“互认”的核心目的是在确保审查质量的前提下，提高审查效率。但“互认”不等于“不审查”。伦理审查与血液化验等标准化检查不同，它涉及方案能否在具体环境中落地。不同医院（即使同为三级医院）的技术水平和风险把控能力参差不齐，同一个方案在头部医院能把控好风险并切实维护好患者权益，换一家医院未必能保护好受试者权益。

我们希望在主审医院审查之后，其他医院不要再进行重复的会议审查，可以先进行简易审查。例如，由两名委员通过在线或函审的形式，重点把握方案和知情同意书中的伦理问题。对于常规风险不大的多中心观察性研究可以尝试直接认可，但对于风险较大的侵入性生物医学新技术，参与研究机构至少要进行简易审查。目前各地推进互认非常踊跃，但首先要明确这些原则问题。

在AI临床应用中，规避隐私风险需要建立完善的机制。伦理审查应关注信息收集是否为研究所必需，遵循“最小化原则”。在技术上，要区分“去标识化”与“匿名化”：常规去标识化后的部分数据仍可能通过大数据关联复原身份，而真正的“匿名化”是指不可复原。除特殊研究外，一般研究应采取匿名化措施。这既需要制度安排，也需要技术手段，更需要医护及研究人员在数据使用中落实保护责任。

伦理学不应被视为技术发展的“刹车器”，而应是“导航器”。它需要与生物学、临床医学等多学科深度融合，不能凌驾于具体科学之上。只有将伦理真正融入技术研发和迭代的过程中，才能更好地服务于健康中国建设和临床高质量发展。