中国工程院院士、清华大学临床医学院院长董家鸿。
图片：李磊/知识分子

- 编者按 -

人工智能能否代替年夜夫？人工智能发展到本日，这是一个不得不触及的问题。
2019年11月22日，在“知识分子”与北京大学康健医疗大数据国家研究院联合主理的“聪慧医疗：潜力与寻衅”论坛上，中国工程院院士、清华大学临床医学院院长董家鸿指出，“机器人该当是年夜夫的AI，而不是AI年夜夫。
”

董家鸿还认为，人工智能的黑箱效应和框架效应是当前医疗人工智能的主要寻衅，“如果是个别年夜夫犯缺点，受危害的可能只是一个病人。
如果人工智能机器人出了错，有可能会危害一批、一类病人。
”在没有弄清楚浸染机制之前，临床运用需严格限定其利用边界。

关于未来人工智能在医疗领域的图景，董家鸿表示，“人机协同是未来的一定选择”，应对可能的风险和红线，离不开跨领域、跨学科专家的共同互助磋商。

整理 | 汤佩兰

责编 | 陈晓雪

中国工程院院士董家鸿有着三十多年临床履历的肝胆胰外科专家。
他也是清华大学临床医学院院长。
2019年11月22日，董家鸿在“聪慧医疗：潜力与寻衅”论坛上，从中国目前的医疗供需现状和技能水平差异出发，对付聪慧医疗的运用处景、发展潜力和风险寻衅等方面阐述。

以下是《知识分子》根据董家鸿在本次论坛上的访谈整理，已经本人审阅。

01.聪慧医疗能办理什么问题？

《知识分子》： 聪慧医疗的话题常常被提及和谈论，而且每每与国家“康健中国2030”计策相联系，但聪慧医疗的内涵众说纷纭，你是怎么理解的？

董家鸿：聪慧医疗的实质和内涵，直到现在该当说还没有一个明晰明确的定义。
但只有认识聪慧医疗的实质，理解聪慧医疗的核心理念，才能更好更快的推动聪慧医疗发展。

我的理解，聪慧医疗因此信息科技为核心的当代科技赋能于传统康健医疗做事体系，形成最优化的大康健医疗生态体系。
同时认为，聪慧医疗要以人为本，集成当代聪慧科技手段，深度领悟康健医疗实践。
这个全新的康健照护体系通过全要素、全流程、全链条的系统优化，完成覆盖全人群、全生涯、全维度的全域照护，终极实现优质、高效、经济、可及的代价医疗。

《知识分子》：为什么要提倡发展聪慧医疗？它可以办理什么问题？

董家鸿：相对付不断增加的社会康健医疗做事需求，中国的医疗资源远远不敷。
尤其边远和基层地区，医疗资源十分匮乏。
医疗资源的配置不屈衡及构造不合理，致使医疗供需抵牾仍旧十分突出。

聪慧医疗有望成为办理当前医疗供需抵牾和资源配置不屈衡问题、提高本钱效益的一个新的策略。
聪慧医疗体系分为核心层、主体层和运用层，其核心层供应无处不在的康健医疗做事。
主体层包括康健医疗的做事方、药品及医疗东西的供应方和医疗支付和监管方的高效做事和协同运营。
而在运用层，结合康健医疗生态体系的代价点，可以蜕变出丰富多彩的聪慧医疗运用处景。
三层通过聪慧手段来进行系统整合，从而形成闭环式、多方共赢的大康健医疗生态体系。

《知识分子》：聪慧医疗的运用处景有哪些？对医疗领域会产生什么样的影响？

董家鸿：从目前涌现的运用处景来看，至少包括精准药学（Precision Medicine）、影像诊断、赞助决策、疾病预测、药物挖掘、康健管理、临床研究、医院管理等。
相信随着聪慧医疗技能进一步的深入，将会持续地引发创新潜能，产生更为丰富的运用处景。

聪慧医疗技能融入医疗实践，可以产生显著的 “4E” 效应。
第一个E是增强（Enhancement），即增强康健医疗做事能力。
第二个E是增效（Efficiency），提升医疗做事的效率和效益。
第三个E是体验（Experience），优化医疗做事的体验，增强医疗做事的得到感，这个体验不仅是病人，也包括年夜夫和其他医务事情者的体验。
第四个E是延展（Extension），拓展医疗做事的时域、空域和领域。
可以通过聪慧医疗手段把优质医疗资源无边界地辐射到广大区域，特殊是边远地区和基层医疗机构。

《知识分子》：现在中国在聪慧医疗方面的发展状况如何？

董家鸿：随着近年来中国经济和科技的高速发展，科技转化潜能已十分巨大；同时国家近年来高度重视康健中国以及前沿科技的发展，尤其在智能技能、聪慧技能的发展和运用上出台的一系列政策，都为未来中国聪慧医疗家当发展供应了重大机遇。
这些政策的内容越来越详细，越来越具有可操作性，有助于实现我国与环球聪慧医疗同步高速发展。
可喜的看到，我国聪慧医疗在快速的发展中已经形成了一定的体系，产生了超过诊前、诊中和诊后，贯穿康健管理、疾病筛查、赞助诊断、精准药学、慢病照护的运用做事和支撑平台。
另一方面，我们也不得不看到，当前聪慧医疗发达发展的背后也存在着一定程度上盲目跟风的行业乱象。
我们该当静下心来，理性地思考聪慧医疗发展的方向和发展策略，让聪慧医疗的发展回归到医疗的实质，掩护、规复和促进民众康健。
以聪慧的技能直击康健医疗做事的痛点，助力康健医疗家当的提质增效，并构建全局最优化的康健照护体系。

《知识分子》：你空想中的聪慧医疗是什么样的？

董家鸿：我认为聪慧医疗最好的样子，或者说最优化模式，该当因此大数据、人工智能、物联网、互联网、云打算等核心技能为支撑的并融入真实天下丰富的医疗运用处景，通过 “4E” 的医疗做事效应，构筑精准医疗、精益管理、精诚做事这样一个标准化的医疗体系，终极为全民供应最优化的康健照护。

02.AI的不可阐明性是巨大寻衅

《知识分子》：聪慧医疗发展中有没有涌现什么问题或者寻衅？

董家鸿：当前的医疗人工智能发展确实也面临着诸多的寻衅。
首当其冲该当是它的不可阐明性，也便是黑箱效应。
为什么人工智能能够作出准确的判断，很多道理还不清楚。
如果没有明晰的事理可阐明，那么年夜夫利用起来心里是不踏实的，病人接管起来也有疑虑。
以是，破解黑箱效应成为当古人工智能医疗的一个主要寻衅。
如果一个年夜夫犯了错，受危害的是一个病人。
如果人工智能机器人或者算法出了错，将会危害一批、一类病人。
因此，医疗人工智能是有一定风险的。

其次，在人工智能研究运用上存在哲学上的悖论，也便是不可再分性。
过去的研究是把人体分解为器官、组织、细胞、基因、分子。
但反过来，实在从生物大分子到细胞到组织到器官到人体，每一个步骤都是一个从量变到质变的过程，而不能用大略的还原论方法来研究人体构造性能和疾病实质。
从繁芜的分子网络里认知生命机制和破解疾病实质是有一定的难度的，必须在算法上有所打破，从人体生理和病理状态下的多维全息数据集的系统剖析中揭示疾病实质和因果关系，从而更加科学地辅导康健医疗实践。

《知识分子》：本次论坛上也有专家认为AI的不可阐明性被浮夸了，如果把AI比作药物，限定在详细场景下运用，而且证明是安全有效的就可以。
你怎么看？

董家鸿：的确，医学是履历科学。
很多背后的事理机制还没有搞清楚，不能也不必等待事理机制都搞清楚了再去运用。
在当前科学条件下，对付不能完备阐明的医疗干预方法，包括药品、器材和技能该当是许可利用的，但利用条件是有充分的证据证明它是有效的、有益的和安全的。
如果可阐明，懂得它的机制则可以举一反三，就可以让它发挥更大的浸染。

《知识分子》：你怎么看待人工智能存在的现实风险和不愿定性？

董家鸿：医学是研究不愿定性的科学和可能性的艺术。
医学和理工科的思维出发点不同，工科研究的是确定性的事宜，研究事物因果关系确定性的规律。

医学和工科的互助，就要从人体这一繁芜系统中的不愿定性事宜当中寻求确定性。
某一类人群、某一类疾病里面有共有的确定性东西，但是疾病及疾病的载体，即病人之间有很大的个体差异，这便是不愿定性。

以是，我认为人机协同是未来的一定选择。
由于康健医疗实践中不愿定性总是存在的，机器探求的是确定性，帮助年夜夫能够更准确地把握个中确定性的东西。
但是不愿定性是永久存在的，这种不愿定性就要靠年夜夫的履历研判和节制。
以是医学是科学，也是艺术。
我们须要人工智能，但是我们又不可能完备依赖人工智能。

03.终极还是年夜夫说了算

《知识分子》：在康健中国计策背景下，如何理解AI能够发挥的浸染？人工智能将来有没有可能替代年夜夫？

董家鸿：AI技能对付提升基层的医疗做事能力是非常主要的。
我们该当有这样一个观点，人机是协同的，该当评价人机协同之后的效果。
比如基层年夜夫，给他供应AI赞助诊断，进而我们来研究人机协同之后的诊断率会不会超过他原来的水平。
这种人机协同也很难做到100%的精确，以是该当有一个许可的出错概率，在这样的条件下去评价AI提升年夜夫做事效能的代价。

人工智能在某些方面能够超越人的生理和智力的极限，提升康健医疗做事的精准度和效率，但是人工智能永久不可能代替人。
前面提到过，由于人工智能所能做的是处理确定性事宜。

而在我们医疗实践中，不愿定性是常态，每个康健人、每个患者都不一样， 纵然患有同一种疾病，疾病的病程、病理特色以及疾病载体即病人的生物学特色、生理学特色和社会学特性，都有很大差异，这个时候人工智能就 “瞎” 了。
以是，人工智能能够有效处理的是确定性事宜，不愿定性事宜只有留给人来处理。

医疗是有爱的科学和有温度艺术，机器人是冷冰冰的，它不能供应人性化的关怀照护，在这方面，人工智能更无法代替医者。
机器人该当是年夜夫的AI，而不是AI年夜夫。
机器人来医疗赞助，理论上来讲，法律任务该当还是由年夜夫承担。

《知识分子》：在论坛对话环节中谈到的一个话题是，在中国医疗资源供需失落衡的情形下，年夜夫要面对大量病人，人工智能赞助决策可望显著提升年夜夫事情的效率。
这时年夜夫的自主权随意马虎被侵蚀，这对年夜夫、患者以及全体中国的医疗意味着什么？

董家鸿：这个问题该当从科学和伦理两个层面来思考。
从科学的层面来讲，首先人体是非常繁芜的，疾病是极其繁芜的。
人类永久不可能不犯错，用当代科技的手段可以帮助人类更精准地感知、认知、决策和干预，但是仍旧不可能完备避免不出错。
科技有可能会走弯路，人工智能也不可避免。
由于年夜夫做决策和干预，很多时候是要依赖科技手段，人工智能赋能康健医疗体系能够提升实践的精准度和效率，但年夜夫还是有可能被人工智能误导。
这是人类发展和科技发展不可避免的问题，但终极的主导仍旧是年夜夫。

其次，随着科技的发展，年夜夫也该当加强培训和学习，更好的理解人工智能给我们带来的益助和它的局限性，让人类站在更高的聪慧水平上更好地利用人工智能。

《知识分子》：如果要在医疗领域戒备人工智能的风险，该当制订什么样的规则？

董家鸿：首先技能是做事于人的，为人类创造更美好的生活，人工智能该当是为人类供应更好的康健做事。
我认为AI该当是年夜夫的助手。
医疗做事流程紧张涉及四个方面，一是感知，二是认知，三是决策，四是干预。

当前，在感知和认知方面，我以为人工智能有非常大的发展空间。
比如人的感官察觉不出来的征象和问题，人工智能可以超越人的感知极限。
在认知领域，机器人工智能在某种程度上可以超越人，比如面对多维的数据，人的思维是没有办法剖析的，而人工智能在一定程度上能超越人类的思维和能力的极限，进行科学剖析。

举例来说，那么多关联基因、蛋白质和小分子在网络之间是怎么来决定肿瘤的发生发展的呢？如在算法上没有打破的话，对肿瘤实质的认知难以有质的跃升，只能是积累更多跟肿瘤干系联的分子和基因。
而对肿瘤实质的认识，以及基于实质认识的肿瘤防治新策略是不会有打破的。
我在这方面对人工智能有很大的期待。

在决策方面，我认为人工智能可以为年夜夫供应赞助决策支持，这是有必要的。
比如人工智能在短韶光内可以把干系主题的海量文献进行阅读剖析，供应给年夜夫做决策支持。
还有对边缘数据集、多元数据集进行剖析，给年夜夫供应赞助决策的见地。
但是机器要做确定的事情，不愿定的事情一定要靠年夜夫的聪慧。
个体疾病繁芜的变异性，常态的个体差异，一定还须要年夜夫。
如果哀求年夜夫屈服机器的决策，那会出很多问题。
在干预方面，机器人在某些环节可以提高手术作业的精准度和可控性，但是必须要年夜夫来掌握机器人，否则也要出问题。

《知识分子》：如果有一天实现了强人工智能，是否该当给AI画一条伦理的红线？科学家、伦理学家、IT专家和法律专家，可能各有各的意见，到底该当听谁的？

董家鸿：我以为医学、工程、伦理、法律专家要共同磋商，终极还是在人类的康健福祉准则下考虑伦理法规的制订。
通过跨领域、跨学科专家的紧密互助，更好的造福人类的康健。

参考资料

[1] http://www.xinhuanet.com/politics/2016-10/01/c_129308912.htm

制版编辑 | 斯嘉丽