对话上海新华医院副院长潘曙明：发展医疗人工智能，技术和伦理必须同步

“必须限定在一定的范围内”，这是上海交通大学医学院附属新华医院（以下简称“上海新华医院”）副院长潘曙明谈论AI时反复用到的表述。在他看来，AI+医疗在技术和伦理层面都存在不少约束。

潘院长是一个对新技术持乐观态度的人。不久前，在一次关于AI+医疗的讨论会上，他满怀信心的说道：“我认为AI必将取代医生。”

新华医院的尝试和探索

潘院长供职的上海新华医院同样秉持开放的态度，在AI+医疗领域进行了不少尝试。不久前的阿里云栖大会上，上海新华医院正式和阿里巴巴签订了战略合作协议，决定共同探索“智慧医院”新样板。

根据合作协议，阿里巴巴和新华医院将致力于搭建医院混合云平台、云儿科医联体平台，开发医生智能培训系统、医学科研数据平台，实现院内就诊全流程移动支付等，从而打造出一个示范型的“智慧医院”。

通过这次合作，上海北部地区的儿科临床技术水平和服务能力有望得到提升；医生智能培训系统和云儿科医联体平台则分别有助于解决基层儿科医生培训和儿科医疗资源紧缺的问题。

潘院长表示，目前人工智能在医院还处于刚刚开始应用的状态，而且用到的主要是深度学习技术。比如通过机器学习大量的医学影像图片，帮助放射科医生更好地识别特定的影像。目前新华医院正在和部分行业领先的企业合作，进行这方面的探索。未来，新华医院还希望在数据挖掘和辅助诊断领域做一些尝试，和阿里巴巴共同探索更多的项目。

潘院长向雷锋网介绍道，新华医院还计划将人工智能技术与可穿戴设备融合，应用于孕妇的远程健康监测和产检。十月怀胎是一个漫长而艰辛的过程，期间孕妇和胎儿的健康需要格外关照。定期去医院做产检虽然让孕妇和胎儿的健康和安全多了一重保障，但毕竟无法做到时时刻刻的呵护。而且时常奔波在家庭和医院之间也带来了许多不便和不确定因素。

“如果能用可穿戴设备时刻监测孕妇的体征数据，并上传到医院的平台由医生进行远程分析，一定能给孕妇带来极大的便利。目前，相关的技术已经在研发定型当中了。”潘院长说道。

不要把人工智能夸得很大

潘院长表示，人工智能技术确确实实能给医生和病人带来不少便利，但“不要把它夸得很大”。

人工智能在某些特定领域已经达到甚至超过了人类水准，它的强大是建立在海量数据之上的。以手足口病为例，机器在学习了几千份手足口病病历和图片之后，确实可以达到主治医师的水准，目前国内已经有医院做到了这一点。但对于大多数疾病来说，目前可供学习的优质病历数据还远远不够。

而且AI的能力缺少迁移性。Alphago击败了世界围棋冠军，但这并不能帮助它在其他领域有所建树。如果Alphago想成为一名国际象棋高手，它还是得从零开始训练。这种能力上的局限严重影响了人工智能的实用价值。

就拿行业内常见的糖网筛查产品来说，也许在识别糖网病变方面，AI比人类医生更快更准。但在真实应用场景中，眼底图片的异常可能对应着十几种眼部病变，只会鉴别糖网的AI临床价值并不大。而人类医生则可以对眼底图片中的异常进行分析判断，并结合其他临床信息筛查出多种眼底病变。这种举一反三的知识迁移能力是AI所不具备的。

再比如IBM Wotson，它可以给出很好的癌症治疗方案，但它并没有考虑到病人的地域差异和个体差异。美国人认为，80岁以上的病人照样可以做化疗；中国医生则认为，80岁以上的病人做化疗风险很大，而且预期生命较短，做化疗未必对病人有益。

另外，病人的家庭和经济情况千差万别，IBM Wotson显然无法将这些因素纳入考虑。如果病人经济拮据，而IBM Wotson给出的治疗方案十分昂贵，即使这套方案从医学角度来说是完美的，对病人也产生不了多大的帮助。

我们发展人工智能技术之前，首先要认清它的局限性，知道AI能做什么，不能做什么。

在特定领域做一些端口开放

潘院长认为，目前人工智能还处于婴儿阶段。未来人工智能技术的发展有赖于我们对人脑更深入的理解。我们已经掌握了很多跟人体器官相关的知识，但对人脑仍知之甚少。我们知道大脑的物质结构，但并不清楚它是如何思考的。如果我们解答了这个问题，人工智能或许将迎来一次突破式的发展。

他说道：“我相信只有在某些领域取得了认知上的突破，才能推动人工智能的快速发展。就像人类从仿生学开始造飞机，但直到科学家发现了空气动力学，航空业才取得了跨越式的发展。技术进步不是一蹴而就，需要一个过程。”

人工智能技术的特别之处在于，它涉及到很多伦理问题，尤其是医疗人工智能，直接关乎病人的健康和生命。如果还没有想清楚这些问题，就一味地发展人工智能，也许对人类反而是有害。潘院长认为，发展人工智能技术必须慎之又慎。AI+医疗可以先从一些常见的、对人类威胁不大的疾病入手，用机器人和人工智能做一些尝试。积累一定经验之后再循序渐进，推动AI对更复杂疾病的认识。

近两年来，我国的医疗人工智能技术取得了较快的发展，已经诞生了一批可以应用于临床的产品。但因为CFDA认证这道门槛，很多产品迟迟无法落地。此前宁波市第二医院副院长郑建军在接受雷锋网采访时曾表示，人工智能产品更新周期太快，有些甚至以周和天为单位。国内还没有专门针对这类产品的认证小组或部门，这一定程度上阻碍了行业的发展。他建议，先用一些过渡政策对行业进行规范，给相对成熟的产品发放“临时牌照”，让医生先用起来。

潘院长认为，在特定领域做一些端口开放，推动技术的发展，一定能够得到大众的支持。他说道：“我觉得在保证人类安全的前提下，推动某项技术进步并没有什么不妥。十九大报告里也提到要支持人工智能技术的发展，但前提是要保证在技术和伦理上都是安全的。我相信，未来相关部门一定会努力推动人工智能的发展，但全方位的开放肯定是不现实的。”

医疗健康数据必须“车同轨”

谈到人工智能，数据是个绕不开的话题。过去国内对于数据的所有权和安全性缺少明确的法律界定，客观上为人工智能企业创造了相对宽松的发展环境。不少国外医疗AI企业的负责人都曾表达过对国内同行的艳羡，因为在国外获取医疗数据实在太难了。缺少足够高质量的数据作为支撑，人工智能也就成了无根之木。

另一方面，国内医疗机构的信息基础建设相对薄弱，而且缺少统一标准。别说不同区县医院之间的数据无法互通，就连同一家医院不同科室采用的数据存储系统都可能是不一样的。由于对数据的重要性缺乏足够的认识，和成本上的考量，有些医疗机构甚至根本不会对病人的健康数据进行长期保存。

潘院长认为，建立统一标准，推动数据互联互通至关重要。只有互联互通的数据才是真正的大数据，才能推动人工智能辅助诊断的快速发展。医院的管理和运营也将变得更加规范透明，比如某种疾病该如何治疗，用哪些药，花费是多少，未来都将一目了然。只有这样，商业保险才会真正愿意进入医疗市场。

国家正在积极推动医疗数据的互联互通，但目前成效还比较缓慢。潘院长认为，数据互通难以推进主要有三方面的原因：

一、不敢。在数据所有权都还没有明晰的情况下，对外开放自己的数据是有一定风险的。开放部分数据用于科研或许没有问题，可一旦涉及到商业用途就是人命关天的事情，不得不慎重。

二、不愿。医疗资源在很多地方都是香饽饽，牵涉到各方面的利益，大家都不愿意将自己的利益拱手让人。

三、不能。目前既懂医疗又懂IT的人才还非常稀缺，大家都想深入挖掘数据，但多少有些心有余而力不足。

潘院长向雷锋网表示，医院和卫生部门已经意识到了问题所在，但数据互通的问题并不是医院和卫生部门能够解决的，必须由国家有关部门来推动和协调。

好在国家已经充分认识到了医疗健康数据的重要性，陆续筹建了三大健康医疗大数据集团。潘院长认为，随着国家力量的强势介入，相关的法律政策将迅速出台，地方也会逐步跟进。既能避免过去数据分散、互不联通、共享困难形成的数据孤岛和数据烟囱等问题，也将为既有区域集中应用和国家一体化大数据中心的建设提出了方向和要求。我们完全有理由对未来医疗人工智能产业的发展感到乐观。

要找到数据的“源代码”

对于数据的安全性，潘院长也表达了自己的看法。目前行业内的共识是，将数据用于人工智能模型训练前必须进行脱敏处理，确保病人的隐私，但这也带来了数据的真实性问题。因为恰恰只有那些敏感的信息（比如身份证号、手机号）才能确保数据的真实性和唯一性。

“假如保险公司拥有10万张保单，我可以说这10万张保单的数据都是真实的，因为每一张保单都对应了一个身证份号。但医院的住院号等编码并不是唯一的。”潘院长说道。一旦脱敏数据进入市场流通，这些数据可能会被反复打包多次，丢失真实性和唯一性。研发医疗AI产品必须找到病人数据的“源代码”，这些“源代码”就存储在医院里。但究竟该如何运用这些数据，还亟待国家出台相关法律进行明确。这些问题需要逐一理清。