IBM内部资料曝光 Waston给患者开错药遭质疑

“医疗保健的‘强心针’”。在官网上，IBM用这句话描述了认知技术Waston可能给医疗行业带来的意义。自2016年以来，在众多致力于发展医疗健康+人工智能的企业中，IBM最为活跃，其中，Watson肿瘤解决方案(Watson for Oncology，简称Watson肿瘤)更是吸引了众多目光。资料显示，截至目前，Watson肿瘤已经落地全世界230家医院，成为医生的助手，为癌症患者确定个性化治疗方案。

但是，近日医疗媒体STAT的一篇报道却给了Watson“当头一棒”，也让其面临着更多质疑。

给患者开错药，被医生强烈批评

“IBM Waston给癌症患者提供了多个不安全、不正确的治疗建议。”在报道中，STAT大胆的指出了令人震惊的缺陷。

得出这一结论并不是空穴来风。STAT称，他们拿到了IBM的内部机密文件，即时任IBM Waston Health副首席卫生官的Andrew Norden在去年6月和7月提交的资料。大家被蒙在鼓里是因为这些资料只有IBM的管理层才有权查看。那么这些资料中，到底隐藏着哪些秘密呢?

这份秘密文件显示，多个事例表明，Watson肿瘤经常提出不准确的医疗建议。正在使用Watson 肿瘤的医生们也对其提出了强烈批评：“在给出意见的过程和底层技术上存在严重的问题”。

更令人担心的是，在一个事例中，Waston肿瘤竟然给一名患有肺癌且具有严重消化道出血症状的患者，开出了一种具有导致出血副作用的抗癌药。可见，Waston肿瘤并没有考虑到患者的消化道出血症状，而这一疏忽如果在实际应用中，将有可能导致患者死亡。

不过幸运的是，上述这名癌症患者只是虚构出为了训练Waston肿瘤诊断能力的，并不是真实的患者，没有人因此受到伤害。纪念斯隆-凯特琳癌症中心给出了这样的解释。

但是该解释一出，又引起了另一个质疑。此前，IBM始终强调，Watson 肿瘤训练时所使用的都是真实的患者数据，但报告中这位癌症患者为何是虚构的?这就很容易让人怀疑，之前使用的大多训练数据、都是假设的，而不是真实的患者数据。这意味着Watson提出的建议仅仅基于提供数据的少数医生们的治疗偏好，而不是从分析真实案例中获得的实际见解。

实际上，在IBM内部，对Waston的评价也并不像对外宣传的那么神奇。STAT就指出，几位IBM自家员工曾向Norden说过，Watson 肿瘤“非常有限”。

负面消息传出后，IBM很快发出声明为Watson 肿瘤辩护。声明指出，Watson肿瘤已经在培训下可提供13种癌症的治疗建议，并为全球230家医院的84000名患者提供了医疗服务。

“Waston Health正在用户的实时反馈、最新的科学证据和癌症种类以及治疗方案的帮助下学习和训练。去年一年的时间里，我们更新了11次软件版本，为用户提供更好的功能。”生声明中写到。

但Waston还是遭到了医生们的强烈批评。来自佛罗里达州Jupiter医院的一名医生，在这份秘密文件中直言不讳：这玩意什么都做不了!就像一坨“翔”。

“本土化”进程难，Watson有功亦有过

2012年，IBM Watson与纪念斯隆-凯特琳癌症中心达成了合作协议，共同训练Watson 肿瘤。这也是Watson在医疗行业的商业化运作最重要的方向之一。

与Google的AlphaGo 具有自我学习能力不同，Watson的核心是套认知算法。它的本质决定了它需要大量有质量的临床数据。虽然在纪念斯隆-凯特琳癌症中心的帮助下，Waston学习了数千份病人的病例、近500份的医学期刊和教科书、1200万页的医学文献等庞大数据，但是，训练后的适用性仍然受质疑。

STAT 拿到的一份未公开数据显示，在丹麦开展的调查中，只有33%的医生赞同 Watson给出的治疗方法;而把同样的诊断拿到美国某些地区，这个数据则飙升到了 96%。可见，“本土化”之路还很艰难。

目前，中国已有63家医院引进了Watson肿瘤，有关“本土化”的具体情况，百洋医药集团董事长付钢层向记者透露：已经邀请国内一流的肿瘤专家一起进行本土化的研发。“本土化”后的Waston还有了一个新的名字—“B Waston”。

B Waston具备更加友好的中文界面显示，既能看到IBM给出的治疗建议，又能看到国内本地给出的治疗建议。但具体到用多大体量的临床数据去进行“本土化”训练，还没有相关信息披露。

但是，临床数据的获得正是一些医疗机构和企业面临的大问题。早在 2012 年，IBM 就与全球著名癌症治疗中心MD安德森癌症中心达成了合作。双方的目标是利用 Watson 读取每位患者的症状、基因序列和病理报告，并结合医师的备注和相关论文，为 Watson 构建一个庞大的真实数据库。然而，2017 年 2 月，MD Anderson 终止了与 IBM 的合作，原因之一，就是MD Anderson更换了用于管理电子病历的软件系统，无法与Waston的产品兼容，不能再读取患者的数据。此外，成本过高也为终止合作做出了“贡献”。

此事件一出，IBM的人工智能面临着诸多质疑。特别是在国内电子病历系统尚无法共通的条件下，获取巨大的临床数据很可能成为Waston“本土化”最大的障碍。

今年6月，IBM Waston Health裁员50%—70%的消息，又给其未来的发展引入了不确定性。

不过，问题虽多，但Waston在医疗领域带来的影响却是不可忽视的。在中国医院院长的人工智能专栏中，多位知名医生认为，Waston的确解决了很多现存问题。

北京大学肿瘤医院副院长沈琳表示，IBM Waston最大的好处是，它可以提供非常多的依据：几级的推荐、哪个文献报道的。这样的工作原理完全像一个老师一样。

邵逸夫医院肿瘤外科主任医师兼医务科主任陈文军则认为，IBM Waston规范的诊疗方案对基层医院规范化诊疗有很好的借鉴意义。

专家们的看法和最初引进Waston时的目标已经基本吻合。早前付钢就曾表示，Watson肿瘤是一个智能决策系统，主要为肿瘤患者提供治疗策略，如到底是先化疗再手术，还是手术再化疗;化疗继续用什么药等。

同时，它还是一个“纠错员”。若医生输入了错误的诊断信息，Waston将迫使医生重新审核诊断结果。这一功能对于减少医疗错误的发生，提高中国在肿瘤领域治疗的规范性非常重要。

当然，正如南京市第一医院肿瘤科主任陈锦飞所说，Watson 肿瘤是一个很好的决策助手，但它并不是患者的治疗直接决策者。因为包括Waston在内的人工智能还远没有人们想象中的那么“神奇”。2018年美国医疗信息与管理系统学会(HIMSS)上，也有专家小组指出，人工智能的潜力可能被过分夸大了。

不过在大数据时代，掌握并应用人工智能的企业、医疗机构甚至是医生个人，一定会在竞争中胜出。还要意识到，Waston肿瘤对医生来讲是一个工具，并不能独立创造价值，必须有医生使用，才能实现它的意义。

参考资料：

https://www.healthcaredive.com/news/stat-ibms-watson-gave-unsafe-and-incorrect-cancer-treatment-advice/528666/

作者 | 吴施楠