本文发表于《大众科学》的前博客网络，反映了作者的观点，不一定反映《大众科学》的观点
我像往常一样会见彼得和他的家人，我只能认为那是在他们人生中最糟糕的时刻之一。彼得（我已经修改了他的细节以掩盖其身份）还是婴儿时，就总是有点发育迟缓。他说话比预期晚一点，走路晚一点，而且一直有点笨手笨脚。他的父母从未真正担心过。毕竟，他是他们的第四个孩子，这些细微的延迟很可能只是因为他们将时间分配给孩子们而减少了对他的关注。而且他是一个非常可爱的小男孩，笨拙的样子似乎更增添了他的魅力。
但是到了他四岁生日时，人们很难忽视有些不对劲，而且那时他的儿科医生已经开始担忧。事实上，情况似乎变得更糟了。诊断测试仍然顽固地没有定论。任何人能做的最好的猜测是，他患有某种未确定的代谢或神经退行性疾病。
在接下来的两年里，彼得经常住院，经常在重症监护室。他逐渐出现吞咽困难，导致反复呛咳、误吸和呼吸道感染。他被放置了饲食管，但住院频率仍然没有减少。随着彼得的需求增加，父母和兄弟姐妹的需求也日益被忽视。
关于支持科学新闻报道
如果您喜欢这篇文章，请考虑通过以下方式支持我们屡获殊荣的新闻报道 订阅。通过购买订阅，您正在帮助确保有关当今塑造我们世界的发现和想法的具有影响力的故事的未来。
那时我以儿科姑息治疗医生的身份与他们会面。到那时，他的呼吸状况变得如此脆弱，以至于照顾他的主要团队正在考虑进行气管切开术，希望这能减少住院频率。当然，没有哪种医疗干预是无风险的，考虑到彼得病情不明但可能长期预后不良，团队希望我帮助与他的家人探讨护理目标。
我与彼得的父母探讨了他是一个什么样的男孩：什么是好日子，什么是坏日子？家人的生活是什么样的，他们是如何应对的？他们希望什么？他们最害怕什么？很快就变得明显的是，最困扰他们的事情之一是诊断不明。他们只是无法摆脱这种感觉，也许有人最终会找出根本问题，然后就有可能找到解决方案。面对他的痛苦，但又抱着这种希望，他们很难评估哪些干预措施可能是有意义的，哪些可能会感觉太过分。
考虑到这一点，团队将彼得的 DNA 送去做全外显子组分析，这在当时还是一项相对较新的技术。没有重大发现，只有两个细微的异常，已知与任何已知的综合征无关，并且没有指向任何实际的治疗方法。
但仅仅掌握这些信息就帮助彼得的父母更清楚地思考未来。尽管他们很伤心，但他们表示，能够放下对诊断的希望，更多地探索可能发生的“假设”情况，他们感到有些宽慰。彼得的父母能够明确表示，如果气管切开术有合理的可能性帮助减少感染和住院，那么这对他们来说将是有意义的。
当我读到最近发表在《自然医学》杂志上的一篇文章，内容是关于在儿科领域部署人工智能 (AI) 的新进展时，我想到了彼得的故事。在文章中，研究人员报告了他们成功地使用人工智能挖掘电子健康记录作为诊断工具。正如作者指出的那样，这不仅仅是为了让临床医生的生活更轻松：误诊和误诊的发生频率令人不安，导致发病率和死亡率增加，以及更高的成本。
而且，正如他们进一步指出的那样，人工智能可能在罕见疾病方面特别有用。彼得的故事就是一个例证，人们不禁想知道，如果他的家人早些时候获得更多信息，情况可能会如何发展。由于像彼得这样的故事，我分享了这份报告所产生的兴奋。任何能够更快、更准确地进行诊断的工具都是值得欢迎的消息。
但是，我必须发出谨慎的声音。虽然人工智能可能有助于诊断，但除非有一天机器能够完全复制人类的思想和情感，否则我们应该警惕允许人工智能超越诊断，实际上为我们做出医疗管理决策。这不仅仅是推测：人工智能引擎接管医疗决策的想法已经在科学文献中讨论了几十年，正如此处、此处和此处所证明的那样，并且现在已经进入一个研究人员实际测试模型的阶段。
有些人肯定会争辩说我们应该拥抱这种技术。正如人工智能可以对无数数据点进行冷静的运算，从而得出精确的诊断一样，不难想象下一步将是同一个引擎产生一个经过仔细计算的、基于证据的治疗建议。人工智能引擎可以迅速计算风险、评估证据并给出医嘱，而不是依赖于容易犯错的临床医生来考虑干预措施。
然而，从儿科姑息治疗的角度来看，尽管整合人工智能似乎非常诱人，但我担心激进的整合可能是目光短浅的。与家庭一起应对复杂决策的关键在于仔细检查希望、恐惧、价值观和目标。当我安静地与像彼得这样的家庭坐在一起时，几乎总是在沉默、眼神和肢体语言中传递的信息比言语更多。
通常会有眼泪；总是伴随着情感。人类接触的影响——字面上是将手安慰地放在手臂上——是无法复制的，也不应被低估。这些不是基于数据的冷冰冰的计算，而是通过仔细和持续地探索价值观而达成的真实、细致入微的决策。
在一个医学领域的新干预措施、治疗方法和技术的数量似乎呈指数级增长的时代；在一个我们做事的能力似乎已经超越了我们对其影响的理解的时代；在一个我们努力将患者和家人的个性置于医疗保健中心地位的时代，将人类从这个过程中移除似乎是倒退，甚至是危险的。将情感从诊断中剔除以减少错误可能非常有意义；将情感和人性从管理和决策中剔除似乎是危险和不明智的。
应该使用人工智能来增强医疗决策吗？当然，我们才刚刚开始探索这可能体现出来的各种方式。但取代人类完全是另一回事。
彼得的故事说明了细致入微的医疗决策的重要性，说明了考虑难以量化的事物（例如希望、恐惧和价值观）是多么重要。最终，尽管彼得在气管切开术后得以回家，但他的病情持续恶化。在一次特别漫长的住院期间，彼得的父母决定，实际上，停止延长生命的治疗最符合他们的目标，随后他去世了。这是一个悲伤的结果，但对彼得和他的家人来说仍然是有意义的，并且这是一个只能通过必不可少的，尽管有时是混乱且耗时的，人工智能引擎永远无法取代的人性关怀来实现的结果。