人工智能是在努力处理健康数据，提高诊断和帮助医生为患者做出更好的决策。但研究人员在斯坦福大学医学院说，在机器学习工具的发展增长迅猛的速度要求医生和科学家们仔细检查纳入决策的道德风险。

在公布的3月15日在透视片这个 新英格兰医学杂志作者认为，机器学习可以对患者的健康带来的巨大利益。但他们警告说，使用这种类型的工具来进行预测和采取其他行动不能没有仔细考虑随之而来的道德陷阱实现充分受益。

“因为有许多潜在的好处，有一个强烈的愿望，在社会上有这些工具的试点和实施到医疗保健，”主要作者说，丹东字符、MD、麻醉学助理教授，围手术期疼痛医学。“但是我们已经开始注意到，在非卫生保健领域的实现，可以有算法学习的道德问题时，它部署在一个大的规模。”

其中关注作者提出：

数据用于创建算法可以包含偏见，体现在算法和它们产生的临床建议。同时，算法可能设计成倾斜的结果，取决于人的发展，对程序员的动机，公司或卫生保健系统的部署。
医师必须充分了解如何建立算法，审慎评估数据用于创建用来预测结果的统计模型的来源，了解模型的功能和防范变得过于依赖他们。
数据收集了患者的健康，诊断结果成为“集体知识”的文献信息，卫生保健系统和收集可能没有临床经验方面和病人护理的人的方面。
机为基础的临床指导可能会引入第三方“演员”成了医患关系的学习，和保密的期望的关系具有挑战性的责任动力学。

“我们需要小心照顾的人基于什么算法告诉我们，”查尔说。“有一件事可以做，机器不能做的是放弃我们的思想和批判性地评价他们。”

来源的偏见
在讨论设计者的意图，这是一个源的偏见，作者指出私有实例算法为了确保特定的结果，如大众的算法，允许车辆通过排放测试在测试过程中减少氮氧化物的排放。

David Magnus
戴维·马格纳斯

戴维·马格纳斯，博士，对张主任的资深作者斯坦福大学生物医学伦理中心偏见，说可以玩到三种健康数据：人类的偏见；偏见，介绍了设计；在医疗方面使用数据的系统偏差。

“你可以想象的算法被纳入卫生保健系统可能反射利益冲突不同，”马格纳斯说，谁也是Thomas A. Raffin教授医学和生物医学伦理学。“如果算法的设计是围绕省钱的目标吗？如果不同治疗方案患者根据保险状况或支付能力？“

作者呼吁国家谈话关于“永恒的紧张关系改善健康的目标和产生利润…由于建筑工人和机器学习系统的购买者是不可能一样的人提供护理。”

他们还把责任找到解决方案和设置在卫生保健专业人员的议程。

“道德准则可以赶上时代的机器学习和人工智能已经在我们身上，”作者写道。“医生使用机器学习系统可以更加了解他们的建设，他们都是建立在数据集及其局限性。其余无知的机器学习系统的建设或让他们被构造为黑盒子可能导致伦理问题的结果。”

作者承认将最新的工具，为了为患者提供更好的健康结果的社会压力。

“人工智能将普及卫生保健在短短的几年内，”共同作者Nigam Shah，学士，博士，副教授­医学公关。但是，卫生保健系统需要注意的是，在其他行业发生的问题，他说。

沙阿指出，模型是唯一可信赖的数据被收集和共享。“要知道，你学习数据小心，”他说。

可能的数据成为医生吗？
作者写道，从数据中学习什么医生需要重权衡他们知道从自己的临床经验。机上指导的依赖可能会导致自我实现的预言。

例如，他们说，如果医生总是退出某些诊断患者的护理，如极端早产或脑损伤，机器学习系统可以学习，这样的诊断是致命的。相反，机器学习系统，部署得当，可能有助于解决卫生保健差距通过补偿或通过识别已知偏差，需要更多的研究来平衡基础数据。

Nigam Shah
Nigam Shah

马格纳斯说，一个算法的斯坦福开发预测姑息治疗咨询需要说明如何协同电流试验研究为例，在算法和使用的数据设计的仔细考虑，可以防止在医疗决策数据的误解。

公司是为试点研究。在这种情况下，马格纳斯说，医生和设计师密切合作，确保预测为照顾方程成立包括保证医生有充分的了解，病人的问题回答清楚。”

一个算法的预测为医患关系的插入还引入了第三方，将关系到一个病人和卫生保健系统之间。

这也意味着在病人的期望保密方面的显著变化。

“一旦机器学习为基础的决策支持集成到临床护理，从电子病历隐瞒信息将变得越来越困难，因为病人的数据没有记录不能从机器学习分析的好处，”作者写道。

马格纳斯说，转向数据答案压力，正在快速增长的领域是特别强烈，如基因检测及测序。

“在一个情况下，你要找的通知你的决策，你可以得到任何证据，现在你有所有的遗传信息和你不知道如何应对，“有明确的数据可以有很大的帮助，他说。

查尔，谁是做研究的资助，由美国国立卫生研究院的伦理和社会影响的扩大遗传病危儿童测试，说这是重要的卫生保健专业人员如何缩小各领域的基于数据的决策的负面结果。

“我认为社会在寻找快速解答变得喘不过气来，”他说。“我认为我们需要在实现机器学习更周到。”

沙阿是助理主任斯坦福大学的生物医学信息学研究中心副主任光谱研究中心资助，由美国国立卫生研究院临床过渡科学奖。他也是一个成员斯坦福大学癌症研究所和斯坦福大学神经科学研究所。

（注：转载时请注明复诊网）