研究表明机器学习模型无法检测到关键的健康恶化
发布时间：2025-03-21 15:09:31来源：
如果当病人的病情迅速恶化或生命体征处于严重异常范围时能够收到警报，那么对于重症监护室中试图挽救生命的医生来说将大有裨益。
虽然目前的机器学习模型正试图实现这一目标，但弗吉尼亚理工大学在《通讯医学》上发表的一项研究表明，它们的院内死亡率预测模型存在不足，这指的是预测病人在医院死亡的可能性，但无法识别 66% 的伤害。
“预测只有在能够准确识别危急患者病情的情况下才有价值。他们需要能够识别健康状况恶化的患者并及时提醒医生，”计算机科学系教授、桑加尼人工智能和数据分析中心兼职教员丹峰“达芙妮”姚说。
姚说：“我们的研究发现，当前机器学习模型的响应能力存在严重缺陷。我们评估的大多数模型都无法识别重大健康事件，这是一个重大问题。”
为了开展这项研究，姚期智和计算机科学博士生 Tanmoy Sarkar Pias 与多位研究人员进行了合作。
他们的论文《机器学习模型对危急或恶化的健康状况反应迟钝》表明，患者数据不足以教会模型如何确定未来的健康风险。用“测试患者”校准医疗保健模型有助于揭示模型的真正能力和局限性。
该团队开发了多种医疗测试方法，包括梯度上升法和神经激活图。神经激活图的颜色变化表明机器学习模型对患者病情恶化的反应程度。梯度上升法可以自动生成特殊测试用例，使评估模型质量变得更加容易。
免责声明：本文为转载，非本网原创内容，不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。
