布里斯托尔研究人员表示医学已掌握处理“黑箱”的方法,人工智能可从中学习
decoder ·
布里斯托大学的研究人员提出了一种新的医疗人工智能系统测试框架,借鉴了用于审查制药药物的严格标准。他们认为,医学界通过结构化的信息包来管理对未知药物机制的不确定性,而人工智能开发者则缺乏类似的系统性可靠性检查。拟议的“学习集成”工具包要求在三个关键领域提供文档:系统运行限制、在不同患者群体中的可靠性以及实际临床适用性。这种方法旨在防止因人工智能依赖无关数据模式(如图像中的偶然细节而非疾病迹象)而导致的故障。它还解决了偏见问题,即系统整体表现良好,但在服务不足的人群中失效,或因训练数据偏差而误判风险。通过确立明确的边界和使用条件,该框架力求确保人工智能工具在应用于患者之前既安全又有效。作者认为这是通过共享标准和早期问题检测来构建更值得信赖的医疗人工智能的基础步骤。
decoder