Исследователи из Бристоля утверждают, что медицина уже умеет работать с «чёрными ящиками», и ИИ мог бы этому научиться
decoder ·
Исследователи из Бристольского университета предлагают новую систему тестирования медицинских ИИ-систем, основанную на строгих стандартах проверки фармацевтических препаратов. Они утверждают, что в то время как медицина справляется с неопределенностью, связанной с неизвестными механизмами действия лекарств, через структурированные информационные пакеты, разработчики ИИ лишены аналогичных систематических проверок надежности. Предлагаемый набор инструментов «Learning Ensemble» требует документирования по трем ключым направлениям: пределы работы системы, надежность при работе с различными группами пациентов и фактическая пригодность для клинического использования. Этот подход направлен на предотвращение сбоев, вызванных тем, что ИИ фиксирует нерелевантные паттерны данных (например, случайные детали на изображениях вместо признаков заболевания), а также на решение проблем смещения (bias), когда системы хорошо работают в целом, но дают сбои для недостаточно обслуживаемых групп населения или ошибочно оценивают риски из-за искаженных обучающих данных. Устанавливая четкие границы и условия использования,框架 стремится обеспечить безопасность и эффективность ИИ-инструментов до их внедрения в практику. Авторы рассматривают это как фундаментальный шаг к созданию более надежных медицинских ИИ-систем посредством общих стандартов и раннего выявления проблем.
decoder