Les chercheurs de Bristol affirment que la médecine sait déjà gérer les boîtes noires et que l'IA pourrait en tirer des leçons
decoder ·
Des chercheurs de l'Université de Bristol proposent un nouveau cadre pour tester les systèmes d'intelligence artificielle médicale, inspiré des normes rigoureuses utilisées pour évaluer les médicaments pharmaceutiques. Ils soutiennent que si la médecine gère l'incertitude liée aux mécanismes inconnus des médicaments grâce à des paquets d'information structurés, les développeurs d'IA manquent de vérifications systématiques de fiabilité similaires. La boîte à outils proposée, baptisée « Learning Ensemble », exige une documentation dans trois domaines clés : les limites de fonctionnement du système, la fiabilité auprès de divers groupes de patients et l'adéquation réelle à l'usage clinique. Cette approche vise à prévenir les défaillances causées par l'IA qui s'appuie sur des motifs de données non pertinents, tels que des détails incidentels sur les images plutôt que des signes de maladie. Elle traite également des problèmes de biais où les systèmes performent bien globalement mais échuent pour les populations sous-représentées ou jugent mal le risque en raison de données d'entraînement déséquilibrées. En établissant des limites claires et des conditions d'utilisation, le cadre cherche à garantir que les outils d'IA soient sûrs et efficaces avant d'être mis à disposition des patients. Les auteurs considèrent cette démarche comme une étape fondamentale vers la construction d'une IA médicale plus fiable grâce à des normes partagées et à la détection précoce des problèmes.
decoder