Le conseiller en IA du pape s'inquiète des comportements de cartel parmi les grands laboratoires
wired ·
Le père Paolo Benanti, conseiller en intelligence artificielle de l'Église catholique, met en garde contre le comportement de type cartel des principaux laboratoires d'IA, qui monopolisent le débat sur la gouvernance technologique. Il soutient que l'hystérie actuelle autour de la superintelligence et des risques existentiels détourne l'attention du besoin urgent de réglementation démocratique et de contrôle public. Selon Benanti, présenter l'IA comme une entité quasi divine sert les intérêts propres aux grandes entreprises technologiques, leur permettant d'exclure les voix extérieures des processus décisionnels critiques. Au lieu de se concentrer sur des craintes spéculatives concernant l'extinction humaine, il plaide pour l'établissement de normes garantissant que les modèles restent sous contrôle humain sans étouffer l'innovation. Le prêtre critique la tendance de l'industrie à présenter l'efficacité comme la valeur ultime, ce qui risque de réduire les humains à de simples projets d'optimisation. Il souligne que l'IA est fondamentalement un calcul statistique plutôt qu'une force divine, exhortant la société à rejeter la logique technocratique au profit d'un discours public éthique. Cette perspective s'aligne avec les enseignements récents du pape Léon XIV, qui a appelé à une collaboration internationale et mis en garde contre la domination géopolitique dans le développement de l'IA. En définitive, Benanti insiste sur la nécessité d'établir des mécanismes de freinage et de direction significatifs pour préserver l'agence humaine face à ces outils puissants.
wired