Der KI-Berater des Papstes warnt vor Kartellverhalten großer Labore
wired ·
Pater Paolo Benanti, ein KI-Berater der katholischen Kirche, warnt davor, dass große künstliche Intelligenz-Labore kartellähnliches Verhalten an den Tag legen, indem sie die Debatte über Technologie Governance monopolisieren. Er argumentiert, dass die aktuelle Hysterie bezüglich Superintelligenz und existenzieller Risiken von der dringenden Notwendigkeit demokratischer Regulierung und öffentlicher Aufsicht ablenkt. Benanti ist der Auffassung, dass die Framing von KI als gottgleiche Entität den Eigeninteressen großer Tech-Unternehmen dient, da dies es ihnen ermöglicht, externe Stimmen von kritischen Entscheidungsprozessen auszuschließen. Anstatt sich auf spekulative Ängste vor dem Aussterben der Menschheit zu konzentrieren, plädiert er für die Etablierung von Standards, die sicherstellen, dass Modelle unter menschlicher Kontrolle bleiben, ohne Innovation zu ersticken. Der Priester kritisiert die Tendenz der Branche, Effizienz als höchsten Wert darzustellen, was das Risiko birgt, Menschen auf reine Optimierungsprojekte zu reduzieren. Er betont, dass KI im Grunde statistische Berechnung und keine göttliche Kraft sei, und fordert die Gesellschaft auf, technokratische Logik zugunsten eines ethischen öffentlichen Diskurses abzulehnen. Diese Perspektive stimmt mit jüngsten Lehren von Papst Leo XIV. überein, der zu internationaler Zusammenarbeit aufrief und vor geopolitischer Dominanz in der KI-Entwicklung warnte. Letztlich betont Benanti, dass sinnvolle Bremsen und Lenkmechanismen etabliert werden müssen, um die menschliche Handlungsfähigkeit gegenüber diesen mächtigen Werkzeugen zu bewahren.
wired