El asesor de IA del Papa advierte sobre el comportamiento de cártel entre los grandes laboratorios
wired ·
El padre Paolo Benanti, asesor de inteligencia artificial de la Iglesia católica, advierte que los principales laboratorios de IA están exhibiendo un comportamiento similar al de un cártel al monopolizar el debate sobre la gobernanza tecnológica. Argumenta que la histeria actual en torno a la superinteligencia y los riesgos existenciales distrae de la urgente necesidad de regulación democrática y supervisión pública. Benanti sostiene que presentar a la IA como una entidad divina sirve al interés propio de las grandes empresas tecnológicas, permitiéndoles excluir voces externas de los procesos críticos de toma de decisiones. En lugar de centrarse en temores especulativos sobre la extinción humana, aboga por establecer normas que garanticen que los modelos permanezcan bajo control humano sin ahogar la innovación. El sacerdote critica la tendencia de la industria a presentar la eficiencia como el valor supremo, lo que corre el riesgo de reducir a los humanos a meros proyectos de optimización. Enfatiza que la IA es fundamentalmente computación estadística y no una fuerza divina, instando a la sociedad a rechazar la lógica tecnocrática en favor de un discurso público ético. Esta perspectiva se alinea con las recientes enseñanzas del Papa León XIV, quien pidió colaboración internacional y advirtió contra el dominio geopolítico en el desarrollo de la IA. En última instancia, Benanti subraya que deben establecerse frenos y mecanismos de dirección significativos para preservar la agencia humana sobre estas poderosas herramientas.
wired