El Vaticano se ocupa de preparar las almas de su gran rebaño y también de pisar tierra e involucrarse en los asuntos mundanos, sociales, políticos, científicos, financieros, ambientales y espaciales. El Papa Francisco, de 87 años, conoce los desafíos de la tecnología que está dominando todos los espacios y tiene a su lado a Paolo Benanti, un filósofo, teólogo y fraile de la orden franciscana a cargo de la Inteligencia Artificial (IA).
Mediático y activo en distintas plataformas digitales, Benanti es una de las personas más preparadas en la Santa Sede en materia de tecnología y cuenta con el respaldo del pontífice. Así como de algunos de los principales ingenieros y ejecutivos de Silicon Valley. Esta semana asistió a un encuentro de la Comisión de Vigilancia de la Rai para tratar los alcances y las limitaciones de la IA y sus variadas herramientas.
A mediados de diciembre, Francisco pidió un tratado internacional para garantizar que la IA se desarrolle y utilice de manera ética. Advirtió los riesgos de que esa tecnología carezca de los valores humanos de compasión, misericordia, moralidad y perdón son demasiado grandes.
Entonces el Papa unió su voz a los crecientes llamados a una regulación global vinculante de la IA en su mensaje anual para el Día Mundial de la Paz. Como se recordará, a principios de 2023, una imagen de él con una lujosa chaqueta acolchada blanca, generada con IA, se volvió viral. Mostrando cuán rápido las imágenes realistas deepfake pueden difundirse.
En sintonía con el auge de esa tecnología, resuena con más fuerza el nombre de Benanti. Con formación en ingeniería, un doctorado en teología moral y una pasión por lo que él llama la «ética de la tecnología», el sacerdote italiano de 50 años se encuentra en una misión urgente.
El Papa Francisco se adentra en la IA
Se trata de la misión urgente encomendada por el Papa de desarrollar un tratado internacional para garantizar el uso ético de la IA.
El fraile encargado de liderar ese trabajo enseña en la Pontificia Universidad Gregoriana. Y en el Instituto Teológico de Asís y en el Pontificio Colegio Leoni d’Anagni. Entre 2013 y 2014 asistió al Curso Intensivo de Bioética en el Instituto de Ética Joseph P. and Rose F. Kennedy de la Universidad de Georgetown. Además de dar cursos sobre moral sexual y bioética a estudiantes que se preparan para el sacerdocio, se ocupa de neuroética, ética tecnológica, IA e inteligencia posthumana.
“¿Cuál es la diferencia entre un hombre que existe y una máquina que funciona?” dijo Benanti en una entrevista con The Associated Press. Durante un receso en la Pontificia Universidad Gregoriana. “Esta es quizás la pregunta más grande de estos tiempos, porque estamos asistiendo a un desafío que cada día se profundiza con una máquina que se humaniza”.
Benanti comentó que ayuda a “clarificar mejor los términos más técnicos para el Santo Padre” durante sus encuentros. Su conocimiento resultó útil para una reunión en el Vaticano en 2023 entre Francisco y el presidente de Microsoft, Brad Smith. Encuentro que se centró en cómo la IA podría ayudar o perjudicar a la humanidad.
El Papa y Smith también habían discutido la IA “al servicio del bien común” durante una reunión unos años antes, según el Vaticano. Francisco ha dejado clara su preocupación de que la tecnología de inteligencia artificial pueda limitar los derechos humanos. Por ejemplo, impactar negativamente en la solicitud de hipoteca de un comprador de vivienda. En la solicitud de asilo de un migrante o la evaluación de un delincuente.
Control, uso y soporte de la tecnología
Benanti es miembro del Órgano Asesor de la ONU sobre Inteligencia Artificial. Y jefe de una comisión del gobierno italiano encargada de brindar recomendaciones sobre cómo salvaguardar el periodismo de noticias falsas y otra desinformación. También es consultor de la Pontificia Academia para la Vida del Vaticano.
«Está claro que si elegimos algunos datos que no son lo suficientemente inclusivos, tendremos algunas opciones que no lo son», sostuvo el fraile.
Y contó que Microsoft lo contactó por primera vez hace varios años para conocer sus opiniones sobre la tecnología. En 2023, Smith hizo un podcast con Benanti en Roma, describiendo al sacerdote como aportando al debate sobre la IA “una de las combinaciones más fascinantes del mundo” en términos de su experiencia en ingeniería, ética y tecnología.
Benanti describió cómo la IA podría ser una “herramienta realmente poderosa” para acabar con el costo de los medicamentos y empoderar a los médicos para ayudar a más personas. Pero también describió las implicaciones éticas de una tecnología que podría tener las mismas capacidades que un ser humano, o quizás incluso más.
«No es un problema de uso (IA), sino un problema de gobernanza», asentó. «Y aquí es donde entra en juego la ética: encontrar el nivel adecuado de uso dentro de un contexto social».
Benanti adicionó que gran parte de los datos que informan a la IA provienen de trabajadores con salarios bajos, muchos en países en desarrollo arraigados en una historia de colonialismo y una fuerza laboral explotada. «No quiero que esta sea recordada como la temporada en la que extraemos recursos cognitivos del Sur global», dijo.
Si se examinan “las mejores herramientas que estamos produciendo en IA” en Occidente, añadió, se ve que la IA se “entrena con trabajadores mal pagados de antiguas colonias de habla inglesa”.
Lee también en Cambio16.com:
Conforme a los criterios de 
Saber más
