El Papa León XIV advierte que la carrera por la inteligencia artificial podría convertirse en una nueva Torre de Babel: un deslumbrante logro humano que concentra el poder, debilita la verdad y convierte a las personas en datos.
El documento tan esperado, Magnifica Humanitas (“Magnífica Humanidad”), indica que el Vaticano se está posicionando de forma agresiva como una autoridad moral central en el debate tecnológico global. El lunes pasado, León XIV, firmó en la Basílica de San Pedro su primera encíclica en el segundo año de su pontificado. Fue firmada exactamente 135 años después de la Rerum Novarum de León XIII, la trascendental encíclica de 1891 que se convirtió en la base de la doctrina social católica moderna durante la Revolución Industrial.
El mensaje central del Papa en su contundente advertencia de 43.000 palabras es que la IA puede ser útil, pero no es neutral. Según él, los sistemas de IA reflejan los valores de las personas e instituciones que los diseñan, financian, entrenan y despliegan, especialmente cuando deciden quién obtiene un empleo, crédito, servicios públicos o prestigio.
Leo hizo las siguientes advertencias, diciendo que la IA puede:
- Erosionar el juicio humano al ofrecer respuestas instantáneas que debilitan la creatividad, el discernimiento y la paciencia necesarios para buscar la verdad.
- Simular cuidados sin relación alguna, lo que lleva a los usuarios vulnerables a confundir la empatía artificial con una conexión humana genuina.
- Agravar la desigualdad porque los datos, la capacidad de procesamiento y la influencia regulatoria se concentran en manos de un pequeño número de actores.
- Desestabilizar la democracia al amplificar la desinformación y difuminar la línea entre la realidad y la ficción.
- Facilitar la guerra al acelerar las decisiones letales y eximir a los humanos de responsabilidad. La frase más contundente de Leo: “Ningún algoritmo puede hacer que la guerra sea moralmente aceptable”.
Según comentan, “Con este documento, el Papa León se ha consagrado como una de las figuras más destacadas en la ética de la IA”, declara a Axios Meghan Sullivan, directora del Instituto de Ética y Bien Común de Notre Dame.
Sullivan afirmó que la encíclica de Leo sobre la IA probablemente será recordada como uno de los documentos más importantes de la historia católica.
Mirela Oliva, catedrática de filosofía avanzada en la Universidad de St. Thomas, explica a Axios que la encíclica de León XIII debería interpretarse menos como un rechazo a la IA y más como un llamamiento a configurar la “era de la IA” en torno a la dignidad humana.
“El Papa pide nuevas directrices para la IA, y estas nuevas directrices deben desarrollarse de abajo hacia arriba en lugar de arriba hacia abajo.”
Dan Rober, profesor de Estudios Católicos en la Universidad del Sagrado Corazón, explica a Axios que el mayor impacto de la encíclica podría radicar en si el lenguaje de Leo comienza a influir en los debates sobre la regulación de la IA.
Rober afirmó que las advertencias de Leo sobre los niños, las pantallas, las plataformas de IA y las personas que utilizan chatbots como terapeutas o sustitutos de la amistad podrían tener repercusión mucho más allá de los círculos católicos.
Fuente: Axios
