Papa León XIV alerta sobre manipulación algorítmica, desinformación y riesgos para menores de la IA en su primera encíclica
- El Papa afirma además que “la inteligencia artificial puede amplificar la desinformación”, poniendo en riesgo procesos democráticos
El papa León XIV advirtió este lunes sobre los riesgos que representa el uso inadecuado de la inteligencia artificial, alertando sobre la concentración de poder tecnológico en grandes corporaciones privadas, la manipulación de información y las amenazas contra la dignidad humana, en su primera encíclica titulada Magnifica Humanitas.
El documento, dedicado a “la custodia de la persona humana en el tiempo de la inteligencia artificial”, fue presentado oficialmente en el Vaticano como la primer encíclica del actual pontífice y trata sobre un tema que caracteriza y preocupa a la sociedad actual.
En la encíclica, León XIV sostiene que la inteligencia artificial “no es moralmente neutral” y advierte que quienes controlen estas tecnologías podrían terminar imponiendo “su visión moral” sobre las sociedades contemporáneas.
El Pontífice cuestiona el creciente dominio de grandes empresas tecnológicas sobre datos, información y procesos digitales, señalando que existe una peligrosa concentración de poder “en pocas manos”.
“Quien controla la IA impondrá su visión moral”, señala el Pontífice en uno de los fragmentos del documento.
Asimismo, sostiene que las plataformas digitales pueden fomentar “la manipulación de la verdad” y la fragmentación social mediante sistemas diseñados para maximizar interacción y consumo emocional.
El Papa afirma además que “la inteligencia artificial puede amplificar la desinformación”, poniendo en riesgo procesos democráticos y debilitando la capacidad humana de discernimiento.
En el documento, León XIV señala que “el ser humano nunca puede reducirse a un dato, a un perfil, a un algoritmo”, en referencia al uso creciente de sistemas automatizados para clasificar personas y condicionar decisiones sociales y económicas.
La encíclica denuncia además lo que el Papa define como una “cultura de poder” impulsada por intereses económicos y tecnológicos que podrían convertir a las personas en simples piezas de sistemas orientados exclusivamente a la eficiencia y al lucro.
León XIV advierte que el desarrollo descontrolado de la inteligencia artificial podría aumentar desigualdades sociales, desplazar trabajadores, manipular la verdad y afectar la capacidad humana de tomar decisiones libres y conscientes.
El documento también hace referencia a los riesgos derivados de los algoritmos y de las redes sociales, incluyendo la polarización, la desinformación y el control de la información pública.
El Pontífice también cuestiona el modelo económico que permite que corporaciones tecnológicas acumulen niveles de influencia superiores incluso a muchos Estados.
La encíclica plantea que la regulación de la inteligencia artificial no puede quedar exclusivamente en manos de empresas privadas ni de grupos económicos, por lo que llama a crear marcos jurídicos internacionales y sistemas de supervisión independientes.
León XIV también aborda el impacto de la automatización sobre el empleo y sostiene que el progreso tecnológico no debe utilizarse para excluir personas ni degradar las condiciones laborales.
El Papa expresa preocupación por la exposición temprana y descontrolada de niños y adolescentes a sistemas digitales, teléfonos inteligentes y plataformas algorítmicas diseñadas para captar atención permanente.
“Será esencial enseñar a los jóvenes a utilizar estas herramientas con su propia inteligencia, asegurándonos de que se abran a la búsqueda de la verdad”, señala el texto.
La encíclica advierte además sobre los riesgos de relaciones artificiales generadas mediante chatbots y sistemas virtuales capaces de simular empatía humana, así como sobre la explotación de menores mediante herramientas digitales y sistemas automatizados.
El documento llama a una alianza entre familias, educadores, gobiernos y comunidades para proteger a niños y adolescentes frente a los efectos psicológicos y sociales del ecosistema digital contemporáneo.
León XIV sostiene igualmente que “toda innovación tecnológica” debe orientarse “a la verdad del hombre”, y no únicamente a objetivos comerciales o de control social.
La encíclica fue firmada el 15 de mayo, coincidiendo con el 135 aniversario de Rerum Novarum, el histórico documento social promulgado por León XIII en 1891.
Durante la presentación oficial en el Aula del Sínodo participaron el cardenal Víctor Manuel Fernández, prefecto del Dicasterio para la Doctrina de la Fe; el cardenal Michael Czerny; la teóloga Anna Rowlands; la profesora Leocadie Lushombo; y Christopher Olah, cofundador de la empresa estadounidense de inteligencia artificial Anthropic.
