León XIV advierte que el uso poco ético de la IA tiene un impacto profundo en la construcción de la democracia, al ser utilizada con frecuencia para crear narrativas sesgadas y “difuminar los límites entre lo verdadero y lo falso” en la comunicación pública y política. El papa aclara que “la desinformación no surge con la IA, pero encuentra hoy en ella un potente multiplicador. La posibilidad de manipular contenidos, imágenes y videos expone a los ciudadanos a perspectivas parciales o engañosas. El problema afecta a la dimensión cultural y moral, ya que la calidad de la comunicación pública depende directamente de la confianza social y repercute en ella”.
En la misma línea, el pontífice alerta que, si bien la automatización en el mercado laboral puede maximizar las ganancias y la productividad, también representa una amenaza capaz de perjudicar la dignidad de los trabajadores y generar exclusión social masiva.
nuevas tecnologías en el ámbito militar está provocando una transformación de los conflictos armados al incorporar ataques cibernéticos, manipulación informativa y automatización de decisiones estratégicas, elementos que dificultan las tareas de resolución y convierten la guerra en “un verdadero modo de vivir”.El papa afirma que es necesario “desarmar” la IA. Esto, según el pontífice, “significa sustraerla de la lógica de la competencia armamentística, que hoy ya no es solo militar sino económica y cognitiva. Es la carrera por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial sobre todos los demás. Desarmar quiere decir romper esta equivalencia entre poder tecnológico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano”.
"La voz de la Iglesia es más necesaria” ante el avance de la IA: Anthropic
León XIV se convirtió además en el primer pontífice en presentar personalmente una carta encíclica al mundo desde el Vaticano. Durante el evento estuvo acompañado por diversos oradores, entre ellos Christopher Olah, cofundador de Anthropic.
Durante su participación, el empresario afirmó que el llamado del papa al discernimiento resulta especialmente oportuno en un contexto en el que el desarrollo de los modelos de IA avanza en medio de una creciente incertidumbre técnica y ética.
Olah reconoció que “cada laboratorio de IA de vanguardia, incluido Anthropic, opera dentro de un conjunto de incentivos y limitaciones que a veces pueden entrar en conflicto con la ética. La presión por mantener la viabilidad comercial y la vanguardia de la investigación. La presión geopolítica. Y las presiones más antiguas y sencillas del orgullo y la ambición. Por muy sinceramente que cada uno de nosotros pretenda hacer lo correcto, siempre nos veremos influenciados por esos incentivos”.
El empresario sostuvo que, ante este escenario, el debate alrededor de la IA no puede limitarse a sectores especializados como desarrolladores, investigadores o científicos informáticos. A su juicio, es indispensable que comunidades religiosas, organizaciones civiles, académicos, gobiernos y “todas las personas de buena voluntad” respondan al llamado de León XIV para dar seguimiento activo al avance tecnológico y garantizar que beneficie a la humanidad.
“Necesitamos críticos informados que les digan a los laboratorios cuándo estamos fallando. Necesitamos voces morales que no se dejen doblegar por los incentivos”, aseguró el ejecutivo de Anthropic, al mismo tiempo que planteó tres escenarios en los que “la voz de la Iglesia es más necesaria”.