León XIV, en su primera encíclica: "La IA debe ser desarmada"

• P. CEREZAL

• Compartir en Facebook
• Compartir en Twitter
• Compartir en LinkedIn
• Enviar por email

• Almeida pide teletrabajo durante la visita de Papa por los cortes de tráfico que generará en Madrid
• Las reformas de calado del Papa Francisco

El Papa señaló que los algoritmos opacos amenazan con "nuevas formas de deshumanización" y pueden llevar a "bloquear el acceso a la sanidad o al empleo" a los ciudadanos.

El Papa León XIV defendió ayer que "la Inteligencia Artificial no es neutral" y por lo tanto "debe ser desarmada". El Papa hizo estas declaraciones durante la presentación de su primera encíclica, Magnifica humanitas, publicada ayer, e invitó a no temerla y a tener "siempre presente la cuestión humana". Se trata de la primera vez que un Papa está presente en la presentación al público de uno de sus documentos magisteriales. "La Inteligencia Artificial exige ahora ser desarmada, liberada de las lógicas que la convierten en un instrumento de dominación, exclusión o muerte", subrayó el Pontífice, durante su discurso, pronunciado en el Aula del Sínodo, en el Vaticano, en el marco de un acto en el que han participado cardenales, profesores y expertos en tecnología.

León XIV explicó que, al igual que su predecesor León XIII comprendió a finales del siglo XIX que la Iglesia "no podía permanecer al margen" de la situación "de los obreros, de sus familias desarraigadas y de las nuevas formas de pobreza generadas por la rápida transformación industrial", hoy él se siente "encomendado" a hacer estas reflexiones "ante una transformación de magnitud similar, con consecuencias quizás aún más grandes". Por ello, reclamó desarmar la IA mediante una regulación rigurosa y la limitación de su uso en la guerra, al tiempo que advirtió de los peligros de una revolución tecnológica impulsada por "la idolatría del lucro".

El Pontífice explicó que Magnifica humanitas nació de la escucha a científicos e ingenieros, a líderes políticos y funcionarios, a padres y maestros. En su opinión, los "algoritmos opacos" amenazan con "nuevas formas de deshumanización". De hecho, a raíz del desarrollo de la IA se está desarrollando en un entorno intelectual en el que algunas personas son consideradas "menos útiles, menos deseables y menos valiosas". Asimismo, indicó que ha recibido comentarios "muy inquietantes sobre sistemas de armas cada vez más autónomos, prácticamente fuera de alcance humano para su control" y "relatos muy preocupantes sobre algoritmos opacos que amenazan con nuevas formas de deshumanización", bloqueando "el acceso a la atención médica, al empleo y a la seguridad basándose en datos viciados por prejuicios". Ante esta situación, insistió en la importancia de "desarmar" la IA. "La palabra es fuerte, lo sé, pero la elegí deliberadamente porque este momento necesita palabras capaces de llamar la atención, despertar las conciencias e indicar caminos a seguir para la humanidad", remarcó.

A raíz de ello, precisó que, al "igual que la energía nuclear debe estar al servicio de todos y del bien común", las "decisiones sobre la tecnología nunca deben separarse de la conciencia y la responsabilidad". En todo caso, "desarmar no es suficiente", hace falta "construir" en el sentido no solo de "reemplazar lo destruido" sino de "reparar lazos, restaurar la confianza y revivir la esperanza en el futuro". En este sentido, se mostró convencido de que "la IA puede ser un terreno de construcción de la historia desde un horizonte de comunión donde el progreso técnico aprende a servir a la vida humana" y pidió no tenerle miedo. "No temamos a la Inteligencia Artificial sino mantengamos siempre presente la cuestión humana. No podemos ser negligentes con nuestros instrumentos técnicos más poderosos", puntualizó.

Por ello, defendió que "la Iglesia desea con humildad y franqueza participar en los diálogos sobre IA". "No poseemos respuestas técnicas ni pretendemos sustituir a los expertos, pero aportamos una sabiduría sobre lo humano que nuestro tiempo necesita con urgencia. Cada persona es única e irreemplazable, un sujeto libre e inteligente, con conciencia, capaz de buscar a Dios, servir a los demás y cuidar de nuestra casa común", defendió. Al mismo tiempo, invitó "a todos los miembros de la Iglesia y de la familia humana" a "escucharse unos a otros" y a "afrontar con valentía los retos actuales y a cooperar en la construcción de una sociedad más humana y fraterna".

Denuncia

León XIV afirmó que la Iglesia Católica tiene la obligación de denunciar las nuevas formas de explotación que pueden derivarse del creciente uso de la IA, incluyendo la creación y difusión de contenido perturbador o el tráfico de productos ilícitos. Según afirmó, no pronunciarse con claridad sería un eco de la "complicidad y la ceguera del pasado ante la injusticia de la esclavitud", que, según él, algunos papas contribuyeron históricamente a legitimar y que la Iglesia tardó en denunciar, una clara alusión a la crítica de esta actitud por parte de León XIII, en una nueva referencia a este pontífice.

A la presentación asistió, entre otros, Christopher Olah, cofundador de la empresa de IA Anthropic, quien reconoció que "las preguntas que plantea la IA son más importantes que la comunidad de investigación en IA". Según Olah, los desarrolladores de IA se ven impulsados por "un conjunto de incentivos y limitaciones que a veces pueden entrar en conflicto con hacer lo correcto", entre los que se incluyen "la presión por seguir siendo comercialmente viables para mantenerse a la vanguardia de la investigación, las presiones geopolíticas y las presiones más antiguas y sencillas del orgullo y la ambición".

• economía

• 02:09

  Mango refuerza los poderes de su cúpula directiva

• 01:57

  Inditex inicia el gran salto internacional de Lefties

• 01:50

  BlackRock ve razones "suficientes" para justificar recortes de tipos de la Fed

• 01:43

  Jordi Muntañola (Salvat): "Cuanto más te expones, más confianza tienes al liderar"

• 00:37

  Santander fusiona sus negocios de seguros y pensiones para ganar eficiencia