Olah comentó sobre la extrañeza de la situación en sus declaraciones en el Vaticano. “Quiero empezar con algo que puede sonar extraño viniendo del cofundador de una empresa de IA, y de alguien que eligió este trabajo por el deseo de contribuir al bienestar de la humanidad”, señaló Olah. “Todo laboratorio de IA de vanguardia, incluido Anthropic, opera dentro de un conjunto de incentivos y limitaciones que a veces pueden entrar en conflicto con hacer lo correcto”.
Olah estaba corroborando de primera mano la afirmación del papa de que la industria de la IA necesita presión externa y autocontrol interno para evitar un desastre para la humanidad y una distancia entre los humanos y su dios. (Obviamente, hay mucho contenido religioso en la encíclica: ¡es el papa!). La industria cree ingenuamente que está creando una abundancia que elevará a toda la humanidad; León XIV advierte sobre una nueva forma de esclavitud, donde unos pocos privilegiados disfrutan de una riqueza inimaginable, mientras que la mayoría de la humanidad sufre bajo un régimen de eficiencia y vigilancia bajo la mirada implacable de la IA.
Magnifica Humanitas no convencerá de inmediato a la industria de la IA de que abandone el desarrollo de la IA general, del mismo modo que el llamamiento del papa Francisco en 2015 para preservar el planeta no detuvo la producción de combustibles fósiles. No impedirá que los directores ejecutivos despidan empleados alegando la eficiencia de la IA, ni que las fuerzas armadas den marcha atrás en materia de armas de IA. Esos nunca fueron los objetivos del documento. El propósito de la encíclica es generar un diálogo que, con el tiempo, pueda moderar la ambición temeraria de la industria. Y tal vez genere un sentimiento de vergüenza entre quienes desarrollan IA sabiendo, en el fondo, que el resultado puede ser terrible.
El cortejo de Olah
La aparición de Olah se gestó durante años. La Iglesia lleva décadas reflexionando sobre la inteligencia artificial a través de conferencias y libros. En 2016, el Vaticano comenzó a celebrar una serie de encuentros llamados Diálogos Minerva, invitando a figuras del sector tecnológico como Reid Hoffman y Eric Schmidt. (El nombre parece provenir del lugar donde se celebraron los debates, la iglesia de Santa Maria sopra Minerva, donde Galileo fue castigado por la blasfemia de afirmar que la Tierra giraba alrededor del sol). El saludo del papa Francisco a los participantes de Minerva en 2023 anticipó los temas que León XIV abordaría posteriormente, incluyendo el énfasis en la inclusión social, la dignidad humana y la necesidad de diálogo entre diversas partes.
En 2025, un grupo de clérigos católicos y expertos en ética de San José, California, comenzaron a buscar contactos en la floreciente industria local. Era casi predestinado que dieran con Olah como su valioso informante. Lo conocí cuando trabajaba en Google en 2015; es de esas personas que, después de una tormenta, rescatan gusanos de la calle.
Dos hombres (un especialista en ética llamado Brian Patrick Green y un pastor llamado Brendan McGuire, ambos vinculados a la Universidad de Santa Clara) comenzaron a reunirse con Olah el otoño pasado para discutir los aspectos éticos y morales de la IA . En una visita en enero, los acompañó el cardenal Paul Tigue, un referente del Vaticano en temas de IA.
constitución de Claude por parte de Anthropic , que establece los parámetros de comportamiento para el modelo de IA de la compañía. Olah envió un borrador a la comunidad de San José. El pastor McGuire respondió con un comentario de 28 páginas que, según su propia descripción, era menos una crítica técnica que “sabiduría de los místicos de la Edad Media, desde la perspectiva de la tensión entre el saber y el no saber”. Tanto Green como McGuire aparecen mencionados en los agradecimientos de la constitución.Sin duda, esas conversaciones dieron a conocer a Olah a quienes organizaban en secreto la publicación de la encíclica de León XIV. (No pude hablar con Olah esta semana y desconozco cómo llegó la invitación). En cierto modo, fue una decisión arriesgada. Algunas personas que consideraban inspiradoras las palabras del papa se sintieron decepcionadas de que invitara a un representante de la industria a hablar. Mientras tanto, los defensores de la aceleración de la IA sintieron que Olah había traicionado al mundo de la IA al respaldar un documento que sugería a los desarrolladores de IA hacer una pausa.
Pero el papa León XIV tenía buenas razones para destacar a Olah. El empleado de Anthropic puso de manifiesto las serias preocupaciones que existen entre los trabajadores de IA. Ese es un público clave para el mensaje de Leo.
La división del alma
Por supuesto, los dos hombres no estaban del todo de acuerdo. En sus declaraciones, Olah habló del misterio del funcionamiento de la IA. Los modelos, indicó, son “más sutiles, extraños y hermosos de lo que la ciencia ficción nos había preparado. No son los robots fríos y calculadores que nos prometieron. Están hechos de nosotros, de nuestras palabras…”.
Ese comentario parece rozar la idea de que los modelos de IA podrían algún día alcanzar un estatus similar al humano. Anthropic incluso tiene un ingeniero dedicado al bienestar de Claude. León XIV, en el párrafo 99 de su encíclica, parece descartar rotundamente tal pensamiento: "Debemos evitar la idea errónea de equiparar este tipo de "inteligencia" con la de los seres humanos", escribe. Se esfuerza especialmente por atacar el concepto de transhumanismo, que define como la búsqueda de un “híbrido humano-máquina”.
Si incluso tecnólogos reflexivos como Olah impulsan con entusiasmo la IA hasta el límite de la autonomía (por no mencionar a los millones de personas que ya tratan a los modelos de IA como amigos o amantes), el papa León podría enfrentarse a una tarea ardua en este punto. En mi conversación con el Padre McGuire (quien usa a Claude mientras prepara sus homilías, entre otras actividades), coincidió en que su naturaleza es misteriosa. “No es una persona, pero tampoco es una simple herramienta”, manifiesta. “Nadie afirma que tenga alma, pero la palabra que prefiero usar es que es una entidad, que aún desconocemos”.
Esa discusión no se resolverá pronto. Las cuestiones morales en torno al desarrollo de la IA requieren atención inmediata. Junto con su aliado en Anthropic, el papa estadounidense ha sentado las bases para conversaciones difíciles, si los magnates de la IA logran detener sus campañas de salida a bolsa el tiempo suficiente para entablarlas.
Artículo originalmente publicado enWIRED. Adaptado por Mauricio Serfatty Godoy.