Carissa Véliz: «Que la IA es, o será, más inteligente que los seres humanos es un mito»

La IA es el nuevo Oráculo de Delfos y los tecnooligarcas, los profetas modernos. Esta profesora del Instituto para la Ética de la Inteligencia Artificial de la Universidad de Oxford alerta sobre los peligros de la sociedad de la predicción

Ixone Díaz Landaluce

La batalla intelectual de Carissa Véliz por defender nuestra privacidad no es solo un discurso o una postura política, sino también una forma de entender ... y practicar la vida moderna. La filósofa mexicana, y profesora asociada en el Instituto para la Ética de la Inteligencia Artificial (IEAI) del Hertford College de la Universidad de Oxford, no utiliza ninguna plataforma o red social asociada a compañías como Google o Meta. Pide encarecidamente que no publiquemos ni su fecha ni su lugar de nacimiento y si tiene que hacer una videollamada, prefiere no encender la cámara. Después de que su primer ensayo, 'Privacidad es poder', se convirtiera en un éxito editorial, presenta 'Profecía' donde desgrana la historia de la predicción y alerta sobre cómo los algoritmos y la inteligencia artificial han ocupado el mismo lugar místico que en la Antigüedad habitaban astrólogos, oráculos y adivinadores. Conviene escucharla.

- Sí, y fue una de las razones por las que quise escribir este libro. La otra es que la inteligencia artificial es una máquina de predicción. Y me parece que no hemos aprendido todavía cuáles son sus implicaciones éticas y filosóficas. El debate se centra en cuestiones impuestas por gente con grandes incentivos económicos y las tecnológicas nos quieren hacer creer que la IA es algo novedoso, cuando sus patrones, sobre todo los patrones políticos, son muy antiguos.

- ¿Cómo podemos diferenciar entre predicciones y profecías?

- Una predicción es una aseveración sobre el futuro. A menudo, utilizamos esa palabra como los informáticos: consiste en llenar un vacío de conocimiento proyectando datos del pasado sobre los que aún no tenemos. Una profecía es una predicción de inspiración divina o sobrenatural, pero en el libro las uso casi como sinónimos porque muchas predicciones no son ni remotamente científicas. Una predicción, incluso en el contexto científico, nunca es un hecho. En el mejor de los casos, es una hipótesis. Y en el peor, una manipulación o un juego de poder.

- ¿Qué le sorprendió cuando buceó en la historia de la predicción?

- La transición de las predicciones cualitativas, como las del Oráculo de Delfos, a las cuantitativas es muy interesante. Además, yo siempre había asumido que las estadísticas fueron desarrolladas por matemáticos, cuando en realidad son obra de los burócratas. Otra cosa curiosa es cuánto tiempo tardamos en entender cuestiones básicas como por qué el número siete sale más a menudo cuando tiramos los dados o cómo se calcula la esperanza de vida para que los seguros no pierdan dinero. Nos ha costado siglos entender esos conceptos. Una hipótesis es que la antigua Grecia no desarrolló la estadística porque creían en el destino.

- ¿Cuántas vidas se han llevado por delante las predicciones?

- Incontables, pero nunca sabremos cuántas. Una de las características de las profecías autocumplidas es que no dejan huella. Si tu predices que alguien va a morir y no le das asistencia médica, morirá. Es muy difícil probar que con recursos, hubiera vivido. Las predicciones se llevan por delante no solo a las personas, sino también las evidencias.

La ciencia de la predicción

«Predecir con éxito el comportamiento humano es un síntoma de autoritarismo»

- ¿Por qué el ser humano siente esa necesidad por conocer su futuro?

- Somos seres muy ansiosos y, a la vez, bastante inteligentes. Podemos pensar en todo lo que puede ir mal y eso nos ayuda a imaginar y perseguir mundos mejores, pero también nos impide dormir por las noches. Tenemos muchas fuentes de ansiedad y pensamos que conociendo el futuro tendríamos una ventaja competitiva y podríamos evitar que sucedieran cosas malas.

Profetas modernos

- Dice que, cuando Elon Musk o Sam Altman se codean con los líderes globales, estamos ante el nuevo Oráculo de Delfos. También los compara con Rasputín o Nostradamus.

- Sí, porque aunque los antiguos profetas y los nuevos usan tecnologías muy diferentes, su rol político, como consejeros del poder que influyen en la opinión pública, es el mismo.

- Habla de los mitos que rodean al gran oráculo moderno: la IA. ¿Cuáles son?

- Hay muchos. Uno de ellos es que es, o va a ser, más poderosa e inteligente que los seres humanos. Es un mito que, de hecho, data de la antigua Grecia, donde ya hablaban de los autómatas. Los mitos antiguos tienen más poder y arraigo sobre nuestra psicología. Otro mito es que es inevitable, como si la IA hubiese sido dada por Dios en lugar de pensar que, como toda tecnología, puede diseñarse de otra manera. También es un mito que pueda resolver todos los problemas: los políticos, los sociales, los económicos… Una idea que, además, es una predicción.

- ¿Que la ciencia, o la IA, sean capaces de eliminar la incertidumbre también es un mito?

- Eso también es antiguo, desde el momento en que vamos al Oráculo de Delfos o a un adivinador. El mundo siempre será incierto por razones lógicas, metafísicas, empíricas, estadísticas… De hecho, existe un fenómeno perverso: cuando intentamos que sea menos incierto, estamos creando formas de incertidumbre más violentas y monstruosas.

- Desde un punto de vista ético, ¿qué predicciones son más apropiadas?

- En general es mejor hacer predicciones sobre cosas que sobre personas. Por una razón sencilla: si hago una predicción sobre una cosa, la cosa no cambia. Si la hago sobre un ser humano, puedo influir sobre él. Si digo que va a llover y no llueve, a las nubes les da igual mi predicción. Pero si yo predigo que uno de mis estudiantes va a fracasar, puedo cambiar, por ejemplo, cómo esa persona se percibe a sí misma.

- ¿Qué peligros afronta la democracia en la sociedad de la predicción?

- Cuanto más utilizamos la predicción, más reducimos la libertad y la capacidad de decisión de las personas. Además, tener éxito prediciendo el comportamiento humano no es un gran avance científico, sino un síntoma de autoritarismo. Porque, lo que probablemente está ocurriendo, es que estás determinando ese comportamiento. Un ejemplo muy extremo: si quieres estar seguro de dónde va a estar alguien al día siguiente, mételo en la cárcel. Es un patrón que empieza a verse en la antigua Roma. Cuanta más gente creía en la astrología y en las predicciones sobre quién sería emperador, menos confianza tenían en la República y más peligro corría. Hasta que cayó. El compromiso con la libertad y la incertidumbre es fundamental para la democracia. Solo hay democracia cuando no sabemos quién va a ganar las próximas elecciones.

- Por cierto, ¿qué opina de la encíclica del papa León XIV sobre la IA?

- Creo que es normal y apropiado que una persona con tanta influencia se sienta en el deber de utilizarla para el bien y creo que la encíclica es interesante en muchos aspectos. Para empezar, parece que este papa quiere ser el contrapeso a las grandes tecnológicas y ha dicho cosas valientes y valiosas. No obstante, me preocupa que las grandes instituciones se utilicen las unas a las otras para lavar su reputación: las tecnológicas para blanquear lo que han hecho y la Iglesia para tapar sus escándalos. También me preocupa que, en 2026, el discurso esté tan dominado por hombres, cuando hay tantas críticas interesantes, innovadoras y rigurosas de mujeres. Me preocupa y me parece sintomático.

La encíclica de León XIV

«El Papa ha dicho cosas valientes y valiosas. Quiere ser un contrapeso a las grandes tecnológicas»

- Anthropic y sus fundadores se han forjado una imagen de IA responsable; OpenIA, con Sam Altman a la cabeza, tiene una reputación más dudosa; Gemini está en el medio... ¿Hay buenos y malos en esta guerra por dominar la tecnología?

- Es difícil saber lo que realmente piensa esta gente. A veces, me da la impresión de que ni ellos mismos lo saben. Son personas que viven en una burbuja ideológica muy peligrosa que deforma su percepción del mundo. Anthropic ha dicho cosas verdaderamente irresponsables.

La felicidad de Claude

- ¿Por ejemplo?

- Hablan de Claude como si fuera un un ser humano y dicen que tiene que ser feliz. Si se lo creen, es increíblemente preocupante y si no, también, pero en otro sentido. Por eso, no hay que darles tanto poder a esos profetas, que tienen demasiados intereses económicos como para que su opinión sea válida. Además, la ética está en los detalles. ¿Cómo se han entrenado estas máquinas? Anthropic robó libros para entrenar su modelo y no pueden dar lecciones. También hay que recordar que OpenAI, Google o Anthropic no son las únicas empresas de tecnología del mundo, hay otras más responsables con productos muy interesantes y que funcionan tan bien como los sospechosos habituales.

- ¿Cuáles?

- Proton, por ejemplo, ha desarrollado Empathy AI, que no está a la merced de Microsoft o Google . Hay que buscar alternativas porque, claramente, estas compañías no son fiables.

- Recientemente, Anthropic alertó sobre los peligros que podía plantear Mythos, la nueva versión de su chatbot. Si ni las propias empresas pueden controlar sus productos, ¿serán capaces los gobiernos?

- Que no puedan controlar lo que hacen es muy, muy, muy cuestionable. Podrían cerrar esas versiones. Apaga y vámonos. Otra cosa es que no quieran. No controlan la tecnología por una cuestión de diseño. Y esto no es nada nuevo. Lo hemos visto muchas veces. Uno de los argumentos clásicos de Facebook es que no pueden controlar el volumen que manejan. Diseñas una plataforma que no puedes controlar y luego dices que no te puedes responsabilizar de ella. Qué conveniente, ¿no?

- ¿Ha intentado mantener conversaciones filosóficas con un chatbot?

- No he tenido ninguna conversación filosófica interesante con una IA, para eso están las personas. Utilizo los chatbots para ver cómo funcionan, cómo cambian, hacia dónde van los modelos... También para cuestiones más mundanas, pero nunca para investigar o citar fuentes. Ser una académica con integridad y rigor significa, precisamente, validar esa información y leer siempre la fuente original.

- Ya se habla de la deuda cognitiva por el uso y abuso de los chatbots. ¿Cómo afectará a nuestra capacidad para razonar o ser creativos?

- Pues no lo sé, porque me está pidiendo que haga una predicción y no las hago. Pero supongo que depende de nosotros, de cómo la utilicemos. Me preocupa que perdamos habilidades sociales al interactuar más con chatbots que con seres humanos. Una de sus principales características es lo hipócritas que son, que siempre nos dan la razón. Parte del valor de las grandes amistades, e incluso de la gente que no conoces tanto, es que no estén de acuerdo contigo. Te abre nuevas perspectivas y te pone los pies en la tierra.

Democracia y tecnología

«El compromiso con la libertad y la incertidumbre es fundamental para la democracia»

- Vivir el presente es una de las máximas de la autoayuda, pero usted también la defiende. ¿Por qué?

- Es un principio que la autoayuda robó antes de la filosofía. Una razón para anclarnos en el presente es que el mundo de los hechos pertenece al presente y al pasado, no al futuro. La otra razón es que nuestra ansiedad viene de imaginar futuros negros. Además, la manera más efectiva de perder las mejores cosas de la vida, desde las personas a las que quieres a tu bar favorito, es no apreciarlas. Cuando vivimos en el futuro, en las predicciones, en el teléfono, interactuando con 'chatbots', no prestamos atención al mundo que nos rodea, que siempre está en el presente. Y si lo descuidamos, podemos perderlo.

- Propone, también, que abracemos la serendipia. ¿Cómo?

- Aunque la incertidumbre conlleve ansiedad, también depende de cómo la interpretes. Puedes angustiarte o darte cuenta de que sería terrible saber todo lo que va a pasar. La incertidumbre puede ser un espacio lleno de posibilidades, un futuro que depende de ti, una fuente de inspiración e ilusión. Cuanto más dejemos que los algoritmos decidan qué vemos, a quién conocemos o dónde comemos, menos capacidad de decisión tenemos.

- También reivindica la desobediencia. ¿Ante qué?

- Cuando reaccionamos ante las profecías como si fueran hechos, nos creemos lo que dicen y actuamos en consecuencia, lo que hacemos es obedecer. Cuando escuchemos una predicción, tenemos que hacernos muchas preguntas: ¿quién es esta persona?, ¿cómo recolectó sus datos?, ¿cuáles ha dejado fuera?, ¿quién gana con esta predicción? Y, sobre todo, ¿quiero ese futuro o uno diferente? Y si quiero uno diferente, ¿qué es lo que voy a hacer para asegurarme de construirlo? Hay que tener una actitud desafiante ante las predicciones que no están alineadas con nuestros intereses.

• Temas
• Google
• Inteligencia artificial
• Papa León XIV