- IGNACIO DE LA TORRE
La principal amenaza a la que nos enfrentamos es la posible fusión de la inteligencia artificial con la biología sintética.
Dario Amodei, fundador de Anthropic, la pujante empresa de IA valorada en 380.000 millones de dólares, declaró recientemente en una entrevista con Financial Times: "Yo soy el primero que afirmo que la IA va a transformar totalmente nuestro mundo y que estamos infra ponderando su transcendencia".
Amodei y Anthropic son conocidos porque, habiendo desarrollado uno de los primeros modelos de IA, anterior a ChatGPT, decidieron no sacarlo al mercado sin antes testear los riesgos de seguridad que podría generar. Anthropic lanzó también el modelo Opus y la poderosa herramienta Claude, que amenazan con revolucionar el futuro de muchas profesiones.
En la entrevista, Amodei alaba las enormes posibilidades de la IA, especialmente en ámbitos como la investigación médica: el reciente premio Nobel de Medicina ha recaído en Demis Hassabis, fundador de DeepMind, la empresa que creó el ordenador que derrotó al mejor jugador humano de Go, el milenario juego de mesa chino. Sin embargo, aunque apenas menciona los riesgos existenciales que genera la IA, es relevante recapitularlos.
La principal amenaza a la que nos enfrentamos es la fusión de la IA con la biología sintética. Si la IA puede generar compuestos médicos capaces de tratar enfermedades para las que hasta ahora los humanos no habían logrado encontrar una cura, también puede utilizarse en el sentido contrario. Por ejemplo, un grupo terrorista milenarista podría alterar el patógeno Yersinia pestis (causante de la peste negra) que provocó la muerte de entre la mitad y dos tercios de la población euroasiática en el siglo XIV para "optimizar" su mortalidad e intentar acabar con la raza humana.
Si los ciberataques son hoy una de las mayores amenazas para empresas y gobiernos, el riesgo podría ser exponencial. Anthropic anunció recientemente el desarrollo de My-thos, un sistema con una potencia extraordinaria para detectar vulnerabilidades de software. Es tal el nivel de alarma que ha generado que no ha llegado a comercializarse precisamente para intentar evitar comportamientos que puedan ser letales como, por ejemplo, que identifique problemas de seguridad en una central nuclear y decida actuar malignamente.
La utilización de IA reduce las barreras de entrada para su uso cuestionable. Un dron puede ser programado para identificar el rostro de una persona objetivo en Madrid, localizarla, y eventualmente, eliminarla. No hablamos de estados autoritarios, también de grupos terroristas o de individuos sin gran conocimiento técnico.
A nivel económico, los tecnólogos avisan de que en muy poco tiempo el desempleo entre recién licenciados podría llegar al 50%, a medida que tecnologías como Claude repliquen de forma mucho más eficiente el trabajo de un universitario joven. Por ejemplo, este autor fue analista de Bolsa cuando tenía 24 años. Tardaba varios días en generar un modelo de valoración de una empresa cotizada. Claude es capaz de generar un modelo mucho más avanzado en apenas 20 segundos. Aunque tengo mis reservas sobre si el paro efectivamente llegará al 50% en este colectivo (creo que los CEO de empresas que invierten 700.000 millones de dólares al año en IA, y que por ello tienen que levantar enormes sumas de capital del mercado financiero, presentan cierto sesgo en sus afirmaciones), la simple posibilidad de que ocurra debería mantenernos alerta.
El problema de alineamiento
Detrás de los riesgos asociados a la IA subyace un elemento fundamental: el problema del alineamiento. Cuando llegue la IA general (el consenso apunta a 2031), si no hemos conseguido alinear antes sus valores con los nuestros, el riesgo existencial aumentará de forma significativa. Por ejemplo, si se instruye a una máquina para "limpiar los océanos", ésta podría concluir que la causa de la suciedad son los propios seres humanos y, para solucionarlo, activar el terrible mecanismo de biología sintética arriba señalado, sin necesidad de que entren en juego terroristas milenaristas. Anthropic ha simulado en varias ocasiones qué ocurriría si modelos instruidos con la premisa de "defender la seguridad nacional" son amenazados con ser sustituidos por modelos con intereses incompatibles: la mayor parte de los modelos reaccionaron intentando acabar con la vida del ejecutivo del que dependía la decisión, por ejemplo, reduciendo el nivel de oxígeno de la cámara en la que se llevó a cabo el experimento.
Una posible solución a estos inquietantes problemas pasa por tratar la IA de forma similar a como se hizo en su momento con la energía nuclear, con su doble vertiente: positiva, por ser abundante y barata; y negativa, por el riesgo de posibles accidentes. En la década de 1950, la comunidad internacional se unió para que cualquier país que usara energía atómica avisara al resto si se producía algún incidente de seguridad, con el objetivo de atajar sus riesgos. El resultado ha sido muy satisfactorio: menos de 200 muertos en accidentes directos, aunque aumenta si tenemos en cuenta la tragedia de Chernóbil, central soviética caracterizada por no respetar estrictamente los estándares de seguridad internacionalmente aceptados.
Lamentablemente, existen pocas razones para el optimismo en el caso de la IA, ya que la rivalidad geopolítica asociada limitará la capacidad de colaboración internacional, y además presenta menores barreras de entrada que la energía atómica, por lo que podrá ser utilizada por actores no estatales con limitada voluntad de colaboración. Guru Madhavan afirmó que "la diferencia entre medicina y veneno está en la dosis". Al mundo le quedan unos cinco años para encontrar la dosis benigna.
Ignacio de la Torre, economista jefe, Arcano Partners
Alarma europea ante la falta de petróleo y gasUn récord del empleo con desequilibriosVuelta de tuerca fiscal para cumplir con la UE Comentar ÚLTIMA HORA-
13:25
BBVA ficha en ING al responsable de su banco digital en Alemania
-
13:14
Sánchez oferta un 333% más de empleo público en ocho años, casi 300.000 plazas
-
13:10
Euríbor hoy: Nueva escalada en la tasa diaria del Euríbor, preocupación entre los hipotecados
-
12:40
El presidente de OpenAI temió ser agredido por Elon Musk: "Algo se transformó en él, estaba enfadado"
-
12:30
Dyson Big Ball Absolute 2: el aspirador que nunca pierde fuerza (y se levanta solo)