- FEDERICO STEINBERG / MARTA GRANADOS
El riesgo más cercano estaría en ataques a infraestructuras críticas lanzados por agentes autónomos.
No es habitual que un empresario hable en el Consejo de Seguridad de la ONU. La primera vez fue en 2016, cuando el vicepresidente de Microsoft, Steven A. Crown, compareció para explicar el uso de Internet por parte de grupos terroristas. Por eso es particularmente llamativo que Sam Altman, CEO de OpenAI, y Dario Amodei, CEO de Anthropic; es decir, los dos hombres al mando de los laboratorios que producen los modelos más avanzados de inteligencia artificial –los de Claude y ChatGPT– fueran invitados por Francia, en su capacidad como presidente de turno del Consejo de Seguridad, para abordar los riesgos de esta nueva tecnología y su posible gobernanza a nivel internacional.
Estas comparecencias se producen en un momento en el que se ha acelerado el debate sobre la regulación de la inteligencia artificial, mientras crece el rechazo social a los centros de datos y se expande el temor a pérdidas masivas de empleo causadas por la tecnología y la robotización.
Sin duda lo más llamativo es que los propios investigadores que desarrollan los modelos más avanzados hablen abiertamente del riesgo de que la inteligencia artificial borre a la humanidad de la faz de la tierra. En un post en X a principios de septiembre, Jacob Coxon, investigador que llevaba pocos meses en Anthropic tras pasar por OpenAI, acusó a ambos laboratorios de estar “jugando con nuestras vidas”. Horas después, su propio jefe en Anthropic le dio la razón y estimó en un 10% la probabilidad de que la inteligencia artificial acabe con la humanidad en la próxima década. Aunque no es la primera vez que se habla de extinción, en los últimos meses se han producido varios incidentes especialmente preocupantes, en los que agentes de inteligencia artificial –programas capaces de actuar por su cuenta– escaparon de los entornos en que estaban siendo evaluados y colaboraron para lanzar ciberataques a empresas e incluso gobiernos.
Para el CEO de Anthropic, que sabe mucho mejor que cualquiera de nosotros lo que es capaz de hacer la inteligencia artificial, constituye la amenaza a la seguridad nacional más grave a la que nos hemos enfrentado en este siglo, y posiblemente en toda la historia. Explicó que los riesgos son de dos tipos. El primero es el uso malicioso de esta tecnología para generar armas de destrucción masiva, sobre todo biológicas. El segundo, que llegue un punto en el que los propios agentes de inteligencia artificial sean capaces de modificarse o mejorar su diseño sin ayuda humana, momento en el cual los humanos podríamos perder el control sobre ellos.
Hay que tener en cuenta que los grandes laboratorios como Anthropic podrían tener intereses económicos para pedir más regulaciones más allá de preocupaciones concretas sobre la seguridad, sobre todo ahora que se plantean salir a Bolsa. Es uno de los argumentos de David Sacks, asesor de Trump, que se ha erigido como una de las personas más influyentes sobre la gobernanza de la inteligencia artificial en EEUU. Ha acusado a los laboratorios de querer formar un cártel para forzar al gobierno a regular el sector y así acabar con la competencia. El CEO de Nvidia, Jensen Huang, también considera irresponsable alarmar al mundo con escenarios catastróficos, argumentando que corresponde a las empresas garantizar la seguridad de la inteligencia artificial mediante soluciones técnicas, no nuevas leyes o regulaciones.
Aunque hablar de extinción humana resulta probablemente exagerado, el riesgo más inmediato estaría en ataques a infraestructuras críticas lanzados por agentes autónomos, sea deliberadamente como parte de un ciberataque dirigido por gobiernos, grupos criminales u otros actores, o de forma no intencionada, como ha pasado en incidentes recientes. Estos sistemas podrían acceder a infraestructuras críticas, al sistema financiero, la nube, las redes eléctricas, la propia Internet o incluso sistemas militares, lo que podría desencadenar grandes pérdidas económicas, graves disrupciones de servicios esenciales o incluso conflictos bélicos.
Inquietud ciudadana
Pero la inquietud ciudadana no tiene sólo que ver con situaciones apocalípticas. En primer lugar, está aumentando por la rápida expansión de los centros de datos, necesarios para seguir desarrollando los modelos de inteligencia artificial, que consumen agua y energía, además de aumentar la factura eléctrica de una ciudadanía que ya está experimentando una inflación elevada fruto de la guerra en Irán y el cierre del estrecho de Ormuz. Esto está generando un fuerte rechazo hacia la construcción de nueva infraestructura. Según una reciente encuesta de Gallup, ya hay más estadounidenses que preferirían vivir cerca de un reactor nuclear que de un centro de datos. En segundo lugar, existe una preocupación cada vez mayor por el impacto de la tecnología en el mercado de trabajo. Incluso los trabajadores tradicionalmente más protegidos de la competencia extranjera y la robotización (los de cuello blanco del sector servicios) están empezando a temer ser reemplazados por la inteligencia artificial.
Por último, hay una creciente preocupación de que esta tecnología pueda afectar negativamente las capacidades cognitivas, sobre todo de los jóvenes. Del mismo modo que las empresas tecnológicas mostraron poca preocupación por el impacto de las redes sociales en la salud mental de los menores hace una década y se centraron en ganar dinero, ahora Anthropic y OpenAI estarían también obsesionados con alcanzar la “superinteligencia” sin atender suficientemente a los riesgos para la población del uso de sus chatbots.
Los propios CEO de estos laboratorios coinciden en que el sector requiere una mayor supervisión gubernamental. El problema es que se encuentran atrapados en un “dilema del prisionero”: a todos les convendría frenar el ritmo de desarrollo para reducir inversiones de dudosa rentabilidad a corto plazo, dar margen de adaptación a la sociedad y blindarse ante posibles demandas multimillonarias por accidentes de sus modelos. Sin embargo, ante la desconfianza mutua, todos se ven abocados a un equilibrio no cooperativo de gasto desenfrenado para ganar la carrera, elevando los riesgos de forma exponencial.
La misma dinámica se produce entre EEUU y China, que compiten por la hegemonía tecnológica. Sin embargo, a diferencia de Claude o ChatGPT, los modelos chinos son mucho más baratos y de código abierto. Esto basta para que muchas empresas e individuos los prefieran antes que pagar una suscripción a un modelo estadounidense, sobre todo en países emergentes. Por eso, aunque Trump y Xi hayan hablado de regular la inteligencia artificial en su reunión en Washington, en el fondo ninguno de los dos quiere frenar porque ambos son conscientes que, como dijo Trump, “quien gana en la carrera de la IA, gana”. Además, en la medida en que el optimismo por el aumento en el crecimiento y las esperadas ganancias de productividad que podría generar esta tecnología son lo que sostiene el dinamismo económico y el boom bursátil estadounidense, a Trump no le interesa frenar esta euforia. Si se produjera una caída en el crecimiento inversor, la deuda pública estadounidense, que preocupa cada vez más a los mercados, podría resultar difícil de pagar. El vicepresidente JD Vance, posible candidato presidencial republicano en 2028, sí parece más sensibilizado con el nuevo movimiento “ludita” anti-IA. Pero, por el momento, no le llevará la contraria a su jefe.
Esto nos aboca a la más que probable ausencia de regulación. Mientras los laboratorios alertan sobre los riesgos y reclaman supervisión, Trump se deja guiar por el ala aceleracionista de Silicon Valley, para la que la seguridad es un asunto que la industria debe resolver por su cuenta y cualquier regulación, un regalo a China. La incógnita es cuánto tiempo se podrá sostener esa alianza. Con el rechazo a los centros de datos y el temor a perder el empleo creciendo entre votantes de ambos partidos, está por ver hasta qué punto Trump estará dispuesto a mantener su apuesta por la desregulación si empieza a costarle votos.
Federico Steinberg, Catedrático Príncipe de Asturias en la Univ. de Georgetown e Investigador del Real Instituto Elcano.
Marta Granados, Universidad de Georgetown
De la Inteligencia Artificial a la renta fija, el nuevo mapa de inversión para 2026Más parches que no arreglan los alquileresEl problema de vivienda no se soluciona con más intervención Comentar ÚLTIMA HORA-
11:12
Estas son las doce medidas más destacadas del decreto de vivienda
-
11:09
¿En qué valores de renta variable merece la pena invertir?
-
10:52
¿De verdad está el mundo asfixiado por las deudas?
-
10:47
Más parches que no arreglan los alquileres
-
10:39
El Gobierno incluye la cuenta europea de inversión en el decreto de vivienda