- ¿Qué está pasando con la IA? Guía para entender una semana de vértigo
- OpenAI descarta salir a Bolsa este año por los riesgos de la IA
- Trump: "El único control que necesita la IA es un presidente fuerte e inteligente"
Los líderes de OpenAI y Anthropic piden ralentizar el desarrollo de la IA avanzada por sus riesgos de seguridad, tras años de euforia inversora y con billones de dólares comprometidos.
"Necesitamos bajar el ritmo". El mensaje para ralentizar el desarrollo de la IA más avanzada que lanzó este fin de semana Dario Amodei, CEO de Anthropic, y que han respaldado Sam Altman (OpenAI), Elon Musk (SpaceX) y Demis Hassabis (Google) marca un punto de inflexión en la industria de la inteligencia artificial.
Tras cuatro años de carrera desenfrenada para lanzar modelos cada vez más potentes y captar miles de millones de los inversores para alimentarlos, las empresas que lideran el sector asumen públicamente que hay que poner límites a una tecnología que ellas mismas consideran cada vez más difícil de gobernar.
Las advertencias llegan tras unos años de euforia inversora alrededor de la IA, con el temor de burbuja siempre sobrevolando y cientos de miles de millones de dólares comprometidos en infraestructura. PwC estima que el gasto acumulado mundial en centros de datos podría alcanzar 31,6 billones de dólares hasta 2050 para sostener el desarrollo de la IA.
En este contexto, Anthropic y OpenAI aspiran a protagonizar algunas de las mayores ofertas públicas de venta de acciones de todos los tiempos, después de haber captado 242.600 millones de dólares en financiación.
El mercado ha reaccionado con cautela. SoftBank, accionista de OpenAI, cayó ayer más de un 10%. En Wall Street, los fabricantes de chips más expuestos al auge de la IA, como Nvidia, AMD o Marvell, registraron caídas, aunque las acciones de Microsoft, Meta o Google se anotaron avances.
El cambio de discurso surge después de episodios que han alimentado la preocupación dentro de los laboratorios, desde agentes de IA que se han saltado restricciones durante pruebas de seguridad hasta intentos frustrados de utilizar modelos avanzados en investigaciones relacionadas con armas biológicas. Para los investigadores más preocupados, estos eventos muestran que la IA avanza más rápido que los mecanismos para controlarla.
Los mensajes más catastrofistas han logrado un amplio eco. La semana pasada, el investigador Jacob Coxon dejó Anthropic y alertó de que esta carrera podía acabar con la humanidad antes de 2030. Evan Hubinger, responsable de alineamiento de la compañía, estima en más de un 10% el riesgo de extinción humana en la próxima década.
Riesgos
Más allá de los escenarios extremos, existe una preocupación mucho más inmediata para estas empresas. Un hipotético incidente grave provocado por sus modelos más avanzados podría traducirse en demandas, multas, restricciones regulatorias o retrasos en el lanzamiento de productos. Se trata de un escenario de riesgo que no pueden pasar por alto estos laboratorios, que ya valen en torno al billón de dólares, si quieren salir a Bolsa.
Sam Altman ha vinculado el retraso de la salida a Bolsa de OpenAI a 2027 -que ya se había planteado este verano- al debate sobre la seguridad. El ejecutivo ha dicho que no es el momento adecuado para llevar la compañía al mercado mientras persisten las dudas sobre la seguridad de los sistemas más avanzados. "No creo que hayan caído en la cuenta ahora de que es mejor no empezar a cotizar por riesgos para la humanidad, cuando llevan un lustro trabajando en ello", señala Enrique Puertas, profesor de IA y Big Data de la Universidad Europea.
Sin embargo, Anthropic mantiene sin cambios sus planes para su OPV, en la que sus inversores buscan una valoración de hasta 2 billones de dólares. Según Financial Times, la compañía espera encadenar este trimestre su segundo periodo consecutivo con beneficio operativo ajustado y ha comunicado a sus accionistas que sus márgenes superan el 80% antes de determinados costes.
Los escépticos sostienen que el debate alrededor de ralentizar el desarrollo de la IA también tiene lecturas empresariales. En este sentido, consideran que hablar de seguridad puede ser la excusa para que estas empresas justifiquen una desaceleración de sus desarrollos ante las gigantescas inversiones que requiere el entrenamiento de modelos cada vez más avanzados.
Otra crítica procede de los defensores del código abierto, que temen que los laboratorios empujen una regulación diseñada para dificultar el desarrollo de alternativas abiertas. "Están utilizando el miedo para que se regule la IA, lo que fomentará el uso de sus modelos cerrados frente a alternativas chinas. Sería un movimiento empresarial y geopolítico", opina Puertas.
Los líderes de la IA hacen un llamamiento para frenar su desarrollo
El CEO de Anthropic, Dario Amodei, publicó el pasado sábado un ensayo en su página web pidiendo al sector echar el freno en el desarrollo de modelos de IA para que la seguridad pueda seguir el ritmo. Amodei asegura que el punto de inflexión se produjo este verano, cuando han detectado que la IA avanza mucho más rápido, porque la propia tecnología cada vez es más capaz de construir a la siguiente generación de IA. El directivo asegura que, en menos de un año, un enjambre de agentes podría tomar el control de Internet causando cientos de miles de millones de dólares en daños.
Para frenar, Amodei propone dar a evaluadores externos acceso a sus modelos, como si fueran empleados, para detectar problemas. También propone una coordinación global, incluyendo a China, para regular la IA de forma armónica.
Sam Altman, CEO de OpenAI, en un inusual acto de unión con su principal competidor, respondió en redes sociales a Amodei compartiendo la idea de usar evaluadores externos en sus modelos. Además, unas horas más tarde, aseguró que los temores por la seguridad de la IA habían llevado a OpenAI a tomar la decisión de no salir a Bolsa de momento.
Para Altman, los problemas si no se controla la IA serán sobre todo dos. Por un lado, perder el control de la tecnología, ante lo que el directivo insiste en la necesidad de asegurar que las técnicas de alineación y seguridad se mantengan por delante del progreso de los modelos.
El segundo riesgo sería terminar en un mundo con demasiada concentración de poder, ya sea por parte de un país como por parte de un laboratorio de inteligencia artificial.
¿Qué está pasando con la IA? Guía para entender una semana de vértigoOpenAI descarta salir a Bolsa este año por los riesgos de la IALos laboratorios de IA ponen a prueba el rigor de las agencias de calificación Comentar ÚLTIMA HORA-
01:37
El crudo sube un 20% en septiembre por la amenaza hutí al suministro saudí
-
01:29
Altman, Amodei, Musk y el dilema del prisionero de la IA
-
01:21
Repsol se frena en máximos, pero apunta a alzas del 30%
-
01:08
ACS, Ferrovial, Acciona y Merlin piden cambiar la ley de 'data center'
-
01:00
Luis Hormeño se une a Plana Ventura Garcés