La creciente potencia de la IA alimenta el debate en dentro de los propios laboratorios sobre los peligros de esta tecnología.
"Hay más de un 10% de probabilidades de que la inteligencia artificial acabe con toda la humanidad en la próxima década". La cita apocalíptica no procede de un académico ni un activista ajeno a Silicon Valley. La firma Evan Hubinger, investigador de Anthropic, una de las compañías que lidera la carrera de la inteligencia artificial. Hubinger es una autoridad en este ámbito puesto que es el máximo responsable de alineación en Anthropic, el equipo encargado de trabajar en modelos seguros y fiables.
El comentario de Hubinger en la red social X llega horas después de que otro investigador de la misma empresa, Jacob Coxon, anunciara su salida de la industria ante su convencimiento de que los grandes laboratorios están inmersos en una carrera hacia sistemas cada vez más poderosos sin haber resuelto todavía cómo mantenerlos bajo control. Coxon, que anteriormente trabajó en OpenAI, cree que ninguna de las dos empresas están actuando de manera responsable.
Extinción de la humanidad
Hubinger da la razón a su colega. "Sinceramente creemos que la IA podría matar a todos los humanos", dice. El investigador señala que Anthropic está trabajando "lo mejor que puede", pero reconoce que aún no tienen "un plan para resolver el alineamiento para la superinteligencia" y, lo que es más preocupante, "no estamos claramente en el camino para lograrlo", dice.
El investigador sostiene que el peligro de los modelos actuales es bajo, y comparte que su verdadera preocupación reside en la llegada de una superinteligencia mediante la mejora recursiva del propio sistema, -cuando la IA se mejora a sí misma para crear un modelo superior-; un proceso que, según advierte, avanza con mayor rapidez de la prevista.
El hecho de que algunos de los investigadores que construyen la IA admitan en público que no saben con certeza como controlarla mientras siguen acelerando en la carrera hacia la superinteligencia es cada vez menos inusual. En febrero, Mrinank Sharma, responsable del equipo de investigación de seguridad de Anthropic, dejó la compañía tras advertir que "el mundo está en peligro".
Samuel Marks, otro investigador de Anthropic, reconoce en X que muchos desarrolladores de IA están preocupados porque creen que la tecnología que están desarrollando "podría causar la extinción de la humanidad"; aún así, siguen adelante por una combinación de incentivos comerciales y competencia. En su opinión, consideran que se enfrentan a rivales menos responsables "que abusarán de la tecnología o la desarrollarán de manera menos segura". Coxon coincide en que los investigadores están atrapados en una carrera por ser los primeros y creen que nadie más actuará de manera responsable, por lo que siguen adelante a pesar del riesgo.
Marks también apunta en la misma dirección que su colega Hubinger: aunque existen técnicas que pueden empujar a la IA hacia un mejor comportamiento, "nada puede alinearlas de manera robusta". La solución propuesta es que las propias IA ayuden a controlar a sus sucesoras aún más avanzadas mejor de lo que los humanos podemos hacer ahora mismo.
Frenar el desarrollo
Esta preocupación llevó a finales de julio a un grupo de más de 1.300 empleados de compañías como OpenAI, Anthropic, Meta o Google a firmar una declaración en la que reclamaban mecanismos internacionales para frenar el desarrollo de la IA en caso de que los sistemas comiencen a mostrar capacidades difíciles de controlar. Entre las medidas planteadas figuran pausas temporales en la mejora de los modelos y acuerdos entre laboratorios para ralentizar la carrera. Los firmantes asumen que ninguna empresa ni ningún país tiene incentivos para usar un freno de emergencia por su cuenta, por lo que es necesario activar mecanismos de coordinación internacional.
La comunidad académica alerta desde hace años sobre las consecuencias catastróficas de la carrera hacia una inteligencia artificial general. Ya en 2023 se publicó un manifiesto que pedía una moratoria y alertaba que la carrera sin control de la inteligencia artificial era "una amenaza para la humanidad". Los expertos ven plausibles consecuencias tan extremas como la pérdida de control de la humanidad sobre su propio destino o, en el peor de los casos, su extinción. "Algunos consideran que es inverosímil, otros que es probable y otros lo ven como un riesgo de baja probabilidad, pero que merece atención debido a su alta gravedad", decía ya en 2025 el estudio International AI Safety Report.
¿Cuánto tiene que costar un robot para sustituir a un trabajador?Google Pixel 11: nuevas funciones de IA y una luz trasera para GeminiNvidia compra Hugging Face por 13.000 millones de dólares Comentar ÚLTIMA HORA-
14:17
Harvey levanta 472 millones de euros en una ronda de financiación
-
13:44
El gobierno de Trump dice que Ford "deja de ser fiable" por alianzas como la de Geely en Almussafes
-
13:41
El Gobierno vasco prevé iniciar las obras de la línea 4 de Metro Bilbao a finales de 2027
-
13:25
La UE creará una macroplataforma para centralizar toda la contratación pública europea
-
13:14
Yolanda Díaz vuelve a la carga para encarecer el despido: "Cuesta de media 8.000 euros, es baratísimo"