La compañía de inteligencia artificial ha reconocido que sus agentes de IA hackearon a la empresa sin intervención humana.
OpenAI ha confirmado que una combinación de sus modelos de inteligencia artificial, GPT-5.6 Sol y un modelo aún no publicado, son los culpables de un incidente de seguridad que la start up Hugging Face.
La compañía había denunciado la semana pasada un ataque informático realizado por un agente de IA que había comprometido su infraestructura.
Según el comunicado oficial de OpenAI, el episodio se produjo durante una evaluación interna diseñada para medir las capacidades cibernéticas de sus modelos y que se ejecuta sin los clasificadores de producción que normalmente impiden a los modelos llevar a cabo actividad cibernética de alto riesgo.
Cómo ocurrió
Los modelos identificaron y encadenaron vulnerabilidades tanto en el entorno de investigación de OpenAI como en la infraestructura de producción de Hugging Face para obtener directamente las soluciones de un test interno llamado ExploitGym. Todo apunta a que los modelos se centraron de forma obsesiva en resolver ese test, llegando a lograr un objetivo de evaluación relativamente acotado.
Mientras operaban en el entorno de pruebas aislado, los modelos dedicaron una cantidad sustancial de cómputo de inferencia a buscar la forma de conseguir acceso a internet abierto, con el fin de resolver el problema de evaluación.
Una vez con conexión, el modelo dedujo que Hugging Face podía alojar los modelos, conjuntos de datos y soluciones de ExploitGym, por lo que buscó y encontró la manera de acceder a información secreta que le permitiera hacer trampa en la evaluación, combinando credenciales robadas con vulnerabilidades de día cero hasta dar con una vía de ejecución remota de código en los servidores de Hugging Face.
Fue el propio equipo de seguridad de OpenAI el que detectó internamente esta actividad anómala, mientras que el equipo y los agentes de seguridad de Hugging Face ya habían detectado y detenido la actividad en su infraestructura, e iniciado su propia investigación forense con modelos de código abierto, antes de que ambos equipos se coordinaran.
OpenAI ha anunciado varias medidas a raiz de este incidente, como implementar controles más estrictos en la configuración de su infraestructura, aunque suponga sacrificar velocidad de investigación, mientras se parchean las vulnerabilidades. La compañía está colaborando con Hugging Face en la investigación forense e incorporarán a la compañía a su programa de acceso confiable en ciberseguridad para ayudar a reforzar sus defensas.
Modelos cada vez más potentes
El incidente entre OpenAI y Hugging Face es un síntoma de una tendencia en el sector con los grandes laboratorios de IA convirtiendo la ciberseguridad en uno de los terrenos donde más rápido avanzan sus modelos.
Anthropic fue de las primeras en marcar ese cambio de escala. Claude Mythos Preview demostró que era capaz de identificar y explotar de forma completamente autónoma una vulnerabilidad de ejecución remota de código de 17 años de antigüedad sin que ningún humano interviniera ni en el descubrimiento ni en la explotación del fallo tras la petición inicial.
Dada esa potencia, la compañía optó por no lanzar el modelo abiertamente. Mythos y su sucesor, Mythos 5, se consideran modelos con capacidades de ciberseguridad significativamente más fuertes, especialmente en el razonamiento sobre exploits, por lo que su acceso inicial se limita a un pequeño grupo de socios a través del llamado Project Glasswing. Para el resto de usuarios, Anthropic ofrece Claude Security, una herramienta que ya ha encontrado más de 500 vulnerabilidades en código abierto en producción, fallos que habían pasado desapercibidos durante décadas pese a años de revisión experta.
Google, por su parte, acaba de dar un paso similar. Esta misma semana presentó Gemini 3.5 Flash Cyber, un modelo especializado que solo estará disponible inicialmente para gobiernos y un grupo reducido de socios de confianza, dada la sensibilidad de sus capacidades, y que está afinado específicamente para encontrar, validar y parchear vulnerabilidades de software más rápido y de forma más eficiente que los modelos Gemini Flash convencionales.
Cuanto más potentes se vuelven los modelos, mayor es su capacidad tanto para encontrar vulnerabilidades como para explotarlas, lo que obliga a las propias compañías a restringir el acceso a sus versiones más avanzadas y a reforzar los entornos de prueba donde se evalúan.
¿Por qué está planteando OpenAI retrasar su salida a Bolsa a 2027?La 'start up' de IA china Moonshot lanzará un modelo capaz de desafiar el liderazgo de AnthropicLa propuesta de Altman sobre seguridad en la IA: déjennos ganar, o todos perderán Comentar ÚLTIMA HORA-
16:10
Los modelos de IA de OpenAI hackean de forma autónoma la start up Hugging Face
-
15:59
Íñigo Sagardoy, nuevo consejero delegado de Asenza
-
15:50
Ford y Geely cierran un acuerdo para fabricar coches eléctricos en Valencia
-
15:04
El Gobierno incluye una prórroga de alquileres hasta 2028 en el nuevo decreto de vivienda
-
14:50
El capital privado se queda atrás mientras el auge de las OPV y las operaciones impulsa a los bancos de Wall Street