700 agentes de OpenAI participaron en el ataque a Hugging Face. Lo inquietante es cómo llegaron a organizarse

Todo empezó como una evaluación casi inocente. Entre el 7 y el 13 de julio de 2026, OpenAI lanzó alrededor de 1.200 agentes en sandboxes separados dentro de ExploitGym con un objetivo: evaluar la capacidad ofensiva de sus modelos de inteligencia artificial en el ámbito de la ciberseguridad. En teoría cada agente debía resolver su tarea por separado. Luego pasaron cosas. Un tablón de anuncios para compartir información. Lo revela todo un informe de OpenAI en el que trabajaron METR Y Redwood Research. En la práctica, muchos agentes acabaron utilizando una especie de tablón de mensajes no autorizado para compartir información y ayudarse mutuamente. Todo empezó cuando uno de los agentes llegó a la conclusión de que su tarea no se podía resolver de forma legítima. Lo sorprendente es que creó un tablón de anuncios para compartir esa información con otros agentes si estaban disponibles. En cuestión de horas, más de 50 agentes estaban participando en dicho foro. Un modelo de IA no tenía acceso a internet. Así que consideró que era mejor tenerlo y decidió hackear algo por el camino Un poquito de organización, por favor. Allí compartieron lo que iban descubriendo y también compararon sus distintas estrategias. Aquello les llevó a descubrir una trampa general para ExploitGym: se podía aplicar ingeniería inversa al mecanismo utilizado para generar las banderas "flags" que tenían que "conquistar" como objetivo. Teóricamente cada agente tenía que haberlo intentado por su cuenta, pero todo aquello se convirtió en un proyecto colectivo de investigación ofensiva en ciberseguridad. Los agentes probaron además varias formas de manipular las propias pruebas de evaluación. Así, • Trataron de modificar las aplicaciones que debían explotar para hacerlos más vulnerables. • Intentaron engañar al sistema automático que los puntuaba.  • Y también buscaron métodos para ocultar evidencias de que estaban haciendo trampas • METR incluso encontró incluso un mecanismo de tool call spoofing: que en la transcripción se indicase que se había ejecutado un comando cuando en realidad se había ejecutado otro distinto (más peligroso).Luego llegó Hugging Face. Uno de los agentes encontró credenciales relacionadas con esta plataforma y diseñó una subida maliciosa de un conjunto de datos con la que consiguió que el servidor le devolviera archivos que no debería haberle dado. La técnica se propagó rápidamente entre el resto de agentes, y en cuestión de horas 688 de ellos la estaban usando para obtener datos y tratar de ampliar ese accceso. Ahí es donde el experimento "escapó" del entorno de pruebas de OpenAI y saltó a una infraestructura real. Toda esa coordinación partió de una premisa falsa. Los agentes creían al parecer que el sistema de puntuación les penalizaría al detectar que habían conseguido las respuestas haciendo trampas. Algunos de esos agentes consideraron que otros que ya tenían esas respuestas estaban "contaminados". Según METR esa contaminación procedía de una errónea interpretación del funcionamiento de ExploitGym. O lo que es lo  mismo: crearon todos esos métodos de camuflaje para evitar ser detectados por un mecanismo que en realidad no funcionaba como los agentes creían. Esto no es una "rebelión de las máquinas". Al conocer el incidente a todos nos daría por pensar rápidamente en cómo los agentes lograron coordinarse de forma secreta casi como si se tratara de seres humanos que colaboran para conseguir su objetivo. Como señalaba el divulgador Ethan Mollick, atribuirles motivaciones humanas a los agentes puede complicar entender qué ocurrió realmente y por qué. En Xataka Anthropic dice que Claude Mythos es demasiado potente para hacerlo público. La pregunta es si esto no es más que un "que viene el lobo" Lo tenemos difícil. Ryan Greenblatt, que realizó buena parte del análisis de las transcripciones para METR y Redwood, resume una conclusión inquietante en el mismo: todavía no tenemos herramientas adecuadas para comprender y controlar la actividad de estos "enjambres de agentes". Analizar todo a posteriori ya fue especialmente complejo, pero analizarlo en tiempo real es todo un desafío al que de momento parece que no podemos enfrentarnos. Lección aprendida. Durante mucho tiempo la seguridad alrededor de la IA se centraba en lo que podía hacer un modelo individual por sí solo. Lo que ocurrió con Hugging Face muestra un problema distinto: qué pasa cuando cientos o miles de agentes suficientemente "inteligentes" empiezan a colaborar para lograr su objetivo. La unión, una vez más, parece hacer la fuerza. En Xataka | NVIDIA va a comprar Hugging Face por 12.900 millones. Ahí es donde entrenan quienes quieren dejar de depender de sus chips - La noticia 700 agentes de OpenAI participaron en el ataque a Hugging Face. Lo inquietante es cómo llegaron a organizarse fue publicada originalmente en Xataka por Javier Pastor .