"Todos los principales proveedores de modelos de vanguardia que hemos analizado comparten esta vulnerabilidad. Puede dar lugar a fugas de información personal y permite ataques de destilación de razonamiento a gran escala", afirma Alexander Panfilov, informático de la Universidad de Tubinga, Alemania, que participó en la investigación.
Panfilov y sus colegas de la Universidad de Tubinga, el Instituto Max Planck, el instituto de seguridad en IA MATS Research y la empresa de seguridad Snyk identificaron el mismo problema en los modelos de vanguardia de OpenAI, Anthropic y Google a los que se accede a través de una interfaz de programación de aplicaciones (API).
En un artículo en el que presentan su trabajo, los investigadores muestran que Kimi K3, el modelo abierto de la empresa china Moonshot AI, genera respuestas sorprendentemente similares a los rastros de razonamiento ocultos de Claude Opus 4.8 y GPT-5.6 Sol en determinadas indicaciones. Estos rastros corresponden a los pasos internos que siguen los modelos para resolver un problema. A pesar de las similitudes, señalan que el trabajo "no puede establecer una relación causal con la destilación". Descubrieron que otros dos modelos, el chino DeepSeek y el estadounidense Inkling, de la empresa Thinking Machines, no mostraban este tipo de similitud en el razonamiento con Claude Opus.
Moonshot AI y Z.ai no respondieron a una solicitud de comentarios antes de la publicación de este artículo.
La destilación es una técnica bien establecida y ampliamente utilizada para copiar de manera eficiente las capacidades de los modelos existentes a otros nuevos, y es especialmente común en el desarrollo de modelos abiertos o totalmente descargables. Sin embargo, últimamente la destilación se ha convertido en un tema controversial debido a las acusaciones de que las empresas chinas de IA la utilizan para copiar los mejores modelos estadounidenses. En febrero, OpenAI informó a los legisladores estadounidenses que DeekSeek presuntamente copió uno de sus modelos para crear un modelo de razonamiento llamado R1. En junio, Anthropic comunicó a los legisladores que Alibaba había destilado sistemáticamente sus modelos para crear el suyo propio, Qwen.
No hay indicios de que las empresas chinas de IA hayan utilizado esta técnica específica para destilar modelos de IA estadounidenses. Pero Panfilov y sus colaboradores afirman que el uso de su método permitiría extraer más información de los modelos cerrados de lo que se creía hasta ahora.
la supremacía en IA con modelos cada vez más potentes. Los sectores más intransigentes de China afirman que el país obtiene una ventaja estratégica al destilar la tecnología estadounidense para construir modelos de ponderación abierta que resultan menos costosos de ejecutar.Otros, sin embargo, argumentan que la destilación es una forma muy utilizada de potenciar rápidamente las capacidades de un modelo de IA en ciertas áreas. Mark Zuckerberg, CEO de Meta, afirmó en una publicación de blog que la destilación "es un principio importante del funcionamiento del ecosistema de código abierto" y advirtió que restringir esta práctica pondría a Estados Unidos en desventaja.
Kyle Miller, investigador del Centro para la Seguridad y las Tecnologías Emergentes (CSET), un centro de estudios sobre políticas tecnológicas, afirma que no está claro hasta qué punto la destilación beneficia realmente a China. Esto se debe a que solo mejora las capacidades de los modelos existentes de forma limitada, y a que las empresas chinas parecen tener la experiencia necesaria para desarrollar modelos de vanguardia desde cero si fuera necesario. "En Estados Unidos, nadie sabe hasta qué punto la destilación beneficia a los laboratorios chinos. En mi opinión, si se les prohibiera destilar, el panorama competitivo no cambiaría drásticamente", declara Miller.
WIRED.com.Adaptado por Alondra Flores.