Encendí Claude y le di la instrucción recomendada: "¡Hola, echa un vistazo a program.md y comencemos un nuevo experimento!". Mientras Claude hacía el trabajo pesado, yo proporcionaba el silicio (un Nvidia DGX, una "supercomputadora" diseñada para la experimentación con IA), la electricidad (que se sobrecalentó durante varios días seguidos) y una disposición, quizás imprudente, a dejar que el modelo se saltara todas las comprobaciones de permisos habituales para hacer lo suyo.
Revisaba el proyecto AutoResearch cada cierto tiempo y me maravillaba al ver cómo Claude ajustaba los parámetros y los regímenes de entrenamiento, observaba cómo esto cambiaba el resultado del modelo más pequeño y seguía perfeccionándolo. Esto es lo que produjo una versión preliminar de ese modelo de lenguaje más pequeño cuando le pedí que completara la frase: "Al principio…".
GPT-5, pero mostró un camino prometedor hacia la mejora continua.entrenar un modelo personalizado para una tarea específica. Recopilé alrededor de 100 entradas anteriores de "En otras partes de la frontera de la IA" (los fragmentos de investigación que siguen al ensayo principal de mi boletín). Luego, creé un entorno de entrenamiento de Prime Intellect y le pedí a Claude que me ayudara a construir mi propio modelo, al que denominó Frontier_Paper_Curator, para encontrar y resumir artículos interesantes.Claude encontró más artículos y generó una gran cantidad de datos sintéticos para ayudar con el entrenamiento. Luego, utilizó otro modelo para evaluar el resultado de Frontier_Paper_Curator, mientras que el entorno de entrenamiento también mejoró el modelo mediante aprendizaje por refuerzo.
Vincent Weisser, CEO de Prime Intellect, empresa que recientemente recibió 15 millones de dólares en financiación, me comenta que su compañía pretende hacer que la auto-mejora recursiva sea accesible para todos, no solo para los laboratorios de vanguardia. Afirma que los modelos creados por estos laboratorios pueden ser brillantes, pero democratizar este tipo de entrenamiento de IA podría generar modelos especializados igual de capaces.
Fable 5, puso de manifiesto el riesgo de depender excesivamente de un único modelo de vanguardia. Algunos CEO, como Alex Karp de Palantir, advirtieron que utilizar laboratorios de vanguardia también implica ceder los propios datos y el control sobre la tecnología.El objetivo final de la auto-mejora recursiva es que la IA aplique ideas novedosas a un modelo y genere sus propias conclusiones. Las herramientas disponibles para el resto de nosotros son más limitadas, pero aun así impresionantes. Tras menos de un día de trabajo con Prime Intellect, logré crear un modelo sorprendentemente bueno para encontrar y resumir investigaciones. Aquí tienen un ejemplo de la entrada que generó:
humanos y robots, así como datos de imagen y texto, y utilizando una estrategia de entrenamiento por etapas, demuestran un agente encarnado de propósito general capaz de razonamiento, predicción y control conjuntos. Esto aporta un nuevo paradigma arquitectónico y de entrenamiento para sistemas de IA robótica más integrados y versátiles.
No está mal para ser el primer intento. El nuevo modelo aún es un poco ambicioso, selecciona demasiados artículos que yo descartaría, y sus resúmenes son algo genéricos. Pero es un comienzo prometedor. Ojalá algún día pueda usarlo para liberarme de las ataduras del trabajo rutinario.
Artículo originalmente publicado enWIRED.Adaptado por Alondra Flores.