Tras las advertencias de Anthropic, OpenAI presenta su propio plan para una IA segura

"Nuestro objetivo es garantizar que la inteligencia artificial (IA) general beneficie a toda la humanidad". Así empieza el artículo titulado "Desarrollar los estándares para la próxima fase de la IA" que publicó ayer mismo OpenAI. Sam Altman, el director general de este laboratorio, y Jakub Pachocki, su científico jefe, se han mostrado preocupados públicamente durante los últimos días por el desarrollo vertiginoso que está experimentando la IA. El artículo titulado "Una mente alienígena" que este último publicó el pasado 6 de septiembre no tiene desperdicio. Sea como sea, algo está cambiando en los principales laboratorios de IA estadounidenses. Hasta hace apenas dos semanas se habían precipitado a una carrera desenfrenada por liderar el desarrollo de los modelos de frontera, y ahora estas mismas corporaciones quieren echar el freno. No obstante, hay algo más. Están empezando a proponer itinerarios que, en teoría, persiguen minimizar los riesgos asociados a la posible llegada de un modelo de IA lo suficientemente avanzado como para poder desarrollar por sí mismo modelos aún más sofisticados. Este concepto se conoce como mejora recursiva. La solución a este escenario propuesta por OpenAI en el artículo que publicó ayer requiere establecer unos estándares técnicos comunes para los modelos de IA de frontera. De esta forma la seguridad, las evaluaciones y la gestión de los incidentes no dependerán únicamente de los laboratorios implicados y los países a los que pertenecen; habrá una supervisión presumiblemente neutral y superior que aprovechará el trabajo que ya están realizando los institutos de seguridad de la IA. El auténtico desafío es proteger el control humano de los modelos de IA El punto de partida de la estrategia que propone OpenAI consiste en encontrar la forma de que el desarrollo de los modelos de frontera esté acompañado por un desarrollo equiparable de la investigación en alineamiento. El propósito del alineamiento es garantizar que los modelos de IA más capaces y autónomos se comportan de acuerdo con los objetivos del ser humano y permanecen en todo momento bajo su supervisión. En este contexto la principal amenaza es, según los laboratorios estadounidenses que se han pronunciado, la automejora recursiva. En Xataka China ha logrado lo que parecía imposible: una batería capaz de seguir funcionando incluso a -70 ºC La automejora recursiva completamente autónoma todavía no existe Si un modelo de frontera adquiere la capacidad de mejorar sus propias habilidades generando nuevas versiones de sí mismo u otros modelos aún más avanzados sin la intervención y la supervisión de sus creadores, el ser humano podría perder el control de su invención. Además, OpenAI advierte que a medida que se incrementa el grado de automatización mayor es también la velocidad de progreso de la IA. No obstante, reconoce que la automejora recursiva completamente autónoma todavía no existe. De hecho, este laboratorio sostiene que esta última capacidad no debe perseguirse hasta que pueda implementarse de una forma segura. La preocupación por el correcto alineamiento de la IA está presente en todo el artículo de OpenAI, pero sus propuestas no se ciñen solo a este desafío. Altman y sus compañeros defienden que es necesario crear un protocolo que identifique aquellos incidentes ocasionados por los modelos de IA de frontera que es preciso notificar a las autoridades. Además, creen que es necesario que los países cooperen para elaborar mecanismos de actuación conjunta ante este escenario. Esta propuesta de OpenAI ha llegado en un momento en el que el debate acerca de la gestión de los riesgos derivados del desarrollo de los sistemas de IA avanzados parece estar alcanzando su punto álgido. Puede que las iniciativas de Anthropic, OpenAI y otros laboratorios estadounidenses no caigan en saco roto y finalmente prosperen, pero no basta. A EEUU probablemente no le va a costar conseguir la complicidad de sus aliados, pero lo más importante es que se alinee en este ámbito con China para que los laboratorios de IA de ambos países estén sometidos a los mismos estándares de seguridad y protocolos de actuación. Y ahora mismo nada parece indicar que este acuerdo sea posible a corto plazo. Imagen | Generada por Xataka con ChatGPT Más información | OpenAI En Xataka | "No confío en que Anthropic y OpenAI abran la IA de frontera": un ingeniero de DeepSeek carga contra EEUU - La noticia Tras las advertencias de Anthropic, OpenAI presenta su propio plan para una IA segura fue publicada originalmente en Xataka por Laura López .