- CRISTINA CRIDDLE
Los empleados de estas empresas de Silicon Valley se enfrentan al reto de convertir en realidad el discurso sobre la necesidad de ralentizar el desarrollo de la IA.
Las audaces promesas de los directivos de Anthropic y OpenAI de limitar el desarrollo de la IA están generando tensiones internas en ambas compañías por la seguridad y otras cuestiones, lo que pone de manifiesto las dificultades prácticas de convertir la retórica en realidad.
El personal de los creadores de Claude y ChatGPT se apresura a implementar las recomendaciones de sus respectivos consejeros delegados, Dario Amodei y Sam Altman, para ralentizar el ritmo de progreso de la IA y evitar consecuencias desastrosas, tras una serie de alarmantes advertencias de los investigadores.
En los últimos meses, ambos directivos se han mostrado cada vez más firmes en su postura sobre la necesidad de "controlar la frontera" del desarrollo de los modelos de IA, culminando en una inusual muestra de unidad entre los dos rivales el fin de semana pasado. A pesar de sus declaraciones públicas, internamente se ha hecho poco para implementar las nuevas propuestas, según varias personas cercanas a las empresas.
Amodei publicó el sábado un ensayo detallado en el que aboga por un desarrollo más lento de la IA, evaluaciones independientes de los modelos y una mayor coordinación entre laboratorios y gobiernos a nivel mundial. También ha solicitado protección legal frente a las normas de competencia estadounidenses que podrían obstaculizar dicha colaboración, protección que otros laboratorios de IA también ansían asegurar.
El personal de OpenAI y Anthropic, así como los investigadores de seguridad en quienes confiarían para llevar a cabo este trabajo, quedaron desconcertados por los anuncios del fin de semana. Si bien muchos empleados coinciden en la necesidad de ralentizar el proceso, también temen que implementarlo pueda poner en peligro su trabajo.
Un tema recurrente en ambas empresas es el plan de integrar evaluadores externos en los laboratorios para supervisar el desarrollo de modelos. Algunos temen que esto pueda comprometer la seguridad de su valiosa tecnología, según fuentes cercanas a las discusiones internas, algo que una de ellas describe como una fuente de "conflicto".
Amodei, que dejó OpenAI para fundar Anthropic en 2021 por temores en torno a la seguridad, propuso el sábado que los evaluadores externos tuvieran un "acceso similar al de los empleados" a los principales laboratorios, incluyendo credenciales, ordenadores portátiles, entrada a las oficinas y acceso a las herramientas internas.
Las principales empresas de IA ya recurren a terceros para probar el rendimiento y la seguridad de sus modelos, pero la propuesta de Amodei aumentaría sustancialmente su papel.
Altman afirmó que era una "gran idea" y que OpenAI la seguiría.
Sin embargo, el consenso dista mucho de ser total. OpenAI asegura que desea colaborar con otros laboratorios, pero que su enfoque esmás pragmático que el de Anthropic.
También afirma haber "tomado ya medidas concretas, como la paralización de ciertos entrenamientos de frontera, para controlar el desarrollo", mientras que Anthropic no ha detenido su investigación.
Implementar los compromisos de los directivos para dar más acceso a expertos externos, manteniendo al mismo tiempo un equilibrio entre la seguridad y la protección de datos, también planteará grandes desafíos prácticos, según fuentes cercanas a ambas compañías.
A algunos empleados les preocupa que se otorgue demasiado acceso a estas personas a sistemas que son extremadamente potentes y objeto de una intensa competencia en la industria tecnológica.
Los laboratorios de IA ya cuentan con estrictas medidas de seguridad para sus empleados, como el acceso restringido a ciertos sistemas o a los datos de entrenamiento.
En los últimos meses, OpenAI ha intentado restringir aún más el acceso para proteger la propiedad intelectual y la información sensible, y para evitar que empleados malintencionados manipulen los sistemas. La compañía señala que proporcionar un acceso significativo a la vez que se protegen los sistemas sensibles requiere un diseño cuidadoso.
"Actualmente, la mayoría de las organizaciones externas tienen mucho menos acceso que incluso los empleados a tiempo completo con el nivel de acceso más bajo. Por lo tanto, probablemente será necesario algún tipo de requisito vinculante para establecer este proceso en toda la industria", explica Miles Brundage, exinvestigador de OpenAI y consejero ejecutivo del Instituto de Investigación para la Verificación y Evaluación de la IA.
Anthropic afirma que lleva tiempo trabajando con evaluadores externos y que tiene previsto integrar a un evaluador en la empresa próximamente.
Las organizaciones independientes que actúan como evaluadoras han cobrado relevancia este año tras las brechas de seguridad sufridas por agentes de IA durante las pruebas y el desarrollo en OpenAI y Anthropic.
Dos organizaciones sin ánimo de lucro, METR y Redwood Research, lideraron una investigación sobre el ataque perpetrado por agentes de OpenAI en julio contra el portal web para desarrolladores de IA Hugging Face, analizando decenas de miles de registros de más de 1.200 agentes.
OpenAI señala que la colaboración sentó un precedente importante para el sector y puede servir de base para futuras investigaciones. Recibieron ordenadores portátiles de OpenAI con pruebas, y pudieron trabajar desde la sede de la empresa en San Francisco y entrevistar al personal. Los dos grupos de investigación no recibieron remuneración alguna por la investigación, publicada el mes pasado.
Sin embargo, la investigación fue criticada por su alcance extremadamente limitado, con fechas específicas que la circunscribían al incidente de Hugging Face.
Otros críticos han acusado a las organizaciones de seguridad de tener una relación demasiado estrecha con los laboratorios de IA como para ejercer una supervisión eficaz. "Dejen de fingir que METR es independiente cuando está estrechamente vinculada con los inversores y el personal de Anthropic", denunció David Sacks, asesor de IA de la Casa Blanca, en una publicación en X el domingo.
METR asegura que no acepta donaciones de empresas de IA ni de su personal, y que sus empleados deben declarar cualquier conflicto de intereses. "Nuestro objetivo es hacer pública la información interna de estas empresas", añade.
David Krueger, que trabajó en el Instituto de Seguridad de la IA de Reino Unido, la agencia gubernamental que prueba los modelos, sostiene que son los gobiernos, y no los laboratorios de IA, los que deberían determinar el acceso.
"Todas estas organizaciones sólo tienen el acceso que les otorgan las empresas de IA, lo cual es completamente insuficiente", asegura Krueger, profesor de IA responsable en la Universidad de Montreal.
"[El enfoque en las evaluaciones] invierte fundamentalmente la carga de la prueba; crea el precedente de actuar como si los sistemas de IA fueran seguros hasta que se demuestre su peligrosidad", añade.
Amodei ha abogado por una legislación federal que exija evaluadores permanentes integrados y auditorías de terceros, al tiempo que propone una exención limitada de las leyes antimonopolio para que las empresas puedan colaborar en la elaboración de normas voluntarias mientras tanto.
Otros laboratorios también buscan una exención de las leyes antimonopolio, preocupados de que, sin ella, puedan ser objeto de investigaciones por parte de futuras administraciones por colaboración ilegal.
Lobistas de las grandes tecnológicas han visitado a los legisladores esta semana en Washington con el fin de presionarles para que se añada una excepción antimonopolio a la Ley de Autorización de la Defensa Nacional, un proyecto de ley anual sobre el presupuesto de defensa que debe aprobarse.
El fiscal general Todd Blanche declinó el martes pronunciarse sobre si las empresas necesitarían una exención antimonopolio. "En la medida en que esas empresas busquen autorregularse o solucionar los problemas que tienen, que lo hagan, pero trabajando con nosotros si es necesario", declaró, añadiendo que el Departamento de Justicia "no va a intentar regular la IA".
La presión para establecer salvaguardias se enfrenta a la oposición del presidente Donald Trump, quien el lunes calificó las preocupaciones sobre la seguridad de la IA como un "engaño" y dijo que una ralentización de la investigación estadounidense perjudicaría a Estados Unidos y permitiría que la tecnología china se pusiera al día.
"Los auditores y evaluadores de riesgos tradicionales llevan siglos dando vueltas al problema de la confianza", explica Rajiv Dattani, cofundador de Artificial Intelligence Underwriting Company, una start up que desarrolla auditorías para seguros de IA. "La industria de la IA puede aprender de los éxitos y fracasos de la electricidad, los automóviles, las auditorías financieras y la energía nuclear."
© The Financial Times Limited [2026]. Todos los derechos reservados. FT y Financial Times son marcas registradas de Financial Times Limited. Queda prohibida la redistribución, copia o modificación. EXPANSIÓN es el único responsable de esta traducción y Financial Times Limited no se hace responsable de la exactitud de la misma.
Por qué retrasar un apocalipsis provocado por la IA también beneficiaría a los inversoresLos laboratorios de IA ponen a prueba el rigor de las agencias de calificaciónEl desafío financiero tras los centros de datos Comentar ÚLTIMA HORA-
17:56
Sánchez aprieta a los empresarios: exige una subida general de sueldos ante la subida del IPC
-
17:45
Plan de choque histórico en REE para evitar que la red de luz colapse
-
17:43
Stadler fabricará en Valencia ocho locomotoras para la italiana FS Logistix
-
17:03
La iniciativa de los directivos de la IA a favor de la seguridad provoca una fractura interna en OpenAI y Anthropic
-
16:27
EEUU acumula una factura de 40.000 millones de dólares por la guerra con Irán