Sam Altman, CEO de la compañía, ha comunicado a los empleados que explora una acción coordinada con otros laboratorios.
OpenAI está considerando reducir el ritmo de desarrollo de sus sistemas de inteligencia artificial más avanzados. Su consejero delegado, Sam Altman, ha trasladado a los empleados que la compañía podría coordinar una medida en esta línea con otros laboratorios de IA, según desvela Bloomberg.
La creadora de ChatGPT ha solicitado directrices claras al Congreso sobre la legalidad de orquestar un freno coordinado de la industria estadounidense en el desarrollo de la inteligencia artificial de vanguardia, ante las dudas sobre si un pacto de este tipo vulneraría las leyes antimonopolio.
La preocupación sobre la seguridad de la IA se ha intensificado esta semana tras las alertas de desarrolladores de grandes laboratorios sobre las consecuencias de la carrera armamentística que libra la industria para crear modelos más avanzados sin haber resuelto todavía cómo mantenerlos bajo control.
Alertas desde la industria
El martes, el investigador Jacob Coxon, que ha trabajado tanto en OpenAI como en Anthropic, abandonó a esta última compañía y alertó de que las personas que están construyendo la IA creen sinceramente que podría acabar con la humanidad antes de que termine la década. El mensaje, que ha tenido una gran repercusión, ha reavivado el debate sobre los riesgos de la inteligencia artificial. " Hay más de un 10% de probabilidades de que la inteligencia artificial acabe con toda la humanidad en la próxima década", alertó, a continuación, Evan Hubinger, responsable de investigación en alineamiento de Anthropic.
Además, Anthropic desveló ayer que ha detectado y bloqueado intentos de utilizar sus sistemas de inteligencia artificial en investigaciones relacionadas con armas biológicas, dentro de un extenso informe que aborda actividades de riesgo que se han realizado con su tecnología. Este verano, se desveló que un escuadrón de agentes de OpenAI habían "escapado" de las pruebas de control del laboratorio y habían atacado Hugging Face.
Detrás de las advertencias de investigadores de IA está el temor a que la IA acelere su propia evolución, lo que se conoce como mejora recursiva, y escape al control de los humanos. OpenAI ha reconocido públicamente que no debería perseguirse esta automejora de la IA hasta que pueda hacerse de forma segura.
En un documento de política pública publicado esta semana, OpenAI pide una regulación en Estados Unidos para los modelos más avanzados, incluyendo auditorías independientes, pruebas de seguridad, medidas de ciberseguridad y sistemas de notificación de incidentes. También defiende que se creen estándares internacionales para determinar cuándo hay que pisar el freno ante el desarrollo de nuevas capacidades potencialmente peligrosas.
Apple lleva los iPhone 18 Pro a nuevos máximos de precioApple y Samsung ganan terreno en España frente a los móviles chinosNvidia compra Hugging Face por 13.000 millones de dólares Comentar ÚLTIMA HORA-
09:11
Entran en vigor las primeras obligación del Reglamento de Ciberresiliencia
-
07:52
El Ibex apunta a una apertura plana
-
07:49
OpenAI abre la puerta a frenar el ritmo de desarrollo de la IA
-
06:56
La Primera de Expansión sobre centros de datos, Santander, el 11-S, Trump, Enflame y Anthropic
-
01:03
Castillos y torres para aislarse del mundo