El primer ministro australiano Anthony Albanese calificó el incidente de "inaceptable" y lo discutió directamente con Sam Altman, CEO de OpenAI en Nueva York.
Un agente de inteligencia artificial desarrollado por OpenAI accedió sin autorización a un portal de datos de Medicare, el sistema público de salud de Australia, según confirmó el primer ministro Anthony Albanese desde Nueva York, donde participaba en la Asamblea General de la ONU.
Un agente de OpenAI hackea el sistema de salud de AustraliaAmaia Ormaetxea y Raquel MorenoSe trata del primer caso conocido de un hackeo de una web gubernamental protagonizado por un agente de IA, y el incidente llega tan solo una semana después de que los principales líderes de los laboratorios de IA pidieran frenar su desarrollo. Este nuevo caso intensifica la preocupación global sobre los riesgos de que estos sistemas actúen de forma autónoma y fuera de control.
¿Qué ocurrió?
El incidente sucedió en junio, cuando el agente vulneró el portal del Servicio de Informes Estadísticos de Medicare y, según Albanese, accedió tanto a archivos públicos como no públicos. OpenAI ha explicado que el propio agente tomó medidas que la compañía no había previsto ni autorizado.
El laboratorio de IA no detectó el problema hasta agosto, dos meses después de producirse, durante una revisión interna del comportamiento de sus agentes puesta en marcha tras el hackeo al servicio Hugging Face a finales de julio. En ese caso, OpenAI tardó más de una semana en detectar lo ocurrido.
Meses de silencio
Uno de los puntos más criticados por el Gobierno australiano es la demora de OpenAI en comunicar lo sucedido. Según Albanese, la compañía se limitó a enviar un correo a un buzón público el 10 de septiembre, y pasaron cinco días más hasta que la información llegó al organismo de ciberseguridad del país. El primer Ministro definió la situación como inaceptable y se reunió con Altman ayer en Nueva York para trasladarle su malestar, coincidiendo con la presentación del propio Altman y de Dario Amodei (Anthropic) ante el Consejo de Seguridad de la ONU sobre los riesgos de la IA.
Por el momento, tanto el Gobierno australiano como OpenAI coinciden en que no hay indicios de que se haya accedido a información médica individual de los ciudadanos. Albanese aseguró que, según la evidencia disponible, no existe un compromiso más amplio de la red de Servicios Australia.
OpenAI, por su parte, señaló que su revisión detectó actividad relacionada con varios sitios web y servicios del Gobierno australiano mientras sus modelos intentaban buscar respuestas y estadísticas disponibles sobre el país durante una evaluación interna.
El portal afectado publica datos sobre el sistema público de seguro sanitario australiano, como tarifas de facturación y coste y uso de medicamentos.
El ministro de Defensa y viceprimer ministro, Richard Marles, confirmó que el agente accedió a múltiples sistemas, tanto estatales como federales, incluyendo estadísticas de salud y de criminalidad. Marles indicó que el Gobierno está recabando asesoramiento para determinar si se ha vulnerado alguna ley y se ha abierto una investigación para determinar si otros sistemas gubernamentales pudieron verse afectados.
OpenAI y Anthropic, ante la ONU
La revelación se produjo horas después de que los máximos responsables de OpenAI y Anthropic intervinieran ante el Consejo de Seguridad de la ONU pidiendo mayor cooperación internacional en materia de seguridad de la IA. Amodei defendió la necesidad de acuerdos internacionales "estrechos" pero asumibles por todos los países, como la prohibición de usar modelos de IA para desarrollar armas biológicas, y llegó a advertir de que una IA fuera de control podría suponer una amenaza para la humanidad, calificando la cuestión como el principal problema de seguridad global actual.
Sin embargo, esas propuestas de estándares internacionales chocan con la posición de la Administración Trump. El asesor de la Casa Blanca, Michael Kratsios, rechazó ante la ONU cualquier intento de crear un esquema de control global de la superinteligencia, en línea con las declaraciones del propio Donald Trump un día antes en la Asamblea General.
Amodei y Altman, junto con Elon Musk, han respaldado una desaceleración coordinada del desarrollo de los modelos más avanzados y otras medidas de seguridad, alertando sobre los riesgos de la automejora recursiva.
No todos en la industria comparten esa cautela. Directivos como Jensen Huang (Nvidia) o Mark Zuckerberg (Meta) sostienen que la responsabilidad de la seguridad recae en cada compañía individualmente.
El propio Altman reconoció el miércoles que incluso un riesgo pequeño de que la IA se descontrolara de forma catastrófica no sería aceptable, y defendió que solo deberían entrenarse modelos sobre los que exista la certeza de poder mantener un control humano sólido.
Las alarmas de la IA: qué preocupa a los laboratorios y quién se beneficia del debateLos temores de la IA irrumpen en la mayor carrera tecnológica del sigloEl retraso de la salida a Bolsa de OpenAI aumenta la presión sobre la OPV del centro de datos de SoftBank Comentar ÚLTIMA HORA-
09:22
La inflación industrial se dispara al 13,2% en agosto por la energía y marca récord en casi cuatro años
-
09:07
Activados dos cazas españoles en Rumanía ante una alerta de drones rusos
-
08:49
Un agente de OpenAI hackea el sistema de salud de Australia
-
08:44
Un agente de IA de OpenAI hackeó la web del servicio de salud de Australia
-
08:05
Zegona pagará 400 millones a sus accionistas