"La IA es una tecnología global con beneficios globales, perjuicios globales y una tendencia constante a que las nuevas capacidades acaben proliferando", me comentó después Stephen Casper, informático del MIT que intervino en la conferencia por videoconferencia.
Hasta ahora, Estados Unidos ha considerado en gran medida los avances de China en IA como una amenaza económica y para la seguridad nacional. Washington ha impuesto estrictas restricciones a los chips y a los equipos de fabricación de chips para frenar el desarrollo de una IA potente por parte de ese país. Más recientemente, el Gobierno de EE UU ordenó a Anthropic que impidiera a los ciudadanos extranjeros acceder a sus modelos más potentes, Mythos y Fable 5, por motivos de seguridad nacional. En respuesta, Anthropic revocó el acceso a todo el mundo. Una empresa que suscitaba especial preocupación, según reveló anteriormente WIRED, era una gigante surcoreana de las telecomunicaciones con supuestos vínculos con China.
Dos frentes
Sin embargo, la conferencia, organizada por la Academia de Inteligencia Artificial de Pekín, reforzó la idea de que tanto EE UU como China saldrían perdiendo si la IA se desarrollara de forma demasiado rápida e imprudente. A medida que la IA se vuelve más potente, más autónoma y más entrelazada con la vida cotidiana, los riesgos de que pueda utilizarse para llevar a cabo ciberataques o de que falle de forma catastrófica no harán más que aumentar. Dado que las dos potencias dominantes en IA a nivel mundial son responsables de los modelos más avanzados, la cooperación entre ellas parece que será crucial.
Casper se refirió a estudios que demuestran que los beneficios de la colaboración internacional frente a los peligros de la IA superan con creces cualquier riesgo para la seguridad nacional derivado de trabajar juntos. Comparó la situación actual con la forma en que Estados Unidos y la Unión Soviética se vieron obligados a colaborar en materia de amenazas nucleares, incluso mientras intentaban superar al otro en el armamento nuclear.
"Una cosa en la que casi todo el mundo en el ámbito de la IA está de acuerdo en este momento es que la IA no necesita un momento como el de Chernóbil", afirmó Casper.
Una sesión de un día de duración expuso la universalidad de los retos cibernéticos que plantea una IA más avanzada. Entre ellos se incluyen nuevos tipos de vulnerabilidades en el código generado por la IA, formas novedosas de atacar sistemas gracias al uso de herramientas agénticas y métodos automatizados para llevar a cabo ataques de phishing.
Tras otra sesión, hablé con Lin Yun, profesor de la Universidad Jiaotong de Shanghái, cuya labor en inteligencia artificial y seguridad informática es excelente. Yun me comentó que prevé que los hackers obtengan ventaja a corto plazo, pero que las nuevas contramedidas, incluidos los usos innovadores de la IA, deberían inclinar la balanza a favor de la defensa con el tiempo.
los modelos chinos han demostrado ser populares en Estados Unidos. Pero a medida que estos avanzan, será más difícil garantizar que no ayuden a los hackers a identificar vulnerabilidades de seguridad y que no puedan utilizarse como armas cibernéticas.Qwen de Alibaba y GLM de Z.ai. Estados Unidos ha relanzado su propia iniciativa de IA de código abierto con modelos como Nemotron de Nvidia. Pero nos acercamos a un punto de inflexión donde incluso los modelos abiertos menos potentes podrían resultar peligrosos si se les priva de medidas de seguridad. El último modelo de la empresa china Z.ai, GLM 5.2, incluye capacidades de codificación y agentes de vanguardia, según análisis de expertos. La próxima generación de modelos de IA de código abierto podría ser tan capaz como Fable o Mythos. De hecho, esta misma semana, 360 Security Technologies, una importante empresa china de ciberseguridad, anunció que había desarrollado un modelo de IA con capacidades de hacking a la par de Mythos.Yun señaló que el sector tendrá que idear nuevas formas de garantizar que los modelos abiertos estén actualizados, libres de puertas traseras y vulnerabilidades, y que cumplan con las normas de seguridad.
¿Una posible señal de lo que está por venir? Una fuente de una de las principales empresas chinas de IA, que pidió permanecer en el anonimato porque no estaba autorizada a hablar con la prensa, me cuenta que las preocupaciones en materia de seguridad son una de las razones por las que algunos modelos avanzados en China ya no se publican como código abierto.
Artículo originalmente publicado enWIRED.Adaptado por Alondra Flores.