Ana García Robles, experta en IA de la ONU: "Construimos la Inteligencia Artificial y ahora tenemos mucho miedo"

Ana García Robles posa tras la entrevista con EL ESPAÑOL de Málaga. Angel Recio

La responsable del Laboratorio de Gobernanza de Inteligencia Artificial para la Humanidad que la ONU abrió hace unos meses en Valencia asegura que no hay que acelerar en exceso la regulación y la gobernanza.

"Conviene que se sienten unas bases, que estén bien ancladas en derechos humanos y en desarrollo sostenible", apunta.

Más información: "Con la IA hemos creado algo más inteligente que nosotros, no sabemos qué va a pasar en pocos años, es preocupante"

La teleco madrileña Ana García Robles es la responsable del nuevo Laboratorio de Gobernanza de Inteligencia Artificial para la Humanidad que la ONU abrió en marzo en Valencia.

Su carrera ha estado ligada siempre a la innovación, ocupando la dirección de la European Network of Livin Labs o la Secretaría General de Big Data Value Association antes de aceptar ese reto con Naciones Unidas.

Aunque el laboratorio solo tiene unos meses de vida, García Robles explica que ya están consiguiendo resultados, aunque precisa que queda mucho por hacer.

Ha estado en Málaga participando en el Congreso Empodera Live, organizado por la Fundación Cibervoluntarios, y ha concedido esta entrevista a EL ESPAÑOL de Málaga en la que habla claramente de los grandes riesgos de la IA, pero se muestra convencida de que el ser humano será capaz de regularla y controlarla.

-¿Qué es el Laboratorio de Gobernanza de IA para la Humanidad de la ONU?

-Es un laboratorio que está anclado en la oficina para las Tecnologías Digitales Emergentes de Naciones Unidas, que es parte del Secretariado de Naciones Unidas. El laboratorio forma parte de la movilización de todos los agentes a la hora de crear un diálogo sobre la gobernanza de la inteligencia artificial.

Está físicamente en Valencia. Pese a que pertenezcamos al Secretariado de Naciones Unidas, salimos de este contexto más diplomático de Nueva York o Ginebra. Eso nos ayuda para hablar con la sociedad civil, con los grupos de investigación, con la industria de cualquier tipo y con todos los agentes.

-¿Cuál es la función de este laboratorio de IA?

-Primero, formar redes. Hay muchos centros de investigación y humanísticos liderados por personas discutiendo y trabajando en temas de gobernanza y nosotros, de una forma bastante neutral, los conectamos.

Una segunda función es que, tras conectar a los expertos, generamos documentos para los políticos, para los diplomáticos, para aquellos que toman las decisiones tanto a nivel de coordinación global como los que están generando sus propias políticas nacionales.

En tercer lugar promovemos la innovación y buscamos nuevas soluciones y nuevas formas de colaboración.

-¿Cuántas personas forman este laboratorio?

-Es un equipo muy pequeño. Somos tres personas que formamos un equipo multidisciplinar tanto con conocimientos técnicos como humanísticos.

No obstante, lo importante es que no trabajamos solos. No trabajamos encerrados entre cuatro paredes con esa idea de laboratorio, sino que es justamente lo contrario.

Tenemos un equipo muy talentoso tanto en Nueva York como en Ginebra que nos ayuda mucho y es muy activo. Y nosotros aparte construimos redes con muchas comunidades ya existentes.

-El laboratorio lleva seis meses abierto. ¿Cuáles son sus prioridades?

-Sí, aunque seis meses pudiera parecer poco es bastante. Ya no es un bebé. Se han generado resultados.

Trabajamos, sobre todo, en dos aspectos. Uno es lo que se llama dentro del contexto de Naciones Unidas la interoperabilidad de la gobernanza. Damos soberanía a cada estado para definir sus leyes o sus códigos desde múltiples capas como la cultural, la ética o la regulatoria. Y dentro de eso vemos cómo podemos colaborar todos y crear una interoperabilidad porque la gobernanza de la inteligencia artificial es transfronteriza.

Trabajamos con muchos expertos a nivel mundial desde un punto de vista inclusivo. Es decir, siempre trabajamos con expertos de los diferentes continentes. Generamos un documento que tuvo bastante impacto en el primer diálogo global. Y en base a ese trabajo están saliendo nuevas líneas de trabajo.

Una, por ejemplo, son los entornos de experimentación de la gobernanza. Se ha hablado mucho de las sandboxes regulatorias. Cómo extendemos ese concepto para que sea transfronterizo, para que sea multiagente y para poder diseñar el futuro que queramos. Y esto hacerlo a nivel colaborativo de forma global.

-En estos momentos, cada país está regulando la IA como quiere.

-No se pretende que haya una regulación para todos y una gobernanza única porque la gobernanza va muy ligada a la cultura, a la ética, y el mundo es muy diverso. No podemos pretender tener una gobernanza única. Lo que sí nos gustaría conseguir es que, a través del diálogo y la cooperación, haya unos mínimos a todos los niveles para poder tratar todos los riesgos. Saber conjuntamente dónde están las líneas rojas de la IA.

-Que haya unas líneas rojas comunes para todos los países.

-Sí, y que no se cree una brecha de la inteligencia artificial brutal. Hay algunas capacidades que sí deberían ser comunes, pero dando una independencia a cada país para que tenga esa soberanía y construya de acuerdo a sus principios éticos. Cada gobierno decide sus leyes, pero con unos principios básicos.

-¿Hay consenso en la ONU para esas líneas rojas de la IA, para esos principios básicos, o aún no?

-Se está trabajando en ello. Hay mucho consenso en ciertas cosas, pero faltan los acuerdos.

-¿En qué hay más diferencias?

-Yo no creo que el problema esté en cuáles son las líneas rojas, sino en quién tiene que determinar para el mundo cuáles son las líneas rojas.

-¿Quién va a definir eso? ¿EEUU, China...? Todos hablan del superpoder de la IA.

-Desde Naciones Unidas lo importante es que esto sea universal e inclusivo y que haya una decisión conjunta. Y eso es siempre más complicado de conseguir.

Ana García Robles, responsable del Laboratorio de Gobernanza de la IA de la Humanidad de la ONU. Angel Recio

-Los países emergentes y del Sur suelen estar más infravalorados o menos representados. ¿Cómo van a trabajar desde el laboratorio para integrar a todos esos países y que no haya tanta brecha como comentaba?

-El laboratorio es parte de un engranaje mucho mayor. A todos los países del Sur global se les da un lugar en la mesa de diálogo. Hay una propuesta del Secretario General de la ONU para generar un fondo global de ayuda para crear capacidad en inteligencia artificial. Y no solo capacidades del punto de vista técnico, sino capacidades del punto de vista de gobernanza y de ser capaz de venir a la mesa defendiendo sus propios puntos de vista.

Desde el laboratorio tenemos muy en cuenta esta inclusividad. Hacemos lazos con todo el Sur Global, con expertos y entidades de África, Asia o Latinoamérica.

-¿Cuáles son las principales amenazas de la IA que están viendo en el laboratorio?

-Hay muchos riesgos. Yo creo que uno de los riesgos principales es el miedo. Que el miedo nos lleve a una falta de control. Se está hablando mucho de la pérdida de control de la IA y que el ser humano no pueda controlar a la máquina. Ese riesgo existe.

Pero hay mucha labor científica por detrás, mucha labor de muchos países. Hace dos semanas fue la Asamblea General de la ONU en Nueva York y allí se anunció un grupo de 20 países junto con la Unión Europea que firmaron un acuerdo para ser más contundentes en el control de los modelos.

Estas potencias medias a nivel mundial también tienen mucho que decir y no solo los países donde se está diseñando esa tecnología.

Hay un movimiento científico, político y social para que no haya esa pérdida de control con la IA.

No obstante, el gran peligro es que también aumentan los malos usos humanos de la tecnología. La tecnología nos da todo lo positivo pero también lo negativo. Ahí van las líneas rojas y las salvaguardas. Hay mucho deseo científico y político de que no haya esos malos usos y habrá que ir aprendiendo sobre la marcha, pero eso no quiere decir que esos riesgos no sean grandísimos. Pero, como le digo, creo que se está poniendo energía para controlarlos.

-¿Es un poco exagerado entonces cuando se hablaba de destrucción de la Humanidad?

-Han sido anuncios de investigadores dentro de empresas. Que digan que hay un 10% de probabilidad de que la Humanidad se extinga con la IA es un porcentaje muy alto. No son porcentajes basados en ninguna evidencia.

La inteligencia artificial, como otras grandes tecnologías que ha habido antes, puede tener potencial de destrucción. Pero creo que el ser humano va a ser capaz de responder y de coevolucionar con la IA. Yo soy positivista en ese sentido, pero es verdad que hace falta muchísimo trabajo. Muchísimo trabajo en educación, en consciencia, desde la práctica, desde el uso, no solo en las políticas, sino en cada uno de nosotros.

-¿Ha hecho mucho daño en ese miedo la película Terminator?

-A todos nos encanta la ciencia ficción. Llevamos décadas imaginando la inteligencia artificial, la construimos y ahora tenemos mucho miedo. Tenemos que seguir construyendo futuros con la IA como una herramienta y tenemos que controlar y acompañar. Es una cuestión de coevolucionar.

-Se está hablando mucho de la destrucción de millones de empleos por la IA. ¿Están trabajando en posibles soluciones o colaboraciones con los gobiernos desde el laboratorio?

-Trabajamos no tanto con los gobiernos sino con expertos en este tema. Es uno de los puntos en los que hay más discusión. No tenemos una solución mágica. Es importante que los gobiernos se planteen cuál es el futuro del trabajo y cuál es el futuro de la educación.

-La tecnología siempre va más rápida que la regulación y los debates de los expertos. ¿Temen ir siempre por detrás?

-Eso está claro y hay que asumirlo. La inteligencia artificial es rapidísima y todo se está acelerando. Sí veo un movimiento de las instituciones también más rápido, pero tampoco conviene acelerarse. Conviene que se sienten unas bases, que estén bien ancladas en derechos humanos y en desarrollo sostenible y, por eso, están teniendo ahora muchas conversaciones sobre qué está pasando con todas estas tecnologías de inteligencia artificial avanzadas, qué tenemos que hacer, ¿tenemos que frenarlas? ¿qué líneas hay que poner para poder absorberlas?...

Todo el mundo se ha dado cuenta de que las instituciones nunca van a poder correr tan rápido y ya hay coaliciones de países que empiezan a hablar de cómo controlar esto.

-Para terminar, ¿cómo beneficia al sector tecnológico español que este laboratorio esté en Valencia?

-Que haya un punto de presencia en España hace que colaboremos más con actores españoles. Eso está claro. Y en cada una de las actividades que hemos hecho siempre ha habido dos o tres expertos españoles.

Hemos trabajado, por ejemplo, en la gobernanza interna de las empresas y hemos tenido muy en cuenta la participación de empresas españolas.

Trabajamos a nivel global, pero la presencia física es importante y queremos acentuarla más. Queremos profundizar la participación más cercana con todo el ecosistema de Valencia, de la Comunidad Valenciana, que aún no lo hemos empezado.

Luego, en eventos como el Empodera Live de Málaga, he hablado con representantes de un par de universidades y aprendes cosas maravillosas que están haciendo. Yo soy Ingeniera de Telecomunicaciones, hablaba con el director de la Escuela de Telecomunicaciones de Málaga y me ha dicho que desde primero de carrera están trabajando en la parte ética y no solo en la técnica. Me parece muy importante eso. Cuando yo estudiaba eso se hacía al final y casi no le dabas importancia. Es muy importante porque se está formando a los profesionales del futuro.

La gobernanza tiene que ver mucho con esa práctica, porque hay muchas cosas que se definen en las regulaciones o en las políticas, pero hay mucho que está en la práctica, en cómo se implementa, en las personas que están diseñando o implementando esos sistemas. Entonces, esta conexión, por ejemplo, con la Universidad de Málaga, con universidades españolas, esto pasa porque estamos aquí en eventos como el Empodera Live. Espero que a todo el talento que hay en España se le dé mucha visibilidad, respetando que, evidentemente, nuestra labor es global y participamos con actores de todo el mundo.

1. ONU
2. Inteligencia artificial
3. Tecnología