Los ejecutivos de Silicon Valley y los responsables de los laboratorios de IA testifican ante los legisladores en Washington sobre los riesgos de la superinteligencia, y la Casa Blanca impone controles a la exportación de chips. Mientras tanto, la Cumbre AI for Good de la ONU (que celebra este año su décima edición) se centra en objetivos mucho más idealistas.
“Nuestra convicción de que la inteligencia artificial, si se utiliza de forma responsable, podría ayudar a resolver los problemas más acuciantes de la humanidad, desde el hambre hasta las enfermedades, pasando por el calentamiento global”, afirmó Doreen Bogdan-Martin, secretaria general de la UIT, en un discurso inaugural pronunciado en el escenario principal de la conferencia. “Hoy en día, esa idea se está poniendo a prueba, entre otras cosas por los retos que plantea la propia IA, incluso mientras nos esforzamos por utilizarla para el bien”.
El fin de la inocencia
Qué significa “el bien” (y qué aporta a la humanidad) fue una cuestión que estuvo presente a lo largo de toda la conferencia, que se desarrolló en un enorme centro de convenciones de 106,000 metros cuadrados situado en las afueras del distrito del aeropuerto de Ginebra. Las sesiones estuvieron marcadas por una creciente preocupación de que el despliegue indiscriminado por parte de monopolios corporativos sin control ya esté consolidando la desigualdad global y socavando los derechos humanos.
Para algunos que trabajan en primera línea, el barniz utópico de la industria tecnológica ya se ha desvanecido. En declaraciones al margen del evento, Giulio Coppi, alto funcionario humanitario del grupo de campaña Access Now, criticó la excesiva dependencia de los sectores humanitario y público en las grandes tecnológicas. “Deberíamos haber superado la era de la inocencia”, asegura Coppi, exigiendo que las organizaciones dejen de tratar a las empresas tecnológicas “como si fueran sus mejores amigas”. Señala una década de acuerdos opacos multimillonarios financiados con dinero público. “Ni siquiera se puede explicar qué hay dentro de su infraestructura tecnológica, porque ha estado cambiando constantemente”, advierte.
La oposición de Coppi fue moderada en comparación con la de otros: activistas pro-palestinos irrumpieron en el escenario durante un discurso del director de tecnología de Amazon, Werner Vogels, alegando que la tecnología de la compañía está siendo utilizada por Israel contra los palestinos, antes de ser finalmente expulsados del recinto.
“Cuando hablamos de IA, nos encanta la expectación, nos entusiasma”, señala Vijay Janapa Reddi, profesor de ingeniería en la Universidad de Harvard, entre el bullicio de las sesiones simultáneas durante una presentación. “Pero en la práctica, nunca llega a concretarse”. El problema, explica, es que “bueno” es un estándar demasiado vago para la ingeniería. “Para un ingeniero, bueno no significa nada. No puedo construirte algo que sea bueno. Un avión que vuela cinco minutos no sirve para nada”.
Quién puede usar la IA
Gran parte del debate global sobre la IA se centra ahora en el acceso: quién puede usar los modelos, quién puede comprar los chips y quién queda excluido de la economía de la computación. Esto explica, en parte, por qué la administración Trump implementó y luego levantó los controles de exportación sobre los principales modelos de IA de vanguardia, y, según se informa, China está considerando restringir el acceso a sus modelos de ponderación abierta. Restringir el acceso y excluir a los países más pobres puede generar dependencia de plataformas y estándares de infraestructura extranjeros.
En una sesión sobre el hardware de IA y la creciente brecha digital, los ponentes argumentaron que la computación ya no es meramente un problema tecnológico, sino un problema de desarrollo. “Si hablamos de IA para el bien común, es decir, de computación para todos, debemos reconocer que se trata de infraestructura de desarrollo, no solo de tecnología”, indica Syed Munir Khasru, presidente del Instituto de Política, Defensa y Gobernanza. Otros señalaron que la mayoría de los grandes modelos de lenguaje siguen estructurados en torno al inglés, lo que hace que sea esencial contar con modelos de lenguaje más pequeños y locales que funcionen con hardware más barato si se quiere que la IA sirva a comunidades más allá de los mercados más ricos.
WIRED. Adaptado por Mauricio Serfatty Godoy.