«La IA puede ser muy poderosa, pero solo si un humano comprueba que lo que dice tiene sentido»

Daniel García Rasines, coctor en Estadística

Durante cuatro siglos, el progreso se sustentó en el método científico. Hoy, sin embargo, la inteligencia artificial va por libre. Programas como AlphaFold han hallado la forma de 200 millones de proteínas sin recurrir a ese guion. Daniel García Rasines, premiado por la Fundación BBVA y la Sociedad de Estadística e Investigación Operativa (SEIO), diseña herramientas para que convivan el clásico método de prueba y error y nuevas formas de investigar aceleradas por la IA.

Carlos Manuel Sánchez en colaboración con Fundación BBVA | Foto: Fundación BBVA | www.fbbva.es/

Daniel García Rasines (Lugo, 1994), profesor en CUNEF Universidad (Madrid), se ha empeñado en sacar a la ciencia moderna de una encrucijada. Antes un investigador ... se hacía una pregunta y buscaba datos para responderla; hoy, en campos como la genómica, se hace al revés. «Hay tantos datos que siempre hallas algo que parece interesante, aunque eso no quiera decir que sea verdad», explica el nuevo premio a la mejor contribución en estadística de la Fundación BBVA y la SEIO. «Si no lo verificas, es como hacer trampas al solitario», resume.

Quien lo sufre es el ciudadano. García Rasines ofrece una recomendación: mirar quién paga. «Plantearse si la gente o el medio que publica el estudio tiene incentivos para concluir lo que está diciendo». Más de un titular que ensalza las virtudes de un alimento viene de un estudio financiado por la propia industria. «Los estadísticos somos descreídos por naturaleza».

Desconfianza que traslada a la inteligencia artificial. «La mayoría de los modelos se diseña para decirte lo que quieres oír». Y en temas de salud es muy peligroso: «Pregúntale a un chatbot por una dolencia sobre la que los médicos no se ponen de acuerdo y, en lugar de avisarte de que no hay consenso, suma todas las opiniones y las divide, como si un diagnóstico pudiera salir del promedio». Y añade: «Como está hecha para responder a todo, y hacerlo con aplomo, le falta autocrítica. La IA puede ser muy poderosa, pero solo si un humano comprueba que lo que dice tiene sentido».

Las claves de mi trabajo

֍ ֍ ֍

1. 1.

   «Cuando trabajas con montañas de datos es fácil hallar patrones que parecen interesantes, pero muchos pueden ser fruto de la casualidad. Es clave no fiarse y verificar».

2. 2.

   «Si buscamos entre miles de genes y uno parece asociado a la diabetes, confirmarlo con esos mismos datos sería hacerse trampas; como dibujar la diana donde ha caído el dardo».

3. 3.

   «Para evitarlo, mi método separa búsqueda de comprobación. Crea primero dos versiones de la muestra original modificadas al azar. Una busca los genes asociados con la diabetes».

4. 4.

   «Y la otra se conserva como una muestra 'limpia'. Como esa segunda versión no ha participado en el hallazgo, permite cotejar: si el gen también destaca ahí, se confirma».

ol>