Una mujer pasó seis meses en prisión porque una IA se equivocó de cara. Lo terrible es que nadie lo comprobó

Angela Lipps es una residente de Tennessee (EEUU) que nunca se ha subido a un avión ni ha salido de viaje a otros estados del país. Aun así terminó en una celda de seguridad a 2.000 km de su hogar por una razón terrorífica: un software de reconocimiento facial con IA decidió que su  cara coincidía con la de una estafadora que operaba en Dakota del Norte. La tenemos. Todo comenzó con la pista que dieron las cámaras de seguridad. La policía de Fargo investigaba un fraude bancario en el que una mujer utilizaba identificaciones militares falsas para retirar enormes cantidades de dinero. Los detectives a cargo del caso decidieron encargar el trabajo de reconocimiento de las imágenes de las cámaras de seguridad a un software de reconocimiento facial con IA, y tras el análisis el sistema devolvió un nombre: el de Angela Lipps. Un agente echó un vistazo a sus redes sociales, decidió que su cuerpo y peinado coincidían con los de la sospechosa, y firmó la orden de arresto. En Xataka Los humanos que se rebelan contra los algoritmos Como en las pelis. Un equipo de los US Marhsalls se presentó en casa de Lipps en Tennessee y la detuvo a punta de pistola. Ella estaba haciendo de canguro de cuatro niños, pero eso dio igual: fue tratada como una fugitiva de la justicia. Ni le hicieron preguntas previas, ni contrastaron su verrsión. Ni siquiera tenían pruebas físicas que la situaran en Dakota del Norte más allá de lo que había dicho el sistema de reconocimiento facial. Y como la IA lo decía, tenía que ser cierto, ¿no? Seis meses en prisión (y en el limbo). Al ser considerada una prófuga, Lipps no tenía derecho a salir bajo fianza, y pasó 108 días en una cárcel de Tennessee esperando a ser extraditada a un estado que jamás había visitado. Luego, a finales de octubre, fue trasladada a una cárcel de Dakota del Norte. En todo ese tiempo nadie en el departamento de policía de Fargo se molestó en verificar siquiera si la sospechosa tenía coartada porque una vez más, no era necesario verificarlo: la IA no podía fallar. Al menos, según los cuerpos de policía que se encargaron del caso. Zasca. Lo curioso es que demostrar la inocencia de Lipps fue realmente sencillo. Cuando finalmente un abogado de oficio revisó los extractos bancarios de la sospechosa, el caso se desmoronó. Mientras la estafadora robaba miles de dólares en Dakota del Norte, Angela Lipps estaba comprando tabaco en una gasolinera de Tennessee, usando Uber Eats y cobrando su cheque de la seguridad social en su ciudada natal. Los registros GPS y bancarios eran pruebas definitivas e irrefutables.  Vuelve a casa vuelve. El 24 de diciembre, en plena Nochebuena, la fiscalía encargada de gestionar el caso retiró los cargos y Angela Lipps fue liberada. Eso sí: lo hicieron sin más, en la calle, en un estado que no conocía y en el que hacía muchísimo frío mientras ella había sido arrestada con ropa de verano. Los abogados defensores se encargaron de pagarle un hotel y otra ONG llamada F5 Project le prestó ayuda para que pudiese volver a casa.  La tragedia no termina ahí. El problema es que su regreso a Tennessee no fue para nada feliz. Durante los seis meses que pasó en prisión, Lipps no pudo pagar sus facturas y acabó perdiendo su casa, su coche, sus ahorros e incluso a su perro. El jefe de policía de Fargo, que dio una rueda de prensa con motivo de su jubilación, ni siquiera quiso responder preguntas sobre el caso. No ha habido disculpa oficial ni compensación alguna por este enrome error policial.   No es la primera vez, pero parece mentira que no sea la última. No sabemos qué acabará ocurriendo con este escándalo, pero no es el primero de este tipo que se produce. En EEUU llevan tiempo arrestando a sospechosos mediante sistemas de reconocimiento facial, pero estos sistemas fallan y provocan detenciones de inocentes. Este tipo de problemas de una mala aplicación de herramientas de IA en investigaciones delictivas está presente en España, donde ya hablamos de las trágicas consecuencias de usar VioGén o de lo que ocurrió con el sistema de detección de denuncias falsas hace apenas un año. La IA puede ayudar, pero en este tipo de procesos la supervisión humana es especialmente crucial. Imagen | Xataka con Freepik En Xataka | Los vídeos de IA han roto los algoritmos de Instagram y TikTok. Bienvenidos a los nuevos "vertederos de la IA" - La noticia Una mujer pasó seis meses en prisión porque una IA se equivocó de cara. Lo terrible es que nadie lo comprobó fue publicada originalmente en Xataka por Javier Pastor .