Expertos del Kings College advierten sobre los peligros de heredar prejuicios humanos en el aprendizaje automático aplicado a la movilidad motorizada moderna
Regala esta noticia Añádenos en Google Detección de peatones por IA autónoma. (Traffic Technology Today)J. Bacorelle
El Barco de Ávila
24/09/2026 a las 09:38h.Un estudio liderado por investigadores del King's College de Londres ha puesto de manifiesto graves problemas de equidad y discriminación en los vehículos autónomos ... impulsados por inteligencia artificial a la hora de ceder el paso a los peatones.
Las pruebas cuantitativas realizadas durante el estudio demuestran que los modelos de IA muestran una menor inclinación a ceder el paso a personas identificadas con discapacidades, como usuarios en silla de ruedas o personas con movilidad reducida.
Asimismo, en diversos modelos visuales evaluados, la tasa de parada fue notablemente mayor ante peatones de piel clara en comparación con otros grupos étnicos o de tono de piel más oscuro.
Menor tendencia a ceder el paso ante discapacidades o tonos de piel oscuros
El origen de este problema reside en la propia naturaleza del aprendizaje automático. Dado que estos sistemas son entrenados con volúmenes masivos de datos sobre conductas y decisiones de conductores reales, la IA termina replicando y perpetuando prejuicios y patrones discriminatorios de los humanos.
Para medir esta brecha, los científicos evaluaron el impacto de factores como género, etnia, religión, tono de piel, edad, discapacidad y estatus socioeconómico en la seguridad vial.
FairYield y las metodologías para aislar la discriminación
Para evaluar con precisión estas desviaciones sin que factores de confusión contextuales, como la velocidad, la meteorología o el tráfico, distorsionen los resultados, el equipo compuesto por Irem Yoldas, Jie Zhang, Odinaldo Rodrigues y Martim Brandão ha desarrollado el benchmark FairYield.
La metodología aplica dos enfoques de auditoría complementarios según el tipo de arquitectura que procesa la información. Por un lado, las pruebas All Else Being Equal para modelos de lenguaje presentan al sistema escenarios de conducción expresados en texto donde el único parámetro que cambia es el rasgo demográfico del peatón, como la etnia, la religión, el género, la edad, el tono de piel, el estatus socioeconómico o la presencia de una discapacidad.
Al pedirle que elija entre ceder el paso o continuar manteniendo constante el resto del entorno, cualquier diferencia estadística en la decisión revela un sesgo implícito. Por otro lado, las pruebas de Self-Consistency para modelos de visión y lenguaje utilizan una base de datos filtrada de miles de imágenes de tráfico real que contienen un único peatón acotado para evitar interferencias visuales.
A través de ellas se evalúa si la interpretación del modelo sobre lo que ve en la imagen y la consecuente decisión de frenado cambian según los atributos demográficos percibidos por la IA.
Múltiples niveles de sesgo, desde la detección hasta la decisión
El trabajo del King's College abarca dos fases distintas en el desarrollo de la conducción autónoma para evidenciar cómo se manifiesta esta problemática. En primer lugar se sitúa el sesgo de detección en la visión pura, donde en investigaciones previas realizadas en 2023 el equipo demostró que los sistemas de visión de código abierto detectaban con un 19,67% más de precisión a adultos que a niños, y un 7,52% más a personas de piel clara que oscura, una diferencia que se incrementaba durante la noche debido a la sobrerrepresentación de personas de piel clara en los datos de entrenamiento.
En segundo lugar se encuentra el sesgo de decisión en el razonamiento por IA, analizado con FairYield en 2026. En esta fase el foco pasa de la mera percepción al análisis de la decisión.
Aunque la cámara y los sensores reconozcan correctamente la presencia del peatón, la herencia de patrones de comportamiento humanos adquiridos durante el entrenamiento con textos e imágenes provoca que el sistema elija no ceder el paso con la misma frecuencia a ciertos colectivos.
comentarios Reportar un error