- MARTA JUSTE
Un análisis de 1,2 millones de pruebas revela que los agentes de inteligencia artificial son los sistemas menos fiables, con una tasa de fallo del 46% en sectores regulados.
Casi una de cada tres evaluaciones de sistemas de inteligencia artificial en sectores regulados en España detectó algún problema de fiabilidad, según un informe elaborado por Galtea, plataforma de evaluación para industrias reguladas. El estudio, que analiza 1,2 millones de evaluaciones realizadas entre enero y agosto de 2026 sobre 36 sistemas de inteligencia artificial de organizaciones españolas, sitúa la tasa de fallo en el 30,5%.
El dato más llamativo tiene que ver con los agentes de inteligencia artificial, sistemas capaces de tomar decisiones, usar herramientas y ejecutar tareas de forma autónoma, que registran un 46% de tasa de fallo, la más alta de las categorías analizadas. Les siguen los sistemas RAG (Retrieval-Augmented Generation), con un 42%, mientras que los chatbot, el procesamiento documental y los benchmarks de modelos presentan cifras significativamente más bajas.
“El punto de partida es que los sistemas agénticos de inteligencia artificial no son deterministas, pueden cambiar el resultado que generan, influenciados por pequeños cambios en cómo se les plantean las preguntas o tareas, y los modelos a día de hoy todavía no resuelven muy bien algunas actividades básicas empresariales. En consecuencia, sí podríamos decir que poner en producción los agentes de inteligencia artificial sin pruebas exhaustivas y controles sería bastante inseguro a nivel empresarial”, explica Jorge Palomar, CEO y cofundador de Galtea.
Palomar insiste en que no todos los fallos tienen la misma gravedad, pero lo importante es qué ha ocurrido y qué consecuencias podría tener. “Por ejemplo, un asistente bancario puede explicar correctamente las características de un producto, pero omitir una condición que hace que un determinado cliente no pueda contratarlo. La respuesta puede sonar perfectamente convincente y contener mucha información correcta, pero aun así llevar al cliente a una conclusión equivocada. Ese sería un fallo relevante, aunque no signifique que todo el agente sea inseguro”, apunta.
Los sectores que más fallan
Sector público (31,6%) y sanidad (29,3%) prácticamente duplican los porcentajes de transporte (17,4%) y servicios financieros (16%) en cuanto a los fallos. Palomar evita, sin embargo, extraer conclusiones directas de la comparación entre sectores y asegura que “una tasa de fallos más alta no significa automáticamente que la inteligencia artificial de un sector sea menos segura”.
Otro de los hallazgos del informe es que el 69% de los productos de inteligencia artificial analizados ya combinan más de un modelo de lenguaje, lo que traslada buena parte del riesgo de fiabilidad desde la elección de un modelo concreto hacia la forma en que varios modelos interactúan entre sí. “Si se produce un error en una fase inicial, ese error puede propagarse al resto de la cadena de forma silenciosa”, asegura el directivo. Por eso, asegura, no basta con evaluar cada modelo de forma aislada, es necesario probar el flujo de trabajo completo y comprobar cómo funciona el sistema de principio a fin.
Para el CEO de Galtea, la pregunta que deben hacerse las empresas es: “¿tienen los mecanismos de gobierno y los controles de calidad y seguridad necesarios para evitar que estas vulnerabilidades se detecten y eliminen antes de que lleguen a un paciente, un cliente o un ciudadano que dependa de la respuesta?”.
SpaceX pone en órbita terrestre Starship, la nave con la que Elon Musk quiere ir a MarteNvidia lanza la mayor recompra de acciones tras hacer caja récord con la IABill Gates advierte que la IA sin control podría provocar "1.000 millones de muertes" Comentar ÚLTIMA HORA-
01:46
Ferrovial desarrollará los carriles exprés de la autopista I-24 de Nashville
-
01:42
El Gobierno, acorralado por las acampadas de Ceuta y la Puerta del Sol
-
01:02
Robinhood ofrece un agente de IA que puede operar por los clientes
-
00:43
La IA revoluciona la banca
-
00:15
Repsol, Iberdrola y Acciona Energía, las ganadoras en un mes de caídas