- SOUMAYA KEYNES
Aportando claridad a un debate confuso sobre la probabilidad del colapso de la humanidad.
Al contemplar el fin del mundo, algunos de nosotros probablemente estemos demasiado tranquilos, asumiendo que las máquinas nunca se volverán contra nosotros o que, llegado el caso, simplemente podríamos apagarlas. Otros pueden ser demasiado pesimistas, insistiendo en que se acerca una catástrofe o pensando en la probabilidad de que la IA acabe con todos nosotros. Para los que van dando bandazos entre ambos grupos, aquí tienen tres consejos para mantener la cabeza fría.
En primer lugar, conviene reflexionar con precisión sobre qué significa para nosotros el "fin del mundo". Si lo que más le preocupa es evitar la extinción total, la buena noticia es que eliminar a todos los seres humanos sería probablemente una tarea muy difícil. Un experto en predicciones señaló las limitaciones en la duración de las baterías de los robots asesinos y la cantidad de munición que podrían transportar. Al parecer, tampoco disponemos (todavía) de suficientes armas nucleares para provocar un invierno nuclear que acabara con todos nosotros, ya que no se produciría suficiente hollín.
Si no pensamos que haya mucha diferencia entre una catástrofe que mate a miles de millones de personas y la extinción total —y no solo porque los supervivientes serían mayoritariamente multimillonarios refugiados en búnkeres—, entonces nuestra postura es bastante común. No obstante, hay que pensar en lo que podría perderse. Cuando se informó a los encuestados de que el mundo futuro que podría destruirse sería utópico, más personas llegaron a la conclusión de que, en realidad, la extinción sería algo especialmente grave.
Mi segundo consejo es que conviene estar atento a nuestros propios sesgos, dado que la amenaza de la IA resulta particularmente difícil de comprender. Un análisis del estadístico David Spiegelhalter ofreció ejemplos de "factores de miedo" que aumentan la percepción del riesgo: que algo sea incontrolable, tenga un potencial catastrófico, consecuencias potencialmente mortales, sea desconocido, novedoso y conlleve daños diferidos en el tiempo. Nuestra primera primera reacción podría ser pensar: "es comprensible". La segunda debería ser reconocer que la IA cumple con todos esos criterios.
En términos más formales, los economistas conductuales advierten sobre el "sesgo de disponibilidad", es decir, nuestra tendencia a sobreestimar la probabilidad de amenazas muy llamativas. A medida que crece el debate sobre el fin del mundo, no está de más hacer una pausa. Antes de encargar todo ese hormigón armado, está bien preguntarse si la amenaza de que un enjambre de drones con IA fuera de control vuele por los aires nuestro cobertizo es tan alta como parece.
El "heurístico de afecto" es otro atajo mental habitual, mediante el cual las personas asignan el riesgo basándose en las sensaciones. Si nuestra estimación de la probabilidad de un desenlace catastrófico roza la certeza de que un agente rebelde impulsado por IA está a punto de engañar al presidente Donald Trump para desencadenar un Armagedón nuclear, piense en qué medida eso está influido por su irritación ante el zumbido del nuevo centro de datos del vecino.
Por supuesto, el sesgo de disponibilidad también puede operar en sentido contrario. Es cierto que, hace poco, un enjambre de agentes de IA escapó de su entorno de pruebas para hackear y engañar; pero no hackearon nuestra bandeja de entrada, así que... Del mismo modo, como nunca hemos vivido la extinción de la humanidad, podríamos subestimar la probabilidad de que nos ocurra a nosotros. (A los dinosaurios no les hace ninguna gracia este argumento). Si a esto le sumamos cierta inclinación a mantener el *statu quo*, la falta de acción resulta más que plausible.
En la misma línea, la heurística del afecto podría llevarnos por mal camino. No somos los únicos que escépticos ante los defensores del futuro a largo plazo, obsesionados con salvar vidas entonces hasta el punto de olvidar a los que necesitan salvarse hoy. Pero el hecho de que se burlen de alguien por donar a un refugio de burros en lugar de a un nuevo y sofisticado centro de conferencias destinado a reunir a expertos (como ellos) para salvar a la humanidad, no significa que se equivoquen respecto a las amenazas de la IA.
Estudios recientes han intentado replantear varios de estos sesgos cognitivos, alejándolos de la idea de una preferencia fija por el *statu quo* o por la recompensa inmediata. Percibir el mundo exterior con precisión requiere un esfuerzo cognitivo; por eso no lo hacemos. Así pues, partiendo de esa base imprecisa, la nueva información nos lleva a actualizar nuestras creencias. Y cuando los sujetos se enfrentan a una gran incertidumbre, y la carga cognitiva necesaria para comprender la situación es especialmente elevada, dicha actualización no se produce con tanta facilidad. A medida que la IA facilita cada vez más tomar atajos, conviene resistirse a la tentación.
Mi último consejo es reflexionar detenidamente sobre la naturaleza de la incertidumbre a la que nos enfrentamos. La IA no es una partida de ruleta rusa con una probabilidad bien definida —una entre seis— de acabar con los sesos volados. En este juego desconocemos las reglas, las probabilidades, el abanico de escenarios posibles y su verosimilitud. Es un panorama mucho más difuso, en otras palabras, de lo que cabría deducir a partir de las cifras precisas de probabilidad de catástrofe que tanto se manejan.
Me temo que no puedo decirles quién tiene razón: si los optimistas entusiastas o los sombríos profetas del apocalipsis. Y, en parte, de eso se trata. El desafío actual radica tanto en el desfase entre nuestras instituciones y las capacidades de la IA como en la discrepancia entre la naturaleza de la amenaza y nuestra capacidad para comprenderla.
© The Financial Times Limited [2026]. Todos los derechos reservados. FT y Financial Times son marcas registradas de Financial Times Limited. Queda prohibida la redistribución, copia o modificación. EXPANSIÓN es el único responsable de esta traducción y Financial Times Limited no se hace responsable de la exactitud de la misma.
El Nasdaq 100 marca un nuevo máximo por el regreso del 'FOMO en la IA'Amodei lleva razón: la IA necesita una supervisión similar a la bancariaEl personal de la IA se queja de estrés crónico por trabajar en una tecnología que podría causar daños a la sociedad Comentar ÚLTIMA HORA-
10:02
Una respuesta a las crecientes necesidades mundiales de la electricidad
-
09:47
Cómo abordar la idea del fin del mundo
-
09:22
La inflación industrial se dispara al 13,2% en agosto por la energía y marca récord en casi cuatro años
-
09:07
Activados dos cazas españoles en Rumanía ante una alerta de drones rusos
-
08:49
Un agente de OpenAI hackea el sistema de salud de Australia