¿Cuánto riesgo de catástrofe?

Qué es una catástrofe aquí

Llamamos catástrofe a un suceso que mate al menos al 10 % de la humanidad en un periodo de 5 años. Es la definición que usó el torneo de pronósticos que citamos abajo y la que usa nuestro modelo de futuros. La extinción es otra pregunta, mucho más extrema.

Qué dicen los pronosticadores

Entre junio y octubre de 2022, antes de que se publicara ChatGPT, un torneo reunió a expertos en cada riesgo y a superpronosticadores, personas con un historial probado de acierto, para estimar riesgos a largo plazo. Para una catástrofe por cualquier causa antes de 2100 (pandemias, guerra nuclear, IA y el resto), la mediana de los superpronosticadores fue del 9,05 % y la de los expertos, del 20 %. Para una catástrofe causada solo por la IA, la de los expertos en IA fue del 12 % y la de los superpronosticadores, del 2,13 %. Para la extinción causada por la IA, un 3 % y un 0,38 %.^{Fuente 1}

En la IA, los expertos dieron entre cinco y ocho veces más probabilidad que los superpronosticadores.

Qué dicen los investigadores

Una encuesta de 2023 a 2.778 investigadores que publican en las principales conferencias de IA encontró que entre el 38 % y el 51 % daba al menos un 10 % de probabilidad a que la IA avanzada lleve a resultados tan malos como la extinción humana.^{Fuente 2}

Qué dice el informe internacional

El Informe Internacional sobre la Seguridad de la IA de 2026, encargado por más de 30 países, concluye que los sistemas actuales no tienen la capacidad de causar riesgos de pérdida de control, pero que mejoran en áreas relacionadas, como actuar de forma autónoma. Advierte de que la evidencia sobre estos riesgos llega despacio y es difícil de evaluar, y de que algunos modelos distinguen cada vez mejor cuándo se les está evaluando.^{Fuente 3}

En el modelo

Nuestro modelo calcula el riesgo acumulado de catástrofe por cualquier causa, no solo por la IA: también pandemias, guerras y desastres naturales. Que Pausa quede por debajo del 9 % en 2100 y Carrera por encima del 20 % es una elección editorial, anclada en las medianas de catástrofe por cualquier causa: la de los superpronosticadores (9,05 %) y la de los expertos (20 %). En el centro de la matriz, el parámetro que más mueve la cifra es el riesgo que añade la concentración del poder, calibrado con estas estimaciones y no medido, como muestra el análisis de sensibilidad. En los futuros con mucha paz pesa más el riesgo de base.

Lo que no sabemos

Estas cifras son juicios, no medidas. Nadie ha visto una catástrofe global causada por la IA, así que no hay frecuencia que contar. Que grupos serios discrepen tanto es, quizá, el dato más honesto: la incertidumbre es enorme.