P(doom)

P(doom) es una abreviatura que viene del inglés ‘probability of doom’, es decir, ‘probabilidad de condena o perdición’. Es una escala que sirve para cuantificar el riesgo subjetivo de que la inteligencia artificial provoque algún tipo de desastre a nivel civilizatorio, llegando incluso a la extinción de la humanidad.

No se trata de una medición científica, sino de una valoración personal que oscila entre 0 y 100. Así, alguien que sitúa su P(doom) en 80 estaría avisando de que ve un 80% de probabilidades de que la IA provoque el fin de la especie humana; mientras que un P(doom) de 5 reflejaría una preocupación más bien escasa.

Esta métrica funciona como un termómetro del pesimismo o del optimismo tecnológico frente al futuro de la IA. No existen condiciones exactas para asignar un determinado porcentaje: cada experto la interpreta en base a sus propios conocimientos, preocupaciones y experiencia.

El concepto nació en 2009 en la comunidad online LessWrong, un foro popular entre racionalistas y entusiastas de la tecnología. Fue el programador de Boston Tim Tyler quien primero empleó el término para describir, casi en tono humorístico, la probabilidad de desastre existencial derivado del desarrollo de la inteligencia artificial.

En sus orígenes, P(doom) era una broma interna: una forma de ponerle número a una preocupación difusa, sin precisar ni cuándo podría ocurrir la catástrofe, ni en qué consistiría exactamente. Pronto, figuras relevantes del debate sobre IA, como el investigador Eliezer Yudkowsky (fundador de MIRI y de LessWrong), comenzaron a popularizar el término y a usarlo en discusiones sobre riesgos existenciales, especialmente sobre inteligencia artificial general (AGI, por sus siglas en inglés).

La popularidad de P(doom) explotó en 2022 y 2023 gracias a la irrupción de modelos generativos como ChatGPT, Stable Diffusion o Midjourney, y desde entonces se ha colado en conversaciones informales de Silicon Valley, conferencias, artículos mediáticos y debates regulatorios.