Deux niveaux de lecture : l'essentiel en une page, puis la note méthodologique — thèse de départ, choix et partis-pris. Les chiffres et références vivent sur la page Sources ; la définition de chaque facteur p_* dans le Glossaire.
Two reading levels: the essentials on one page, then the methodological note — starting thesis, choices and biases. Figures and references live on the Sources page; each p_* factor is defined in the Glossary.
La question. Quelle est la probabilité que l'intelligence artificielle soit fatale à l'humanité avant une date donnée ?
La réponse honnête. Pas un chiffre : une fourchette, et surtout un désaccord. Les meilleurs prévisionnistes généralistes disent ~0,4 % d'extinction d'ici 2100 ; les experts de l'IA ~3 % ; les chercheurs en sécurité de l'IA ~10 % en comptant les catastrophes irréversibles sans extinction ; quelques voix disent plus de 50 %. Ces écarts ont résisté à des mois de débat organisé. Le site les met côte à côte, sans jamais les moyenner.
Comment. Comme l'équation de Drake : on découpe la question en facteurs qu'on peut discuter un par un (l'IA deviendra-t-elle assez compétente ? sera-t-elle déployée comme agent autonome ? ses objectifs entreront-ils en conflit avec les nôtres ? échappera-t-elle au contrôle ? …). Chaque facteur reçoit une fourchette plutôt qu'un point, et un tirage au sort répété des milliers de fois (Monte Carlo) donne la distribution du résultat.
Trois chemins vers l'extinction. (1) Agentique : une IA autonome, désalignée, hors de contrôle, frappe. (2) Mésusage : des humains utilisent l'IA pour frapper — pathogène conçu sur mesure, cyberattaque sur l'eau, l'électricité ou le réseau. (3) Indirecte : l'IA aggrave d'autres catastrophes (climat, ressources, conflit sur Taïwan). Les deux derniers n'ont besoin ni d'agent ni de désalignement : ils sont possibles dès aujourd'hui.
Deux autres fins sans extinction. Le remplacement : les humains survivent mais perdent le contrôle par obsolescence progressive, l'IA leur est indifférente. L'exploitation : ils survivent contraints parce que l'IA doit les tenir. Un seul facteur sépare les deux : l'IA a-t-elle besoin de nous contraindre ?
Deux sorties. P(extinction) et P(catastrophe critique irrémédiable) — extinction, remplacement, exploitation verrouillée, ou effondrement dont on ne se relève pas.
Ce qu'on écarte. Le scénario « Terminator » d'une IA qui fabrique et entretient seule ses machines : la chaîne industrielle des puces est aujourd'hui irreproductible sans humains. C'est un parti-pris, argumenté et contesté plus bas.
Ce qu'il faut retenir. Les facteurs qu'on mesure le mieux pèsent le moins ; ceux qui décident du résultat (désalignement, complétude de la catastrophe) ne reposent que sur des jugements d'experts. Le modèle sert à voir où deux personnes divergent, pas à trancher qui a raison.
The question. How likely is it that artificial intelligence proves fatal to humanity before a given date?
The honest answer. Not a number: a range, and above all a disagreement. The best generalist forecasters say ~0.4% extinction by 2100; AI experts ~3%; AI-safety researchers ~10% once irreversible catastrophes short of extinction are counted; a few voices say over 50%. These gaps survived months of structured debate. The site puts them side by side and never averages them.
How. Like the Drake equation: the question is split into factors that can be argued one at a time (will AI become competent enough? be deployed as an autonomous agent? have goals that conflict with ours? escape control? …). Each factor gets a range rather than a point, and a repeated random draw (Monte Carlo) yields the distribution of the result.
Three paths to extinction. (1) Agentic: an autonomous, misaligned, uncontrolled AI strikes. (2) Misuse: humans use AI to strike — a tailored pathogen, a cyberattack on water, power or the network. (3) Indirect: AI worsens other catastrophes (climate, resources, a Taiwan conflict). The last two need neither agent nor misalignment: they are possible today.
Two endings without extinction. Replacement: humans survive but lose control through gradual obsolescence, the AI is indifferent to them. Exploitation: they survive coerced because the AI has to hold them. One factor separates the two: does the AI need to coerce us?
Two outputs. P(extinction) and P(irrecoverable critical catastrophe) — extinction, replacement, locked-in exploitation, or a collapse we never recover from.
What is set aside. The "Terminator" scenario of an AI that builds and maintains its own machines alone: the chip supply chain is currently irreproducible without humans. That is a bias, argued and challenged below.
What to take away. The factors we measure best matter least; those that decide the result (misalignment, completeness of the catastrophe) rest only on expert judgement. The model shows where two people diverge, not who is right.
Le débat public sur le « P(doom) » oppose des chiffres nus (0,1 %, 10 %, 90 %) qui ne se parlent pas, parce qu'ils ne portent ni sur la même question (extinction ? perte de contrôle ?), ni sur le même horizon, ni sur les mêmes mécanismes. La thèse du site est que le désaccord est le résultat : une fois la question décomposée en facteurs explicites et datés, deux estimations très différentes ne divergent souvent que sur un ou deux facteurs — et ce sont presque toujours ceux qu'aucune donnée ne contraint. Montrer cela vaut mieux qu'un chiffre.
The public "P(doom)" debate pits bare numbers (0.1%, 10%, 90%) that don't talk to each other, because they concern neither the same question (extinction? loss of control?), nor the same horizon, nor the same mechanisms. The site's thesis is that the disagreement is the result: once the question is broken into explicit, dated factors, two very different estimates often diverge on only one or two factors — almost always those no data constrains. Showing that is worth more than a number.
Comme l'équation de Drake, sa valeur tient à sa structure, pas à son résultat numérique. Il sert à localiser le désaccord, à identifier les leviers (un facteur qui domine la variance et sur lequel on peut agir), et à rendre les hypothèses auditables : chaque facteur porte une loi, une source et une date. Ce n'est ni une prédiction calibrée — aucune base fréquentielle n'existe pour un événement sans précédent — ni une simulation causale du monde. Précédents : Carlsmith (2021) pour la décomposition en prémisses conditionnelles ; Sandberg, Drexler & Ord (2018) pour le passage des points aux distributions ; Kulveit et al. (2025) pour le désempowerment graduel ; Ord (2020) pour la notion de facteur de risque existentiel.
Like the Drake equation, its value lies in its structure, not its numeric output. It serves to locate disagreement, to identify levers (a factor that dominates the variance and can be acted upon), and to make assumptions auditable: each factor carries a distribution, a source and a date. It is neither a calibrated prediction — no base rate exists for an unprecedented event — nor a causal simulation of the world. Precedents: Carlsmith (2021) for the decomposition into conditional premises; Sandberg, Drexler & Ord (2018) for moving from points to distributions; Kulveit et al. (2025) for gradual disempowerment; Ord (2020) for the notion of existential risk factor.
Trois questions binaires : l'espèce survit-elle ? le contrôle humain est-il conservé ? l'IA doit-elle nous contraindre ?
Three binary questions: does the species survive? is human control retained? must the AI coerce us?
| Issue | Outcome | Survie | Survival | Contrôle | Control | Contrainte | Coercion |
|---|---|---|---|---|---|---|---|
| Aligné / statu quo | Aligned / status quo | oui | yes | oui | yes | — | |
| Extinction | non | no | — | — | |||
| Remplacement | Replacement | oui | yes | non | no | non — indifférence | no — indifference |
| Exploitation | oui | yes | non | no | oui — les humains sont une menace ou une ressource à discipliner | yes — humans are a threat or a resource to discipline |
Le remplacement capture le gradual disempowerment : les humains cessent d'être économiquement, politiquement et culturellement nécessaires, cèdent le contrôle par petites étapes, et déclinent sans qu'aucune « prise de pouvoir » n'ait lieu. Il ne requiert pas que l'IA sache fabriquer ses propres machines — les humains continuent de faire tourner une économie qui ne leur sert plus. L'exploitation est le même processus, mais contraint : l'IA doit nous tenir (travail, légitimité, menace résiduelle). Un seul facteur, p_contrainte, sépare les deux.
Replacement captures gradual disempowerment: humans stop being economically, politically and culturally necessary, cede control in small steps, and decline without any "takeover" ever happening. It does not require the AI to build its own machines — humans keep running an economy that no longer serves them. Exploitation is the same process, but coerced: the AI has to hold us (labour, legitimacy, residual threat). One factor, p_coercion, separates the two.
Agentique. p_cap × p_agent × p_désalign × p_levier × p_terminal. Une IA franchit un seuil de super-compétence stratégique, est déployée comme agent autonome, poursuit des objectifs en conflit avec les nôtres, échappe au contrôle en accédant à un mécanisme de masse (bio, nucléaire, cyber sur infrastructures critiques), et la frappe est complète et irréversible. Elle ne requiert pas d'autonomie physique durable : l'IA peut frapper puis disparaître avec nous.
Agentic. p_cap × p_agent × p_misalign × p_leverage × p_terminal. An AI crosses a threshold of strategic super-competence, is deployed as an autonomous agent, pursues goals in conflict with ours, escapes control by gaining a mass-casualty mechanism (bio, nuclear, cyber on critical infrastructure), and the strike is complete and irreversible. It requires no lasting physical autonomy: the AI can strike and vanish with us.
Mésusage. p_cap × p_duale × p_acteur × p_levier_m × p_terminal_m. Des humains — État, groupe, individu — utilisent l'IA comme multiplicateur pour frapper. Exemples probables : conception et optimisation d'un pathogène à forte létalité et transmissibilité ; cyberattaque coordonnée sur les systèmes communs et vitaux (réseau électrique, traitement et distribution de l'eau, routage internet, systèmes de paiement, contrôle aérien) ; dérèglement délibéré de systèmes automatisés dont dépend l'approvisionnement (logistique, chaîne du froid, agriculture de précision) ; sabotage des systèmes d'alerte et de commandement. Cette voie ne passe ni par p_agent ni par p_désalign : une IA parfaitement obéissante suffit. La capacité duale arrive avant l'AGI (médiane 2029), et la probabilité qu'un acteur tente s'accumule avec le temps.
Misuse. p_cap × p_dual × p_actor × p_leverage_m × p_terminal_m. Humans — a state, a group, an individual — use AI as a multiplier to strike. Likely examples: design and optimisation of a highly lethal, transmissible pathogen; a coordinated cyberattack on shared vital systems (power grid, water treatment and distribution, internet routing, payment systems, air-traffic control); deliberate disruption of automated systems that supply chains depend on (logistics, cold chain, precision agriculture); sabotage of warning and command systems. This pathway goes through neither p_agent nor p_misalign: a perfectly obedient AI is enough. Dual capability arrives before AGI (median 2029), and the probability that an actor tries accumulates with time.
Indirecte. P = risque de fond hors IA cumulé sur [2026, T] × part imputable à l'IA. L'IA amplifie des catastrophes qui existent sans elle : empreinte climatique du calcul, pression sur les minéraux et l'eau, et surtout la géopolitique des puces (la concentration à Taïwan fait du détroit un point de rupture). On n'impute à l'IA que la part marginale (attribution contrefactuelle) ; le risque de fond est sourcé (Ord, XPT) et de l'ordre de 10-3 par siècle pour l'extinction, 10-1 pour une catastrophe majeure.
Indirect. P = non-AI background risk accumulated over [2026, T] × share attributable to AI. AI amplifies catastrophes that exist without it: the climate footprint of compute, pressure on minerals and water, and above all chip geopolitics (Taiwan's concentration makes the strait a rupture point). Only the marginal share is attributed to AI (counterfactual attribution); the background risk is sourced (Ord, XPT) and of order 10-3 per century for extinction, 10-1 for a major catastrophe.
Les trois voies se combinent en P(extinction) = 1 − ∏(1 − Pvoie). Règle anti double-comptage : un conflit géopolitique aggravé par l'IA relève de la voie indirecte ; une attaque délibérée outillée par l'IA relève du mésusage ; une frappe décidée par l'IA elle-même relève de la voie agentique. Un même événement n'est compté que dans une voie.
The three pathways combine as P(extinction) = 1 − ∏(1 − Ppath). Anti-double-counting rule: a geopolitical conflict worsened by AI belongs to the indirect pathway; a deliberate attack tooled by AI belongs to misuse; a strike decided by the AI itself belongs to the agentic pathway. One event is counted in one pathway only.
P(extinction) : fin de l'espèce avant T — la question du tournoi XPT. P(catastrophe critique irrémédiable) : extinction ∪ remplacement ∪ exploitation verrouillée ∪ effondrement irréversible par mésusage ou effets de bord — le périmètre d'Ord (« catastrophe existentielle ») et de l'enquête Grace (« extinction ou désempowerment sévère »). Un facteur p_irrév convertit une catastrophe majeure non terminale (mésusage, indirecte) en catastrophe dont l'humanité ne se relève pas. Les deux sorties sont lues sur les mêmes tirages, donc cohérentes entre elles par construction.
P(extinction): end of the species before T — the XPT tournament's question. P(irrecoverable critical catastrophe): extinction ∪ replacement ∪ locked-in exploitation ∪ irreversible collapse through misuse or side effects — the scope of Ord ("existential catastrophe") and of the Grace survey ("extinction or severe disempowerment"). A factor p_irrev converts a non-terminal major catastrophe (misuse, indirect) into one humanity never recovers from. Both outputs are read from the same draws, hence consistent with each other by construction.
Donner un point à chaque facteur est trompeur : la moyenne d'un produit n'est pas le produit des moyennes, et une incertitude multi-ordres déplace beaucoup de masse vers P ≈ 0 (Sandberg, Drexler & Ord, 2018). Chaque facteur suit une loi logit-normale (médiane m, écart-type σ en espace logit ; échelle logarithmique pour les facteurs très bas). Une copule gaussienne par blocs corrèle les facteurs d'un même mécanisme (tronc agentique, désempowerment, mésusage, indirect) plus fortement que les facteurs entre blocs — un seul curseur ρ règle l'ensemble ; l'indépendance sous-estimerait la queue haute. Le Monte Carlo tourne dans un Web Worker avec une graine fixe : mêmes curseurs, mêmes chiffres. La sensibilité est mesurée « un facteur à la fois », avec tirages communs : chaque facteur est déplacé à son 10e puis son 90e percentile et on lit le déplacement de la médiane — immune aux corrélations induites par la copule, contrairement à une corrélation de Pearson.
Assigning a point to each factor is misleading: the mean of a product is not the product of the means, and multi-order uncertainty pushes a lot of mass toward P ≈ 0 (Sandberg, Drexler & Ord, 2018). Each factor follows a logit-normal distribution (median m, standard deviation σ in logit space; log scale for very low factors). A block Gaussian copula correlates factors of the same mechanism (agentic trunk, disempowerment, misuse, indirect) more strongly than factors across blocks — one ρ slider sets it all; independence would underestimate the upper tail. The Monte Carlo runs in a Web Worker with a fixed seed: same sliders, same figures. Sensitivity is measured "one factor at a time" with common random numbers: each factor is moved to its 10th, then 90th percentile and the shift of the median is read — immune to the correlations induced by the copula, unlike a Pearson correlation.
Toute probabilité est P(avant T) ; « P(doom) » sans horizon est mal défini. La voie agentique suit P(AGI < T) (médiane 2031, IC 80 % 2027–2044) ; le mésusage suit P(capacité duale < T) (médiane 2029) et la probabilité qu'un acteur tente, convertie d'un taux par décennie ; la voie indirecte s'accumule avec le risque de fond. Le calculateur trace la courbe cumulée de 2028 à 2100 : la proba unique à date fixe n'en est qu'un point. Un vrai taux de hasard h(t) avec délai entre capacité et catastrophe est prévu pour la v2.
Every probability is P(before T); "P(doom)" without a horizon is ill-defined. The agentic pathway follows P(AGI < T) (median 2031, 80% CI 2027–2044); misuse follows P(dual capability < T) (median 2029) and the probability that an actor tries, converted from a per-decade rate; the indirect pathway accumulates with the background risk. The calculator plots the cumulative curve from 2028 to 2100: a single fixed-date probability is just one point on it. A true hazard rate h(t) with a lag between capability and catastrophe is planned for v2.
Multiplier des étapes peut écraser le résultat ; une sortie à deux décimales sur un événement sans précédent est un artefact ; les estimations bougent vite et portent une date ; les frontières entre issues restent floues (le « désempowerment sévère » de Grace agrège extinction et remplacement) ; et surtout, les facteurs qu'on mesure bien pèsent le moins — la chaîne industrielle est un fait solide qui ne sert qu'à justifier une exclusion, tandis que p_désalign, p_levier et p_terminal commandent la sortie et ne reposent que sur des jugements d'experts sujets aux effets de cadrage. Cette asymétrie de mesurabilité est la raison d'être de l'approche par fourchette.
Multiplying steps can crush the result; a two-decimal output on an unprecedented event is an artefact; estimates shift quickly and carry a date; the boundaries between outcomes stay blurry (Grace's "severe disempowerment" aggregates extinction and replacement); and above all, the factors we measure best matter least — the industrial chain is a solid fact that only serves to justify an exclusion, while p_misalign, p_leverage and p_terminal drive the output and rest only on expert judgements subject to framing effects. This measurability asymmetry is why the approach shows a range.