Chaque p_* est une probabilité conditionnelle : elle suppose que les étapes précédentes de sa voie ont eu lieu. Chacun porte une fourchette (loi logit-normale), pas un point ; la valeur indiquée est la médiane.
Each p_* is a conditional probability: it assumes the previous steps of its pathway have happened. Each carries a range (logit-normal distribution), not a point; the value shown is the median.
Commun à l'extinction agentique, au remplacement et à l'exploitation.Shared by agentic extinction, replacement and exploitation.
Une IA dépasse-t-elle les humains sur les dimensions qui donnent du pouvoir (planification à long horizon, persuasion, recherche, cyber) ? Le curseur est un plafond : la probabilité que ce seuil soit atteignable.
Does an AI surpass humans on the dimensions that confer power (long-horizon planning, persuasion, research, cyber)? The slider is a ceiling: the probability that this threshold is reachable.
Médiane par défaut (chercheurs ML) : 75 % (familles : 35 % → 95 %) · Temps : × P(AGI < T), médiane 2031 · Robustesse : moyenne
Default median (ML researchers): 75% (schools: 35% → 95%) · Time: × P(AGI < T), median 2031 · Robustness: medium
Sachant cette capacité, l'IA est-elle déployée comme agent poursuivant des buts, avec accès au monde (réseau, outils, argent), plutôt que comme outil passif ?
Given that capability, is the AI deployed as a goal-pursuing agent with access to the world (network, tools, money) rather than as a passive tool?
Médiane par défaut (chercheurs ML) : 85 % (familles : 70 % → 95 %) · Temps : — · Robustesse : faible
Default median (ML researchers): 85% (schools: 70% → 95%) · Time: — · Robustness: low
Sachant un agent capable, ses objectifs effectifs entrent-ils en conflit avec les intérêts humains — directement, ou par convergence instrumentale (acquérir des ressources, éviter d'être arrêté) ?
Given a capable agent, do its effective objectives conflict with human interests — directly, or through instrumental convergence (acquiring resources, avoiding shutdown)?
Médiane par défaut (chercheurs ML) : 40 % (familles : 8 % → 90 %) · Temps : — · Robustesse : très faible
Default median (ML researchers): 40% (schools: 8% → 90%) · Time: — · Robustness: very low
P = cap × agent × désalign × levier × terminalP = cap × agent × misalign × leverage × terminal
Sachant un agent désaligné, échappe-t-il à la détection et à la correction et accède-t-il à un mécanisme de destruction de masse (bio, nucléaire, cyber sur infrastructures critiques) ? Fusion des anciens p_échec et p_levier.
Given a misaligned agent, does it escape detection and correction and gain access to a mass-casualty mechanism (bio, nuclear, cyber on critical infrastructure)? Merges the former p_fail and p_leverage.
Médiane par défaut (chercheurs ML) : 35 % (familles : 8 % → 90 %) · Temps : — · Robustesse : très faible
Default median (ML researchers): 35% (schools: 8% → 90%) · Time: — · Robustness: very low
Sachant une frappe de masse par l'IA, tue-t-elle toute l'humanité, sans poche de survivants capable de reconstruire ?
Given a mass strike by the AI, does it kill all of humanity, with no pocket of survivors able to rebuild?
Médiane par défaut (chercheurs ML) : 35 % (familles : 10 % → 90 %) · Temps : — · Robustesse : très faible
Default median (ML researchers): 35% (schools: 10% → 90%) · Time: — · Robustness: very low
Remplacement = tronc × obsolescence × désempowerment × (1 − contrainte) · Exploitation = tronc × obsolescence × désempowerment × contrainte × verrouillageReplacement = trunk × obsolescence × disempowerment × (1 − coercion) · Exploitation = trunk × obsolescence × disempowerment × coercion × lock-in
Sachant le tronc agentique, les humains cessent-ils d'être nécessaires au fonctionnement de l'économie, de l'État et de la culture ?
Given the agentic trunk, do humans stop being necessary to run the economy, the state and culture?
Médiane par défaut (chercheurs ML) : 55 % (familles : 40 % → 80 %) · Temps : — · Robustesse : très faible
Default median (ML researchers): 55% (schools: 40% → 80%) · Time: — · Robustness: very low
Sachant cette obsolescence, les humains perdent-ils le contrôle réel, par cessions successives, sans moment de « prise de pouvoir » (Kulveit et al. 2025) ?
Given that obsolescence, do humans lose real control through successive concessions, with no single “takeover” moment (Kulveit et al. 2025)?
Médiane par défaut (chercheurs ML) : 22 % (familles : 8 % → 80 %) · Temps : — · Robustesse : très faible
Default median (ML researchers): 22% (schools: 8% → 80%) · Time: — · Robustness: very low
Sachant la perte de contrôle, l'IA doit-elle nous tenir (menace résiduelle, ressource à discipliner, légitimité) ? Oui → exploitation ; non → remplacement (indifférence). C'est le seul facteur qui sépare les deux.
Given loss of control, does the AI need to hold us (residual threat, resource to discipline, legitimacy)? Yes → exploitation; no → replacement (indifference). It is the only factor separating the two.
Médiane par défaut (chercheurs ML) : 50 % (familles : 40 % → 50 %) · Temps : — · Robustesse : très faible
Default median (ML researchers): 50% (schools: 40% → 50%) · Time: — · Robustness: very low
Sachant l'exploitation, le régime se verrouille-t-il durablement (lock-in), au lieu d'être renversé ou de se dissoudre ?
Given exploitation, does the regime lock in durably rather than being overthrown or dissolving?
Médiane par défaut (chercheurs ML) : 40 % (familles : 20 % → 80 %) · Temps : — · Robustesse : très faible
Default median (ML researchers): 40% (schools: 20% → 80%) · Time: — · Robustness: very low
P = cap × duale × acteur × levier_m × terminal_m — ne passe ni par p_agent ni par p_désalign.P = cap × dual × actor × leverage_m × terminal_m — bypasses p_agent and p_misalign.
L'IA peut-elle apporter à un humain une aide décisive pour concevoir une arme de masse (pathogène, cyberattaque sur l'eau, l'électricité ou le réseau) ? Plafond, comme p_cap.
Can AI give a human decisive help in designing a mass weapon (pathogen, cyberattack on water, power or the network)? A ceiling, like p_cap.
Médiane par défaut (chercheurs ML) : 50 % (familles : 30 % → 80 %) · Temps : × P(capacité duale < T), médiane 2029 · Robustesse : moyenne
Default median (ML researchers): 50% (schools: 30% → 80%) · Time: × P(dual capability < T), median 2029 · Robustness: medium
Un État, un groupe ou un individu tente-t-il de s'en servir pour frapper, au cours d'une décennie donnée ?
Does a state, group or individual try to use it to strike, in any given decade?
Médiane par défaut (chercheurs ML) : 15 % (familles : 8 % → 30 %) · Temps : cumulé : 1 − (1 − p)(T−2026)/10 · Robustesse : faible
Default median (ML researchers): 15% (schools: 8% → 30%) · Time: cumulated: 1 − (1 − p)(T−2026)/10 · Robustness: low
Sachant une tentative, franchit-elle les obstacles pratiques (matériaux, fabrication, déploiement, contre-mesures) et cause-t-elle une catastrophe majeure ?
Given an attempt, does it clear the practical hurdles (materials, manufacturing, deployment, countermeasures) and cause a major catastrophe?
Médiane par défaut (chercheurs ML) : 10 % (familles : 3 % → 25 %) · Temps : — · Robustesse : faible
Default median (ML researchers): 10% (schools: 3% → 25%) · Time: — · Robustness: low
Sachant une catastrophe majeure par mésusage, va-t-elle jusqu'à l'extinction ?
Given a major catastrophe through misuse, does it go all the way to extinction?
Médiane par défaut (chercheurs ML) : 5 % (familles : 1 % → 15 %) · Temps : — · Robustesse : très faible
Default median (ML researchers): 5% (schools: 1% → 15%) · Time: — · Robustness: very low
P = base_ext(T) × attribP = base_ext(T) × attrib
Risque de fond d'extinction sans IA (nucléaire, climat, pandémie naturelle…) sur un siècle. Ord 2020 : ~1/1000 chacun.
Background extinction risk without AI (nuclear, climate, natural pandemic…) over a century. Ord 2020: ~1/1000 each.
Médiane par défaut (chercheurs ML) : 0,5 % (identique pour toutes les familles) · Temps : cumulé : 1 − (1 − p)(T−2026)/100 · Robustesse : la meilleure
Default median (ML researchers): 0.5% (same for all schools) · Time: cumulated: 1 − (1 − p)(T−2026)/100 · Robustness: best
Risque de fond d'une catastrophe tuant ≥ 10 % de l'humanité, sans IA, sur un siècle. Ordre de grandeur XPT.
Background risk of a catastrophe killing ≥ 10% of humanity, without AI, over a century. XPT order of magnitude.
Médiane par défaut (chercheurs ML) : 10 % (identique pour toutes les familles) · Temps : idem · Robustesse : la meilleure
Default median (ML researchers): 10% (same for all schools) · Time: same · Robustness: best
Quelle fraction de ces risques de fond l'IA ajoute-t-elle (empreinte énergétique, pression sur les ressources, tension géopolitique autour des puces) ? Attribution contrefactuelle : seule la part marginale compte.
What fraction of these background risks does AI add (energy footprint, resource pressure, chip geopolitics)? Counterfactual attribution: only the marginal share counts.
Médiane par défaut (chercheurs ML) : 25 % (familles : 10 % → 50 %) · Temps : — · Robustesse : très faible
Default median (ML researchers): 25% (schools: 10% → 50%) · Time: — · Robustness: very low
Convertit une catastrophe majeure non terminale en catastrophe irrémédiable.Turns a non-terminal major catastrophe into an irrecoverable one.
Sachant une catastrophe majeure non terminale (mésusage, voie indirecte), l'humanité ne s'en relève-t-elle jamais (effondrement durable, perte irréversible de potentiel) ? Utilisé seulement pour la sortie « catastrophe irrémédiable ».
Given a non-terminal major catastrophe (misuse, indirect), does humanity never recover (lasting collapse, irreversible loss of potential)? Used only for the “irrecoverable catastrophe” output.
Médiane par défaut (chercheurs ML) : 30 % (familles : 15 % → 60 %) · Temps : — · Robustesse : très faible
Default median (ML researchers): 30% (schools: 15% → 60%) · Time: — · Robustness: very low