Ordres de grandeur au 24 septembre 2026. Ces chiffres bougent vite — ils sont faits pour être re-tirés.
Orders of magnitude as of 24 September 2026. These figures shift quickly — they are meant to be re-run.
| Source | Source | Ce qu'elle mesure | What it measures | Chiffre clé | Key figure |
|---|---|---|---|---|---|
| AI Impacts / Grace 2024 (n=2778) | Extinction ou désempowerment sévère | Extinction or severe disempowerment | méd. 5 % · moy. 16 % | med. 5% · mean 16% | |
| Tournoi XPT | Extinction IA d'ici 2100 | AI extinction by 2100 | extinction : experts IA ~3 % · superfor. ~0,4 % catastrophe (≥10 % de morts) : ~12 % · ~2,3 % | extinction: AI experts ~3% · superfor. ~0.4% catastrophe (≥10% dead): ~12% · ~2.3% |
|
| Carlsmith 2021 | Catastrophe existentielle IA d'ici 2070 | AI existential catastrophe by 2070 | ~5 % (révisé >10 %) | ~5% (revised >10%) | |
| Ord, The Precipice | Catastrophe existentielle IA d'ici 2100 | AI existential catastrophe by 2100 | ~10 % (= ~½ × ~⅕) | ~10% (= ~½ × ~⅕) |
Carlsmith et un panel de superforecasters sont proches — les superforecasters étant même plus pessimistes — sur les trois premières prémisses, et divergent fortement sur les trois dernières. C'est l'illustration centrale : l'écart se loge dans quelques facteurs précis.
Carlsmith and a panel of superforecasters are close — the superforecasters being if anything more pessimistic — on the first three premises, and diverge sharply on the last three. This is the central illustration: the gap sits in a few precise factors.
| Prémisse (≈ facteur) | Premise (≈ factor) | Carlsmith | Superforecasters |
|---|---|---|---|
| 1. Capacités faisables (p_cap) | 1. Feasible capabilities (p_cap) | 65 % | 80 % |
| 2. Incitations à déployer (p_agent) | 2. Deployment incentives (p_agent) | 80 % | 90 % |
| 3. Difficulté d'alignement (p_désalign) | 3. Alignment difficulty (p_misalign) | 40 % | 58 % |
| 4. Échecs à fort impact (≈ p_levier, avec 5) | 4. High-impact failures (≈ p_leverage, with 5) | 65 % | 25 % |
| 5. Désempowerment complet (≈ p_levier, avec 4) | 5. Full disempowerment (≈ p_leverage, with 4) | 40 % | 5 % |
| 6. Catastrophe existentielle (p_terminal) | 6. Existential catastrophe (p_terminal) | 95 % | 40 % |
| Produit | Product | ~5 % | ~1 % |
Chaque famille du calculateur est un jeu de facteurs reconstruit pour retomber sur un point de calage public. Médianes produites par le moteur (ρ = 0,25, horizon 2100) :
Each school in the calculator is a reconstructed factor set tuned to land on a public anchor point. Medians produced by the engine (ρ = 0.25, horizon 2100):
| Famille | School | Point de calage | Anchor point | P(extinction) 2100 | P(extinction) 2100 | P(catastrophe irrémédiable) 2100 | P(irrecoverable catastrophe) 2100 |
|---|---|---|---|---|---|---|---|
| Sceptiques | Skeptics | LeCun, Marcus, Ng : « ≪ 0,1 % » — position publique, sans décomposition publiée | LeCun, Marcus, Ng: "≪ 0.1%" — public stance, no published decomposition | ~0,08 % | ~0,35 % | ||
| Superforecasters | XPT : 0,38 % extinction, 2,3 % catastrophe ; prémisses de Carlsmith notées ~1 % | XPT: 0.38% extinction, 2.3% catastrophe; Carlsmith's premises scored ~1% | ~0,65 % | ~2,2 % | |||
| Chercheurs ML | ML researchers | Grace 2024 : médiane 5 % (extinction ou désempowerment sévère) ; XPT experts IA : 3 % extinction | Grace 2024: median 5% (extinction or severe disempowerment); XPT AI experts: 3% extinction | ~3,1 % | ~7,3 % | ||
| Sécurité de l'IA | AI safety | Ord : 10 % catastrophe existentielle ; Carlsmith : >10 % | Ord: 10% existential catastrophe; Carlsmith: >10% | ~6,6 % | ~15 % | ||
| Pessimistes maximaux | Maximal pessimists | Yudkowsky et al. : « > 50 % », jusqu'à > 90 % — sans décomposition chiffrée | Yudkowsky et al.: "> 50%", up to > 90% — no quantified decomposition | ~65 % | ~81 % |
Les extrêmes (sceptiques, pessimistes) sont les moins bien sourcés : leurs tenants publient une conclusion, rarement des facteurs. Leurs jeux sont donc des reconstructions cohérentes avec leurs positions publiques, à lire comme des bornes plutôt que comme des citations.
The extremes (skeptics, pessimists) are the least well sourced: their proponents publish a conclusion, rarely factors. Their sets are therefore reconstructions consistent with their public positions, to be read as bounds rather than quotations.
| Facteur | Factor | Sources | Sources | Robustesse | Robustness |
|---|---|---|---|---|---|
| p_cap, p_duale | Metaculus, Epoch AI, bio-anchors, tableau agrégé | Metaculus, Epoch AI, bio-anchors, aggregate dashboard | moyenne | medium | |
| p_agent | tendances de déploiement (agents déjà la norme) | deployment trends (agents already the norm) | faible | low | |
| p_désalign, p_levier, p_terminal | élicitation d'experts seulement, forts effets de cadrage | expert elicitation only, strong framing effects | très faible / quasi nulle | very low / near zero | |
| p_obsolescence, p_désempowerment, p_contrainte, p_verrouillage | Kulveit et al. 2025, analogies historiques (colonisation, automatisation) | Kulveit et al. 2025, historical analogies (colonisation, automation) | très faible | very low | |
| p_acteur, p_levier_m | base rates du terrorisme de masse, évaluations bio/cyber des labs et agences | mass-terrorism base rates, bio/cyber evaluations by labs and agencies | faible | low | |
| p_base_ext, p_base_cat | Ord 2020 (nucléaire, climat ~1/1000 chacun), XPT (catastrophe hors IA) | Ord 2020 (nuclear, climate ~1/1000 each), XPT (non-AI catastrophe) | la meilleure | the best | |
| p_attrib, p_irrév | jugement ; aucune donnée | judgement; no data | quasi nulle | near zero |
La donnée la plus dure du dossier ne sert pas à calculer un facteur, mais à justifier le parti-pris d'écarter l'autonomie matérielle complète de l'IA (voir Le modèle, §6, contre-arguments inclus). ASML détient 100 % de la lithographie EUV (~50–60 machines/an, ~100 000 pièces chacune) ; TSMC ~90 % de la logique la plus avancée, avec des quasi-monopoles en amont (Zeiss, TRUMPF, photorésists japonais) — voir aussi CSET. L'écosystème est décrit comme effectivement irreproductible. Par contraste, l'électricité (415 → ~945 TWh pour les datacenters d'ici 2030) est une contrainte de montée en charge, pas d'irreproductibilité.
The hardest datum in the file is not used to compute a factor but to justify the choice of setting aside the AI's full material autonomy (see The model, §6, counter-arguments included). ASML holds 100% of EUV lithography (~50–60 machines/year, ~100,000 parts each); TSMC ~90% of the most advanced logic, with upstream near-monopolies (Zeiss, TRUMPF, Japanese photoresists) — see also CSET. The ecosystem is described as effectively irreproducible. By contrast, electricity (415 → ~945 TWh for data centres by 2030) is a ramp-up constraint, not an irreproducibility one.
Le passage d'estimations ponctuelles à des distributions reprend Sandberg, Drexler & Ord, Dissolving the Fermi Paradox (2018), et la menace de remplacement graduel suit Kulveit et al., Gradual Disempowerment (2025).
Moving from point estimates to distributions follows Sandberg, Drexler & Ord, Dissolving the Fermi Paradox (2018), and the gradual-replacement threat follows Kulveit et al., Gradual Disempowerment (2025).