Comme l'équation de Drake, sa valeur tient à sa structure, pas à son résultat numérique. Il sert à localiser le désaccord (deux personnes aux avis opposés ne divergent souvent que sur un ou deux facteurs), à identifier les leviers, et à rendre les hypothèses auditables. Ce n'est ni une prédiction calibrée — aucune base statistique n'existe pour un événement sans précédent — ni une simulation du monde.
Like the Drake equation, its value lies in its structure, not its numeric output. It serves to locate disagreement (two people with opposite views often differ on just one or two factors), to identify leverage points, and to make assumptions auditable. It is neither a calibrated prediction — no statistical base rate exists for an unprecedented event — nor a simulation of the world.
Les issues se définissent par trois questions binaires : l'espèce survit-elle ? le contrôle humain est-il conservé ? les humains gardent-ils une valeur pour l'IA ?
Outcomes are defined by three binary questions: does the species survive? is human control retained? do humans keep any value to the AI?
| Issue | Outcome | Survie | Survival | Contrôle | Control | Utilité | Usefulness |
|---|---|---|---|---|---|---|---|
| Aligné / statu quo | Aligned / status quo | oui | oui | — | |||
| Extinction | non | — | — | ||||
| Remplacement | Replacement | oui | non | non | no | ||
| Exploitation | oui | non | oui | yes |
La distinction clé : un seul facteur sépare remplacement et exploitation — l'IA a-t-elle besoin de nous ?
The key distinction: a single factor separates replacement from exploitation — does the AI need us?
Un tronc commun est nécessaire aux trois issues à risque : franchissement d'un seuil de super-compétence stratégique (p_cap), déploiement en agents autonomes (p_agent), objectifs en conflit avec les nôtres (p_désalign), et défaillance du contrôle (p_échec). Chaque issue ajoute ses facteurs spécifiques.
A common trunk is required for all three risky outcomes: crossing a threshold of strategic super-competence (p_cap), deployment as autonomous agents (p_agent), objectives in conflict with ours (p_misalign), and failure of control (p_fail). Each outcome then adds its specific factors.
L'extinction peut survenir sans agentivité ni mésalignement : l'IA amplifie d'autres catastrophes — empreinte climatique du calcul, pression sur les ressources, et surtout la géopolitique des puces (la concentration à Taïwan fait du détroit un point de rupture). Cette voie court-circuite le tronc agentique et peut donc opérer dès aujourd'hui, avec de l'IA étroite.
Extinction can arise without agency or misalignment: AI amplifies other catastrophes — the climate footprint of compute, resource pressure, and above all chip geopolitics (Taiwan's concentration makes the strait a rupture point). This pathway bypasses the agentic trunk and can therefore operate today, with narrow AI.
Une chaîne de facteurs (pédagogique, l'analogue de Drake) pour communiquer ; un moteur markovien (rigoureux) sous le capot, qui capture ce que trois produits parallèles ratent : l'exploitation comme couloir vers l'extinction, et le remplacement comme processus graduel plutôt qu'événement. La première est un cas particulier de la seconde.
A factor chain (pedagogical, the Drake analogue) to communicate; a Markov engine (rigorous) under the hood, capturing what three parallel products miss: exploitation as a corridor to extinction, and replacement as a gradual process rather than an event. The former is a special case of the latter.
Donner un point à chaque facteur est trompeur : la moyenne d'un produit n'est pas le produit des moyennes. Chaque facteur porte donc une loi de probabilité, et une simulation Monte Carlo produit une distribution du résultat. Les facteurs étant corrélés (une IA capable a aussi plus de levier), une copule empêche de sous-estimer la queue haute. Une analyse de sensibilité révèle presque toujours que les facteurs qui dominent — désalignement, complétude de la catastrophe — sont les moins mesurables.
Assigning a point to each factor is misleading: the mean of a product is not the product of the means. Each factor therefore carries a probability distribution, and a Monte Carlo simulation yields a distribution of the result. Because factors are correlated (a capable AI also has more leverage), a copula prevents underestimating the high tail. Sensitivity analysis almost always shows that the dominant factors — misalignment, completeness of catastrophe — are the least measurable.
Toute probabilité est P(avant une date T). La proba unique n'est pas plus fiable que la courbe : elle rend l'incertitude invisible. On modélise donc un taux de hasard dans le temps et on en lit des points aux dates rondes (2030, 2050, 2100). Le franchissement du seuil de capacité est calé sur les prévisions courantes (médiane d'arrivée de l'AGI vers 2031).
Any probability is P(before a date T). A single figure is no more reliable than the curve: it just hides the uncertainty. We therefore model a time-dependent hazard rate and read points at round dates (2030, 2050, 2100). Crossing the capability threshold is anchored on current forecasts (median AGI arrival around 2031).
Multiplier des étapes peut écraser artificiellement le résultat ; une sortie à deux décimales sur un événement sans précédent est un artefact ; les priors bougent vite ; et surtout, les facteurs qu'on mesure bien pèsent le moins. Ce dernier point — l'asymétrie de mesurabilité — est la raison d'être de l'approche par fourchette plutôt que par chiffre.
Multiplying steps can artificially crush the result; a two-decimal output on an unprecedented event is an artefact; priors shift quickly; and above all, the factors we measure best matter least. This last point — the measurability asymmetry — is precisely why the approach shows a range rather than a figure.