Équation de risque · façon Drake · v1.2Risk equation · Drake style · v1.2

La probabilité que l'IA soit fatale à l'humanité

The probability that AI proves fatal to humanity

Trois voies vers l'extinction (agentique, mésusage, indirecte), deux issues de désempowerment (remplacement, exploitation), deux sorties lues sur les mêmes tirages. Cinq familles d'opinion comparées, jamais fusionnées.

Three pathways to extinction (agentic, misuse, indirect), two disempowerment outcomes (replacement, exploitation), two outputs read from the same draws. Five schools of thought compared, never merged.

— IC 80 %80% CI : — → —

La réponse honnête n'est pas un nombre mais une distribution. Chaque tirage échantillonne tous les facteurs. Trait plein : médiane ; pointillés : IC 80 %.

The honest answer isn't a number but a distribution. Each draw samples every factor. Solid line: median; dashed: 80% CI.

Comparateur des familles

School comparator

Médiane (point) et IC 80 % (barre) par famille, à l'horizon courant, pour la sortie sélectionnée. Juxtaposées, jamais moyennées — l'écart est le résultat.

Median (dot) and 80% CI (bar) per school, at the current horizon, for the selected output. Side by side, never averaged — the gap is the result.

Parts conditionnelles

Conditional shares

Sachant qu'une catastrophe irrémédiable survient, quelle fraction relève de chaque issue (rendues exclusives par tirage : extinction, sinon remplacement, sinon exploitation, sinon autre effondrement irréversible).

Given an irrecoverable catastrophe, what fraction falls under each outcome (made exclusive per draw: extinction, else replacement, else exploitation, else other irreversible collapse).

Voies vers l'extinction

Pathways to extinction

Médiane de chaque voie à l'horizon courant. Elles se combinent en 1 − ∏(1 − Pvoie).

Median of each pathway at the current horizon. They combine as 1 − ∏(1 − Ppath).

Sensibilité — quel facteur domine

Sensitivity — which factor dominates

Un facteur à la fois, tirages communs : déplacement de la médiane de la sortie quand ce facteur passe à son 10e (gauche) ou 90e (droite) percentile, les autres inchangés. Les barres les plus longues sont les leviers d'incertitude.

One factor at a time, common random numbers: shift of the output's median when that factor moves to its 10th (left) or 90th (right) percentile, all others unchanged. The longest bars are the levers of uncertainty.

Probabilité cumulée médiane par famille. La proba unique à date fixe n'est qu'un point lu sur cette courbe. La voie agentique suit P(AGI<T) ; le mésusage suit P(capacité duale<T) et la probabilité qu'un acteur tente ; la voie indirecte s'accumule avec le risque de fond.

Median cumulative probability per school. A single fixed-date probability is just one point on this curve. The agentic pathway follows P(AGI<T); misuse follows P(dual capability<T) and the chance that an actor tries; the indirect pathway accumulates with the background risk.