- Variable aléatoire et loi. Un nombre qui dépend du tirage, noté en majuscule ; sa loi est le mécanisme qui le produit, pas la forme de sa courbe (p00-01, pas 1).
- PMF d'une loi discrète. La liste des valeurs possibles avec leur probabilité, P(X = k), qui somme à 1 (p00-01, pas 3). Ici on part de là et on n'en garde que deux nombres.
- Essais iid. Indépendants et de même loi : c'est l'hypothèse qui fabrique la Binomiale (p00-01, pas 3), et c'est elle qu'on va retrouver au pas 5 sous le nom de covariance nulle.
- Exponentielle(λ). P(T > t) = e−λt, E[T] = 1/λ (p00-01, pas 5). On ne la redérive pas : on regarde sa densité, qui est l'objet du pas 7.
La chaîne
Le décor
Une loi entière ne se transporte pas : on ne la met pas dans un tableau de résultats, on ne la propage pas à travers une somme. On en veut deux nombres — la position et l'étalement.
Deux nombres ne suffisent que si on sait ce qu'ils deviennent quand la variable est transformée (un gain, un changement d'unité) ou additionnée (une somme, une moyenne). C'est toute la chaîne.
« Une loi entière ne se manipule pas, donc on la résume par deux nombres, donc le seul travail utile est de savoir comment ces deux nombres traversent une transformation et une somme. »
| objet | ce que c'est | ce qu'on cherche |
|---|---|---|
| X | un dé équilibré, faces 1 à 6 | E, Var, écart-type |
| G = 2X + 1 | un gain affine du lancer | la transformation |
| S = X + Y | deux dés indépendants | la somme |
| 2X | le même dé compté deux fois | le piège de la somme |
| T | l'attente entre deux spams, Exp(4/h) | le cas continu |
S et 2X ont la même espérance et ne prennent pas les mêmes valeurs à la même fréquence. Le pas 5 dit exactement pourquoi.
Espérance = moyenne pondérée par les probabilités tronc
La moyenne des valeurs, pondérée par leur probabilité — pas la valeur la plus probable, pas le milieu du support.
Une somme pondérée se réorganise terme à terme, donc l'espérance est linéaire toujours : les constantes sortent, les sommes se coupent en deux, et aucune hypothèse d'indépendance n'intervient.
« L'espérance est une somme pondérée, donc elle passe à travers les sommes et les constantes, donc elle est linéaire sans aucune hypothèse d'indépendance. »
Dé équilibré : E[X] = (1 + 2 + 3 + 4 + 5 + 6)/6 = 21/6 = 3,5. Ce n'est pas une face — une espérance n'a pas à être une valeur possible.
Gain : E[G] = E[2X + 1] = 2·3,5 + 1 = 8.
Deux dés indépendants : E[S] = 3,5 + 3,5 = 7. Le même dé compté deux fois : E[2X] = 2·3,5 = 7 aussi. Sur l'espérance, la dépendance ne se voit pas — c'est précisément ce qui rend le piège du pas 5 invisible si on s'arrête ici.
Variance = espérance de l'écart au carré tronc
On mesure l'étalement par l'écart à l'espérance. En valeur absolue il ne se manipule pas ; au carré, si.
La seconde écriture vient du développement du carré, par linéarité de E : deux moments suffisent à calculer une variance.
Le carré a un prix : les unités sont au carré (des euros² si X est en euros). Ce qu'on rapporte est donc l'écart-type σ = √Var, dans l'unité de X.
« La variance est la moyenne des écarts au carré, donc en développant le carré il reste E de X deux moins E de X au carré, donc elle se calcule avec deux moments, donc l'écart-type est sa racine et vit dans l'unité de X. »
E[X²] = (1 + 4 + 9 + 16 + 25 + 36)/6 = 91/6 = 15,17, donc Var = 15,17 − 3,5² = 15,17 − 12,25 = 35/12 = 2,917 et σ = 1,708.
| face x | 1 et 6 | 2 et 5 | 3 et 4 | somme |
|---|---|---|---|---|
| (x − 3,5)² | 6,25 | 2,25 | 0,25 | — |
| contribution ×1/6 | 2 × 1,042 | 2 × 0,375 | 2 × 0,042 | 2,917 |
La variance est littéralement cette somme : chaque face apporte son écart au carré, pesé par sa probabilité. Les faces extrêmes en apportent 71 % à elles seules — le carré donne le pouvoir aux extrêmes, et c'est aussi ce qui la rend fragile (pas 8).
Transformation affine : b décale, a étale au carré tronc
Ajouter b déplace la variable et son espérance de la même quantité : les écarts à la moyenne sont inchangés, b disparaît. Multiplier par a multiplie chaque écart par a, donc chaque écart au carré par a².
C'est l'origine du 1/n² de la moyenne. X̄ = (1/n)ΣXi est une transformation affine de la somme avec a = 1/n, donc Var(X̄) = (1/n²)·Var(ΣXi). Le 1/n² vient d'ici et de nulle part ailleurs ; ce qui reste à trouver est Var(ΣXi), et c'est le pas 5 (p00-04, p01-01).
« Décaler ne change pas les écarts, donc b disparaît, donc multiplier par a multiplie les écarts par a et leur carré par a², donc la variance est multipliée par a² et l'écart-type par la valeur absolue de a. »
E[G] = 8 ; Var(G) = 2²·2,917 = 11,67 ; σ(G) = 2·1,708 = 3,416.
Le « + 1 » n'a strictement rien changé à la dispersion. Le « ×2 » a multiplié l'écart-type par 2 et la variance par 4.
Changement d'unité. Passer d'heures en minutes, c'est a = 60 : la variance est multipliée par 3600, l'écart-type par 60. Une variance ne se compare jamais entre deux unités ; un écart-type se compare, et un coefficient de variation σ/E se compare même entre unités.
En haut la loi de aX + b : six valeurs de probabilité 1/6 chacune, avec E en trait rouge. En bas la contribution de chaque valeur à la variance, (y − E)²·1/6 : la somme de ces six barres est la variance. Bouge b seul : tout glisse, les barres du bas ne bougent pas d'un pixel. Bouge a : l'écartement change et les barres du bas changent comme le carré — le readout a² le confirme. À a = 0 tout s'écrase sur un point, la variance tombe à zéro, et à a = −1 la loi est retournée mais la variance est identique.
Additivité seulement à covariance nulle tronc
Le carré d'une somme a un double produit ; la variance d'une somme a donc un terme croisé, la covariance.
Sous indépendance E[XY] = E[X]E[Y], donc Cov = 0, donc la variance s'additionne. Pour une différence, le signe du terme croisé s'inverse : Var(X − Y) = Var(X) + Var(Y) − 2Cov — c'est la formule des comparaisons appariées (p01-04, b04).
Cas extrême, Y = X : Cov(X, X) = Var(X), donc Var(2X) = 4Var(X), pas 2Var(X).
« Le carré d'une somme a un terme croisé, donc la variance d'une somme a une covariance, donc elle n'est additive que si la covariance est nulle, donc en particulier sous indépendance — et jamais quand on additionne une variable à elle-même. »
| S = X + Y (indépendants) | 2X (le même dé) | |
|---|---|---|
| espérance | 7 | 7 |
| covariance | 0 | Cov(X, X) = 2,917 |
| variance | 2,917 + 2,917 = 5,833 | 2,917 + 2,917 + 2·2,917 = 11,67 |
| écart-type | 2,415 | 3,416 |
| valeurs possibles | 2 à 12, 7 le plus fréquent | 2, 4, 6, 8, 10, 12 équiprobables |
Retour au 1/n². Sous iid, Var(ΣXi) = nσ², donc avec le a² du pas 4 : Var(X̄) = nσ²/n² = σ²/n. Le n du haut vient de l'additivité, le n² du bas vient de la transformation affine — et si les Xi sont corrélés positivement, seul le haut grossit.
Deux mécanismes, même espérance 7. Les deux histogrammes partent de 300 tirages ; ajoutes-en 500 de chaque côté : les moyennes mesurées convergent toutes deux vers 7, les écarts-types mesurés se séparent nettement — environ 2,42 en haut, 3,42 en bas. Le trait épais bleu est l'espérance théorique 7, le trait rouge fin la moyenne mesurée — elle vient s'y coller. En bas, seules les valeurs paires sortent : 2X ne peut pas faire 7, alors que X + Y le fait une fois sur six. Deux lois différentes derrière la même espérance, et c'est la covariance de 2,917 qui fait toute la différence de variance.
Corrélation : la covariance sans unité
La covariance a l'unité de X fois celle de Y ; on la normalise par les deux écarts-types pour la rendre lisible.
ρ = ±1 signifie Y = aX + b exactement. Entre les deux, ρ mesure l'alignement linéaire, et rien d'autre.
Indépendance ⇒ Cov = 0. La réciproque est fausse : une dépendance parfaite mais symétrique autour de 0 donne une covariance nulle. La bonne condition pour l'additivité du pas 5 est donc bien Cov = 0, pas l'indépendance — l'indépendance n'est qu'un cas suffisant.
« La corrélation est la covariance normalisée par les deux écarts-types, donc elle ne mesure que l'alignement linéaire, donc une dépendance non linéaire peut donner une corrélation nulle, donc corrélation nulle ne veut pas dire indépendance. »
X uniforme sur {−1, 0, 1} et Y = X². Connaître X donne Y exactement : dépendance totale.
Les termes −1 et +1 se compensent : la covariance, qui est un produit signé, ne voit rien d'une dépendance en cloche.
Et l'additivité tient quand même : Var(X) = 2/3, Var(Y) = 2/9, et Var(X + Y) = 8/9 = 2/3 + 2/9 — sur des variables pourtant liées. La formule du pas 5 demande Cov = 0, et c'est tout ce qu'elle demande.
Masse vs densité : évaluer ou intégrer tronc
Discret : P(X = x) est une probabilité, entre 0 et 1, et la somme vaut 1. Continu : P(X = x) = 0 pour tout x — un point n'a pas de largeur. Ce qui existe est une densité f, un taux de probabilité par unité de x.
Deux gestes, deux objets. On évalue f en un point quand on veut la vraisemblance d'une observation — une hauteur, sans borne supérieure. On intègre f sur un intervalle quand on veut une probabilité — une aire, entre 0 et 1. Le test des unités tranche : f a l'inverse de l'unité de x, l'aire n'a pas d'unité.
« En continu un point a probabilité nulle, donc l'information est un taux, donc une probabilité est une aire, donc une vraisemblance est une hauteur et n'a aucune raison d'être inférieure à 1. »
Exponentielle de taux 4/h, t en heures : f(t) = 4e−4t.
Évaluer : f(0) = 4 h−1. Quatre, pas 0,4 — et ce n'est pas une probabilité. f(10 min) = 2,05 h−1, f(20 min) = 1,05 h−1.
Intégrer : P(T = 15 min) = 0 exactement. P(10 min < T < 20 min) = e−2/3 − e−4/3 = 0,5134 − 0,2636 = 0,2498.
E et Var se lisent avec la même intégrale que le pas 2 : E[T] = 1/λ = 15 min, σ = 1/λ = 15 min. Le continu ne change pas les pas 2 à 6 — il change seulement ce qu'on a le droit de lire sur l'axe vertical.
La densité de l'attente, Exp(4/h). Les deux readouts de gauche sont des hauteurs — f évaluée en a et en b, en h−1, au-dessus de la ligne pointillée « 1 » sur toute la première partie du graphe. Les deux readouts de droite sont des probabilités — l'aire violette, et la probabilité d'un point, qui reste 0 quoi qu'on fasse. Referme a sur b : l'aire tend vers zéro pendant que les hauteurs, elles, ne bougent presque pas. C'est toute la différence entre évaluer et intégrer.
Où ça casse casse
Deux nombres, c'est peu : ils peuvent ne pas exister, et ils peuvent mentir sur ce qui les relie.
« Le résumé en deux nombres suppose que les moments existent et que les termes ne sont pas liés, donc une queue trop lourde ou une dépendance oubliée le casse, donc devant un écart-type le premier réflexe est de demander d'où viennent les termes qu'on a additionnés. »
- Queues lourdes : H1 tombe. Une Cauchy n'a pas d'espérance (∫|x|f diverge) ; une Pareto d'indice < 2 n'a pas de variance. Signal empirique : la moyenne ne se stabilise pas quand n grandit, l'écart-type empirique augmente avec n, et un seul point domine la somme. Quand H1 tombe, les pas 2 à 6 tombent avec, et la LGN et le TCL avec eux (p00-04).
- Cov = 0 pris pour indépendance. ρ ne voit que le linéaire : Y = X² sur {−1, 0, 1} a une corrélation nulle et une dépendance totale. « Décorrélé » autorise à additionner les variances, pas à raisonner comme si les variables ne se parlaient pas.
- Additivité appliquée à des termes dépendants. Mesures répétées sur un même individu, plusieurs lignes d'un même utilisateur, folds qui partagent des données : Cov > 0, donc Var(Σ) est sous-estimée si on l'ignore, donc l'erreur type est trop petite, l'intervalle trop étroit et la p-value trop optimiste (p01-01, b04). Le n qu'on croit avoir n'est pas le n qu'on a.
- Densité lue comme une probabilité. « f(x) = 2,3, donc c'est probable » n'a pas de sens : seule l'aire en a. Et la scorie symétrique coûte autant — intégrer quand on voulait évaluer. Une vraisemblance est une hauteur : dans p(x ; θ) on évalue la densité aux données observées, on n'intègre rien.
Résumé
- E = moyenne pondérée par les probabilités, linéaire toujours : ni E[aX+b] ni E[X+Y] ne demandent d'hypothèse.
- Var = E[X²] − E[X]², unités au carré ; l'écart-type σ = √Var est dans l'unité de X.
- Var(aX + b) = a²Var(X) : b décale, a étale au carré. C'est le 1/n² de Var(X̄).
- Var(X ± Y) = Var(X) + Var(Y) ± 2Cov : additive seulement à covariance nulle (l'indépendance suffit). Var(2X) = 4Var(X).
- Cov = 0 ⇏ indépendance ; ρ ne voit que le linéaire.
- Continu : densité = taux. On l'évalue pour une vraisemblance (une hauteur, qui peut dépasser 1), on l'intègre pour une probabilité (une aire). P(X = x) = 0.
Chaîne verbalisée — une prise, à voix haute
- E[X + Y] = E[X] + E[Y] : sous quelle hypothèse ?Aucune. C'est la linéarité de l'espérance, vraie même pour des variables totalement dépendantes.
- Var(X + Y) = Var(X) + Var(Y) : sous quelle hypothèse, et que vaut Var(2X) ?Cov(X, Y) = 0 — l'indépendance suffit mais n'est pas nécessaire. Var(2X) = 4Var(X), parce que Cov(X, X) = Var(X).
- D'où vient le a² dans Var(aX + b) ?b décale la variable et son espérance ensemble, donc disparaît des écarts ; a multiplie chaque écart par a, donc chaque écart au carré par a². C'est aussi l'origine du 1/n² de Var(X̄).
- Une densité peut-elle valoir 4 ?Oui : c'est un taux par unité de x, en h⁻¹ ici — Exp(4/h) vaut 4 en 0. Seule l'aire sous la courbe est une probabilité.
- Cov = 0 implique-t-il l'indépendance ?Non. X uniforme sur {−1, 0, 1} et Y = X² : Cov = 0 alors que Y est entièrement déterminé par X. La corrélation ne voit que le linéaire.
Ponts et cartes
stats::esperance (linéarité sans hypothèse, E ≠ valeur la plus probable) · stats::variance (E[X²] − E[X]², le a² affine, l'additivité conditionnelle) · stats::covariance (Cov = E[XY] − E[X]E[Y], ρ, le contre-exemple Y = X²) · stats::densite (évaluer vs intégrer, densité > 1, P(X = x) = 0).
Une carte qui résiste après cette chaîne est une carte à refondre, pas une section à relire.