Fiche d'auto-test : la question est visible, la réponse est repliée. Réponds à voix haute avant d'ouvrir. Fil rouge : un serveur reçoit en moyenne 3 e-mails par heure ; chaque e-mail a une probabilité p = 0,2 d'être du spam ; on en observe n = 50.
Lois discrètes — Bernoulli, Binomiale, Poisson
QBernoulli de paramètre p : PMF compacte, espérance, variance ?›
P(X = x) = px(1−p)1−x pour x ∈ {0,1}. E[X] = p, Var(X) = p(1−p).
L'exposant « allume » le bon terme et « éteint » l'autre (puissance 0 = 1). Var maximale en p = ½ (¼), nulle en 0 ou 1.
Spam avec p = 0,2 : Var = 0,16, σ = 0,4.
« Un essai vaut 1 avec probabilité p, donc E[X] = p, donc E[X²] = p aussi, donc Var = p − p² = p(1−p). »
QBinomiale(n, p) : espérance et variance — et comment les obtenir sans calcul ?›
E[X] = np, Var(X) = np(1−p).
X est une somme de n Bernoulli indépendantes : linéarité de E pour la moyenne, additivité des variances (indépendance) pour la variance.
50 e-mails, p = 0,2 : E = 10 spams, Var = 8, σ ≈ 2,8.
« Une binomiale est une somme de n Bernoulli iid, donc l'espérance s'additionne en np, donc par indépendance la variance s'additionne aussi, en np(1−p). »
QSignature de la loi de Poisson ? D'où vient-elle depuis la Binomiale ?›
E[X] = Var(X) = λ. Limite de Binomiale(n, p) quand n → ∞, p → 0 à np = λ fixé : E = np → λ, Var = np(1−p) → λ car (1−p) → 1.
3 e-mails/heure : E = Var = 3.
« Poisson est une binomiale d'événements rares, donc np tend vers λ et (1−p) vers 1, donc espérance et variance coïncident toutes deux en λ. »
QQu'est-ce que la surdispersion, et quelle loi utiliser à la place de Poisson ?›
Variance ≫ moyenne, au-delà de ce que permet Poisson (Var = λ). Remède : binomiale négative, qui autorise Var > E.
Cause fréquente : λ n'est pas constant en vrai (jours chargés / calmes), ce qui gonfle la variance.
« Poisson impose Var = λ, donc si l'on observe une variance bien plus grande que la moyenne, l'hypothèse de taux constant est fausse, donc on passe à la binomiale négative. »
Lois continues — Exponentielle, Normale
QQuelle situation déclenche une loi Exponentielle, et quel lien avec Poisson ?›
Le temps d'attente entre deux événements (ou jusqu'au premier) d'un processus à taux constant λ. Même processus que Poisson, autre angle : Poisson compte, l'Exponentielle chronomètre.
3 e-mails/heure → attente moyenne 1/λ = 20 min. PDF f(x) = λe−λx sur [0, +∞), décroissante : attendre peu est plus probable qu'attendre longtemps. Var = 1/λ², donc σ = E[X] — la signature.
« Le même processus à taux constant se lit soit en nombre d'événements par unité de temps, donc Poisson, soit en temps entre deux événements, donc Exponentielle de moyenne 1/λ. »
QRègle empirique de la Normale — et pourquoi « 3 sigma » est le seuil d'alerte habituel ?›
68 % des valeurs dans μ ± σ, 95 % dans μ ± 2σ, 99,7 % dans μ ± 3σ.
Tailles ~ N(175, 7²) : 68 % entre 168 et 182, 95 % entre 161 et 189.
« Sous une gaussienne, sortir de ±3σ arrive 3 fois sur 1 000, donc une observation hors de cette bande est trop rare pour être du bruit, donc on la traite comme un signal. »
QStandardisation Z = (X − μ)/σ : que fait chaque morceau ?›
Le −μ recentre (E[X − μ] = 0) ; le ÷σ met à l'échelle (Var = 1). Le z-score dit « combien de σ au-dessus ou au-dessous de la moyenne ».
En ML c'est littéralement StandardScaler. Même geste que le TCL standardisé (fiche 02).
« Soustraire μ annule l'espérance et diviser par σ ramène la variance à 1, donc Z est centrée réduite, donc ses valeurs se lisent directement en nombre d'écarts-types. »
Outils de calcul — E, Var, PMF/PDF, Cov
QFormule raccourci de la variance ?›
Var(X) = E[X²] − E[X]². Se démontre en développant E[(X − μ)²] = E[X²] − 2μE[X] + μ².
« On développe le carré sous l'espérance, donc le double produit vaut −2μ², donc il reste E[X²] − μ². »
QVar(aX + b) = ? Pourquoi le b disparaît et le a est au carré ?›
Var(aX + b) = a²Var(X). b translate les valeurs et la moyenne : l'écart est inchangé. a dilate les écarts, et la variance est un carré d'écart. Écart-type : σ(aX + b) = |a|σ(X).
« Une translation ne change pas les écarts à la moyenne, donc b disparaît ; une dilatation multiplie chaque écart par a, donc le carré moyen des écarts est multiplié par a². »
QPMF vs PDF : quelle différence fondamentale, et ses trois conséquences ?›
PMF (discret) : P(X = k) est une vraie probabilité par valeur. PDF (continu) : f(x) est un taux (probabilité par unité de longueur), pas une probabilité.
Conséquences : (1) f(x) peut dépasser 1, seule l'aire ∫f = 1 est contrainte ; (2) P(X = x) = 0 pour tout point, on ne mesure que des intervalles ; (3) en vraisemblance on évalue f aux points observés, on n'intègre pas.
« Une densité est une probabilité par unité de longueur, donc c'est un taux, donc elle peut dépasser 1 et un point isolé a une probabilité nulle. »
QCov(X, Y) = 0 implique-t-elle l'indépendance ?›
Non en général : la covariance ne voit que la dépendance linéaire. Oui si (X, Y) est conjointement gaussien.
Y = X² avec X symétrique centrée (U[−1,1], N(0,1)) : Cov(X, X²) = E[X³] = 0, pourtant Y est entièrement déterminé par X.
« La covariance mesure E[XY] − E[X]E[Y], une dépendance linéaire seulement, donc une dépendance non linéaire symétrique la laisse nulle, donc Cov = 0 ne prouve rien — sauf dans le cas gaussien où les deux notions coïncident. »
Bayes et raisonnement conditionnel
QThéorème de Bayes : nomme les quatre termes de P(θ | D) = P(D | θ)P(θ)/P(D).›
P(θ | D) posterior : croyance sur θ après les données. P(D | θ) likelihood. P(θ) prior. P(D) évidence, constante de normalisation.
Comme P(D) ne dépend pas de θ, on écrit posterior ∝ likelihood × prior. Ce qui est cher, c'est P(D) = ∫ likelihood × prior dθ (fiche 03).
« Le posterior est proportionnel à la vraisemblance fois le prior, donc P(D) ne sert qu'à normaliser, donc on peut l'ignorer pour tout argmax. »
QBase-rate fallacy : un test « à 99 % » (FP = 5 %) donne moins de 2 % de vrais malades parmi les positifs si la prévalence est 1/1 000. Pourquoi ?›
Les faux positifs viennent d'un énorme réservoir (99 900 sains × 5 % ≈ 5 000), les vrais positifs d'un tout petit (100 malades × 99 % ≈ 99). Parmi les positifs : 99 / 5 099 ≈ 1,9 %.
Astuce anti-piège : repasser les probabilités en effectifs sur 100 000 — le piège s'évapore.
« La proportion de vrais malades parmi les positifs est sensibilité × prévalence sur la masse totale de positifs, donc si la prévalence est minuscule, les faux positifs des sains dominent, donc la valeur prédictive positive s'effondre malgré un test excellent. »
QSensibilité et spécificité conditionnent sur quoi — et pourquoi ça compte ?›
Sur l'état réel (malade / sain), pas sur le résultat du test : sensibilité = P(+ | malade), spécificité = P(− | sain). Ce sont des propriétés du test seul, indépendantes de la prévalence.
« Sensibilité et spécificité sont des probabilités conditionnelles à l'état vrai, donc elles caractérisent le test indépendamment de la population, donc pour passer à P(malade | +) il faut Bayes et la prévalence. »