#Estimation et inférenceCopier le lien

Estimer un paramètre consiste à construire une règle qui transforme un échantillon en une valeur plausible du paramètre. On évalue un estimateur par son biais (écart systématique à la vérité) et sa variance (sensibilité aux fluctuations). Le maximum de vraisemblance choisit la valeur rendant les données observées les plus probables selon le modèle; sa popularité tient à ses bonnes propriétés asymptotiques quand le modèle est bien spécifié. Cette page fixe le vocabulaire — estimande, estimateur, statistique, p-value — avant les intervalles et tests des pages suivantes.

Objectifs d’apprentissage

• Distinguer l’estimande (paramètre inconnu), l’estimateur (statistique, fonction de l’échantillon) et sa réalisation (la valeur observée), et ne jamais les confondre dans une phrase.
• Mesurer la qualité d’un estimateur par biais, variance et erreur quadratique, et corriger un estimateur biaisé (variance empirique).
• Construire un estimateur par maximum de vraisemblance sur un exemple discret, et lire correctement un intervalle de confiance et une p-value.

Prérequis: variables aléatoires (espérance, variance), lois usuelles (Bernoulli, binomiale, Poisson).

#Estimande, estimateur, réalisationCopier le lien

Trois objets différents, notés différemment:

• L’estimande est la quantité inconnue qu’on cherche: un paramètre θ du modèle (une proportion p, une moyenne μ, un taux λ). Elle est fixe, mais inconnue.
• L’estimateur est une statistique, c’est-à-dire une fonction de l’échantillon aléatoire: T = t(X₁, …, Xₙ). C’est une variable aléatoire, avec une loi, une espérance, une variance.
• La réalisation est la valeur numérique t = t(x₁, …, xₙ) obtenue sur les données observées. C’est un nombre, pas une variable.

Écrire « P(θ ∈ [a; b]) = 0,95 » pour un intervalle de confiance est un contresens de vocabulaire: θ est fixe, l’intervalle est aléatoire. La probabilité porte sur la procédure, pas sur le paramètre. Cette discipline de notation, apparemment formelle, est ce qui sépare une interprétation correcte (ci-dessous) des erreurs d’inférence les plus répandues.

Exemple fondateur: la variance empirique. Avec n observations, la quantité (1/n) Σ (Xᵢ − X̄)² est biaisée: son espérance vaut ((n−1)/n) σ², pas σ². Diviser par n − 1 corrige exactement le biais. Ce n’est pas une astuce de calcul, c’est une identité algébrique: E[Σ (Xᵢ − X̄)²] = (n − 1) σ².

Le biais d’un estimateur T de θ est b = E[T] − θ; la variance est Var(T). L’erreur quadratique moyenne combine les deux: EQM(T) = E[(T − θ)²] = Var(T) + b². Un estimateur peut être sans biais mais très variable (une seule observation est un estimateur sans biais de μ!), ou légèrement biaisé mais nettement plus précis: le critère EQM tranche, pas le seul biais.

Exemple fondateur: la variance empirique. Avec n observations, la quantité (1/n) Σ (Xᵢ − X̄)² surestime en moyenne trop bas: son espérance vaut ((n−1)/n) σ², pas σ². Diviser par n − 1 corrige exactement le biais. Ce n’est pas une astuce deンプВase, c’est une identité algébrique: E[Σ (Xᵢ − X̄)²] = (n − 1) σ².

Où l’erreur quadratique gagne sur le biais: pour n = 10, l’estimateur biaisé a une espérance à 0,9 σ² (un biais relatif de −10%) mais une variance plus faible; pour n grand, la correction (n−1)/n tend vers 1 et le débat s’éteint. C’est pourquoi les logiciels divisent par n − 1 par défaut.

#Playground: le facteur (n − 1)/n, vérifié par énumération exhaustiveCopier le lien

Ici pas de simulation: on énumère tous les échantillons possibles d’un dé équilibré (36 couples ordonnés pour n = 2, 216 triplets pour n = 3) et on moyenne les deux estimateurs de variance. La population des faces {1, …, 6} a pour variance exacte 35/12; l’estimateur biaisé doit en moyenne retourner (n−1)/n × 35/12, l’estimateur corrigé exactement 35/12.

Résultats exacts (aucune graine nécessaire, tout est énuméré): pour n = 2, l’estimateur qui divise par n retourne en moyenne 35/24 = 1,4583, soit la moitié de 35/12; l’estimateur corrigé retourne exactement 35/12 = 2,9167. Pour n = 3, le biaisé donne 35/18 = 1,9444 (les deux tiers) et le corrigé toujours 35/12. L’énumération exhaustive est le miroir déterministe de la simulation Monte Carlo: quand l’espace des échantillons est petit, on peut vérifier une espérance au centième près sans le moindre aléa.

#Maximum de vraisemblanceCopier le lien

Étant donné un modèle paramétré et des données x, la vraisemblance L(θ) = P(x | θ) mesure à quel point θ rend les observées plausibles. L’estimateur du maximum de vraisemblance choisit le θ qui la maximise. Sur les modèles usuels, il a une forme fermée:

• Échantillon de Bernoulli (k succès sur n): likelihood en p, maximum en p̂ = k/n.
• Comptages Poisson: maximum en λ̂ = moyenne des comptages.
• Échantillon normal: μ̂ = moyenne, σ̂² = moyenne des carrés des écarts (celle qui divise par n).

Vérifions au moins le premier sur la vraisemblance binomiale: k = 62 succès sur n = 100, on cartographie la log-vraisemblance sur une grille. La dérivée de log L en p vaut k/p − (n − k)/(1 − p), nulle en p = k/n: le maximum doit tomber exactement sur 0,620.

Le maximum tombe sur 0,620 = k/n, et la log-vraisemblance décroît symétriquement autour de ce sommet: elle perd 0,084 unité à p = 0,60 comme 0,086 à p = 0,64. La vraisemblance ne fournit pas seulement un point: sa courbure autour du maximum annonce la précision de l’estimation, et c’est elle qui, asymptotiquement, produit les intervalles de confiance des pages suivantes.

#Lire correctement un intervalle de confianceCopier le lien

Un intervalle de confiance à 95% ne garantit pas que le paramètre est « dedans »; il garantit la procédure: sur de nombreuses répétitions indépendantes, la proportion d’intervalles qui contiennent la vraie valeur approche le niveau annoncé. La vraie valeur est fixe; c’est l’intervalle qui fluctue d’un échantillon à l’autre.

Exemple minimal, variance connue: des temps de réponse de moyenne inconnue μ, σ = 5 ms connu, n = 100 observations, moyenne observée x̄ = 62,0 ms. L’intervalle est x̄ ± 1,96·σ/√n = 62 ± 1,96×0,5 = [61,02; 62,98]. Formulation correcte: « l’intervalle [61,02; 62,98] a été construit par une procédure qui couvre μ dans 95% des échantillons ». Formulation interdite: « il y a 95% de chances que μ soit dans [61,02; 62,98] ». Cette lecture fréquentiste complète des approches bayésiennes qui, elles, fournissent une distribution a posteriori pour le paramètre une fois les données observées (module Data Science pour la mise en œuvre).

Quand σ est inconnu — le cas réel —, on l’estime et la loi limite de la statistique devient celle de Student: c’est l’objet des pages Tests d’hypothèses et IC et tests en pratique.

#p-value: compatibilité, pas probabilité d’hypothèseCopier le lien

La p-value mesure la compatibilité des données avec une hypothèse nulle H₀: c’est la probabilité, calculée sous H₀, d’observer une statistique de test au moins aussi extrême que celle réalisée. Trois séparations à tenir:

• La p-value n’est pas la probabilité que H₀ soit vraie: H₀ n’est pas aléatoire dans ce cadre, les données le sont.
• Elle n’est pas la taille de l’effet: avec n = 100 000, un effet négligeable peut avoir p = 0,0001.
• Elle n’est pas la probabilité de répliquer: cette dernière dépend de la puissance, pas seulement de H₀.

Une analyse responsable précise la taille d’effet estimée et un intervalle de confiance, pas seulement un seuil de signification. La démarche complète — hypothèses, statistique, décision, rapport — est détaillée dans Proportions: IC et tests et la page Tests d’hypothèses.

#ExercicesCopier le lien

Exercice 1 (EMV Poisson, par le calcul). Un service enregistre ses incidents par semaine: 2, 0, 3, 1, 4 sur cinq semaines. Écrivez la vraisemblance Poisson, montrez que l’EMV de λ est la moyenne des comptages, et donnez sa réalisation.

Corrigé. L(λ) = Π e^(−λ)λ^(xᵢ)/xᵢ!, d’où log L(λ) = −nλ + (Σxᵢ)·log λ + constante. La dérivée vaut −n + (Σxᵢ)/λ, nulle pour λ̂ = (Σxᵢ)/n: c’est un maximum (dérivée seconde −(Σxᵢ)/λ² < 0). Réalisation: (2+0+3+1+4)/5 = 2 incidents par semaine. Propriété agréable: l’EMV Poisson est la moyenne, et sa variance d’échantillonnage vaut λ/n, donc λ̂/n — l’estimation de sa propre précision vient avec l’estimateur.

Exercice 2 (sans biais ne suffit pas: moyenne contre médiane). Pour estimer le centre μ d’une loi normale à partir de n observations, comparez la moyenne empirique et la médiane empirique en erreur quadratique asymptotique.

Corrigé. La moyenne empirique a pour variance σ²/n. La médiane empirique a pour variance asymptotique πσ²/(2n) ≈ 1,57σ²/n: l’erreur quadratique relative de la médiane est π/2 ≈ 1,57 fois celle de la moyenne, toutes deux sans biais. Pour une loi normale, la moyenne gagne. Le tableau s’inverse pour une loi de Laplace (double exponentielle), où la médiane bat la moyenne: le meilleur estimateur dépend de la loi, donc du mécanisme — même morale que pour le choix des lois usuelles.

Exercice 3 (énumération exhaustive, n = 3). Reprenez le playground et vérifiez sur les 216 triplets ordonnés d’un dé que la moyenne de l’estimateur corrigé vaut exactement 35/12 et celle du biaisé 35/18. Expliquez pourquoi le rapport vaut exactement (n−1)/n sans aucune simulation.

Corrigé. C’est le résultat affiché par compare(3): 1,9444 contre 2,9167, rapport 2/3. La raison est l’identité E[Σ(Xᵢ−X̄)²] = (n−1)σ², valable pour tout échantillon i.i.d. de variance finie: les écarts à X̄ utilisent une quantité estimée sur les données eux-mêmes, ce qui « consomme » un degré de liberté. L’énumération exhaustive vérifie l’identité sans aucun aléa; avec un espace d’échantillons plus grand, la simulation Monte Carlo en donnerait la version approchée (Simulation Monte Carlo).

Exercice 4 (vocabulaire en doctoral). Dans la phrase « p = 0,03, l’IC 95% du gain est [1,1; 3,7] points, estimateur 2,4 points », identifiez estimande, estimateur, réalisation, statistique de test et p-value, puis réécrivez la phrase en langage correct.

Corrigé. Estimande: le gain moyen réel Δ (paramètre fixe). Estimateur: Δ̂ = différence des moyennes (statistique, aléatoire avant observation). Réalisation: 2,4 points. Statistique de test: z ou t = Δ̂/erreur-type; p-value: 0,03 = probabilité, si Δ = 0, d’observer |T| au moins aussi grand. Reformulation correcte: « le gain estimé vaut 2,4 points, intervalle construit par une procédure couvrant Δ dans 95% des échantillons [1,1; 3,7] excluant 0, et des données aussi compatibles avec Δ = 0 surviennent dans 3% des échantillons sous Δ = 0 ». Mot plus court: effet estimé, incertitude, compatibilité — dans cet ordre.