📐 TD5 – Théorèmes Limites & Estimation

Loi des grands nombres, TCL, intervalles de confiance, tests d'hypothèses.

Probabilités / Stats Niveau : Difficile ~3h
Retour aux TDs

TD5 - Vecteurs Gaussiens & Covariance

Étude approfondie de la loi normale multivariée, matrice de covariance, non-corrélation et propriétés des vecteurs gaussiens. Ce TD vous prépare à analyser des systèmes multivariés et leurs dépendances.

Fiche de Révision : Lois et Propriétés Gaussiennes

1. Règle d'Or du Gaussien (Cours 5)

Si $(X,Y)$ est un vecteur Gaussien : $X, Y$ indépendantes $\iff Cov(X,Y)=0$.

Attention : Cette équivalence n'est vraie que pour les vecteurs gaussiens. Dans le cas général, la covariance nulle n'implique pas l'indépendance.

2. Matrice de Covariance $V(X,Y)$

$$V(X,Y)=\\begin{pmatrix} Var(X) & Cov(X,Y) $\$ Cov(X,Y) & Var(Y) \end{pmatrix}$$

La matrice de covariance est toujours symétrique et semi-définie positive.

3. Variance d'une Combinaison Linéaire

$$Var(aX+bY) = a^2 Var(X) + b^2 Var(Y) + 2ab Cov(X,Y)$$

Cette formule se généralise à n variables : $Var(\\sum a_i X_i) = \sum a_i^2 Var(X_i) + 2\\sum_{i<j} a_i a_j Cov(X_i, X_j)$

Tip : Combinaisons linéaires de vecteurs gaussiens

Si $(X,Y)$ est un vecteur Gaussien, toute combinaison linéaire de $X$ et $Y$ est aussi une V.A. gaussienne.

Plus généralement : si $X \sim N(\\mu, \Sigma)$ et $A$ est une matrice, alors $AX \\sim N(A\mu, A\\Sigma A^T)$.

Exercices Corrigés Détaillés

Exercice 5.1 - Variable Centrée Réduite (TD5-1)

Facile

Énoncé : Soit $X \sim N(2, 2^2)$. Calculer $P(0 \\le X < 4)$.

Étape 1 : Standardisation

On centre et réduit $T = (X-2)/2 \sim N(0,1)$.

$$P(0 \\le X < 4) = P\left(\\frac{0-2}{2} \le T < \\frac{4-2}{2}\right) = P(-1 \\le T < 1)$$

Étape 2 : Utilisation des propriétés de symétrie

$$P(-1 \le T < 1) = P(T<1) - P(T \\le -1) = P(T<1) - (1 - P(T \le 1))$$ $$P(-1 \\le T < 1) = 2P(T<1) - 1 = 2P(0 \le T < 1)$$

Étape 3 : Utilisation de la table de la loi normale

En utilisant la table $P(T \\le 1) \approx 0.8413$ :

$$P(-1 \\le T < 1) = 2 \times (0.8413 - 0.5) = 2 \\times 0.3413 = \mathbf{0.6826}$$

Interprétation : La probabilité que X soit dans l'intervalle [0,4] est d'environ 68.26%.

Exercice 5.2 - Indépendance et Covariance (TD5-3)

Difficile

Énoncé : Soit $(X, Y)$ un vecteur gaussien avec $Var(X)=4$, $Var(Y)=1$. On définit $U=2X+Y$ et $V=X-3Y$. On sait que $U$ et $V$ sont indépendantes. Déterminer $Cov(X,Y)$.

Étape 1 : Utilisation de la propriété d'indépendance

Pour un vecteur gaussien, l'indépendance est équivalente à la covariance nulle : $Cov(U, V) = 0$.

Étape 2 : Calcul de $Cov(U, V)$

Utilisation de la bilinéarité de la covariance :

$$Cov(U, V) = Cov(2X+Y, X-3Y)$$ $$= 2Cov(X, X) - 6Cov(X, Y) + Cov(Y, X) - 3Cov(Y, Y)$$ $$= 2Var(X) - 5Cov(X, Y) - 3Var(Y)$$

Étape 3 : Résolution de l'équation

On sait que $Cov(U, V) = 0$, $Var(X)=4$, $Var(Y)=1$ :

$$2 \\times 4 - 5Cov(X, Y) - 3 \times 1 = 0$$ $$8 - 5Cov(X, Y) - 3 = 0$$ $$5 - 5Cov(X, Y) = 0$$ $$Cov(X,Y) = \\mathbf{1}$$

Vérification : Le coefficient de corrélation est $\rho(X,Y) = \\frac{Cov(X,Y)}{\sqrt{Var(X)Var(Y)}} = \\frac{1}{\sqrt{4 \\times 1}} = 0.5$.

Exercice 5.3 - Matrice de Covariance (TD5-3)

Difficile

Énoncé : Calculer la matrice de covariance $V$ du vecteur $(X+Y, 2X-Y)$ avec les données de l'Exercice 5.2 ($Var(X)=4$, $Var(Y)=1$, $Cov(X,Y)=1$).

Étape 1 : Calcul de $Var(X+Y)$

$$Var(X+Y) = Var(X) + Var(Y) + 2Cov(X,Y) = 4 + 1 + 2 \times 1 = 7$$

Étape 2 : Calcul de $Var(2X-Y)$

$$Var(2X-Y) = 4Var(X) + Var(Y) - 4Cov(X,Y) = 16 + 1 - 4 \\times 1 = 13$$

Étape 3 : Calcul de $Cov(X+Y, 2X-Y)$

$$Cov(X+Y, 2X-Y) = 2Cov(X,X) - Cov(X,Y) + 2Cov(Y,X) - Cov(Y,Y)$$ $$= 2Var(X) + Cov(X,Y) - Var(Y) = 2 \times 4 + 1 - 1 = 8$$

Étape 4 : Construction de la matrice de covariance

$$V = \\begin{pmatrix} 7 & 8 $\$ 8 & 13 \end{pmatrix}$$

Vérification : La matrice est bien symétrique et définie positive (déterminant = 7×13 - 8×8 = 91 - 64 = 27 > 0).

Exercice 5.4 - Espérance Conditionnelle (TD5-4)

Moyen

Énoncé : Reprendre le couple (X,Y) du TD4-2 (loi jointe donnée). Calculer $E(X|Y \\ne 2)$.

Étape 1 : Calcul de $P(Y \ne 2)$

$$P(Y \\ne 2) = 1 - P(Y=2) = 1 - 0.20 = 0.80$$

Étape 2 : Calcul des probabilités conditionnelles

$$P(X=-2|Y \ne 2) = \\frac{P(X=-2, Y \ne 2)}{0.8} = \\frac{0.2+0.2}{0.8} = 0.5$$ $$P(X=0|Y \ne 2) = \\frac{P(X=0, Y \ne 2)}{0.8} = \\frac{0.1+0.1}{0.8} = 0.25$$ $$P(X=1|Y \ne 2) = \\frac{P(X=1, Y \ne 2)}{0.8} = \\frac{0.2+0}{0.8} = 0.25$$

Étape 3 : Calcul de l'espérance conditionnelle

$$E(X|Y \ne 2) = (-2)(0.5) + (0)(0.25) + (1)(0.25) = -1 + 0 + 0.25 = \\mathbf{-0.75}$$

Interprétation : Sachant que Y n'est pas égal à 2, l'espérance de X est -0.75.

Quiz TD5 & Exercices Supplémentaires

Fiche d'Exercices Supplémentaires

  • TD5-2 : Étudier le vecteur non-gaussien $Y=\epsilon X$ où $X \\sim U(-1,1)$ et $\epsilon$ est un signe aléatoire pour prouver la non-réciproque de la Règle d'Or.
  • Vecteurs gaussiens : Étudier les propriétés de transformation linéaire des vecteurs gaussiens.
  • Matrice de covariance : Calculer la matrice de covariance pour des vecteurs de dimension supérieure à 2.
  • Indépendance et corrélation : Construire des exemples de variables non corrélées mais dépendantes.

QUIZ TD5 - Corrélation et Indépendance

Question 1 : Si $\\rho(X,Y)=1/2$, est-ce que $X$ et $Y$ sont indépendantes ?

Question 2 : Pour un vecteur gaussien $(X,Y)$, que peut-on dire si $Cov(X,Y)=0$ ?

Question 3 : La covariance peut-elle être négative ? Donner une interprétation.

Réponse 1 :

Non. Un coefficient de corrélation non nul ($\ne 0$) indique une dépendance linéaire, donc une dépendance tout court. L'indépendance implique une corrélation nulle, mais la réciproque n'est vraie que pour les vecteurs gaussiens.

Réponse 2 :

Pour un vecteur gaussien, si $Cov(X,Y)=0$, alors $X$ et $Y$ sont indépendantes. C'est la fameuse "règle d'or" des vecteurs gaussiens.

Réponse 3 :

Oui, la covariance peut être négative. Une covariance négative indique que lorsque X augmente, Y a tendance à diminuer, et vice versa.

Justification : Ces propriétés sont fondamentales pour comprendre les relations entre variables aléatoires.

Exercice 5.5 - Combinaison Linéaire de Gaussiennes

Difficile

Énoncé : Soit (X,Y) un vecteur gaussien avec E(X)=1, E(Y)=2, Var(X)=4, Var(Y)=9, Cov(X,Y)=3. Soit Z = 2X − Y + 1. Déterminer la loi de Z.

Z est une combinaison linéaire d'un vecteur gaussien, donc Z est gaussienne.

$E(Z) = 2E(X) - E(Y) + 1 = 2 \\times 1 - 2 + 1 = \mathbf{1}$ $Var(Z) = 4Var(X) + Var(Y) - 4Cov(X,Y) = 4 \\times 4 + 9 - 4 \times 3$ $Var(Z) = 16 + 9 - 12 = \\mathbf{13}$

Donc : Z ~ N(1, 13).

Exercice 5.6 - Théorème Central Limite (TCL)

Difficile

Énoncé : On lance 100 dés équilibrés. Soit S la somme des résultats. Approximer P(320 ≤ S ≤ 380) par le TCL.

Pour un dé : E(X)=3,5, V(X)=35/12 ≈ 2,917.

Pour 100 dés : E(S)=350, V(S)=100×35/12 ≈ 291,7, σ_S ≈ 17,08.

$P(320 \le S \\le 380) \approx P\\left(\frac{320-350}{17{,}08} \\le Z \le \\frac{380-350}{17{,}08}\right)$ $= P(-1{,}76 \\le Z \le 1{,}76) = 2\\Phi(1{,}76) - 1$ $\approx 2 \\times 0{,}9608 - 1 = \mathbf{0{,}9216 \\);(92{,}16\(%)}$

Exercice 5.7 - Intervalle de Confiance

Moyen

Énoncé : Sur 400 personnes interrogées, 220 déclarent voter pour le candidat A. Donner un intervalle de confiance à 95% pour la proportion réelle p.

Estimation : p̂ = 220/400 = 0,55. Pour n=400, IC à 95% :

$IC = \\hat{p} \pm 1{,}96 \\sqrt{\frac{\\hat{p}(1-\hat{p})}{n}}$ $= 0{,}55 \\pm 1{,}96 \sqrt{\\frac{0{,}55 \times 0{,}45}{400}}$ $= 0{,}55 \\pm 1{,}96 \times 0{,}0249 = 0{,}55 \\pm 0{,}0488$ $IC = \mathbf{[0{,}5012 \\);;\; 0{,}5988]}$

La proportion réelle est entre 50,12% et 59,88% avec 95% de confiance.

QCM TD5 – 8 Questions

Q1. Pour un vecteur gaussien, Cov(X,Y)=0 implique :

Q2. La matrice de covariance est toujours :

Q3. Si (X,Y) gaussien, alors aX+bY suit :

Q4. Le TCL dit que la somme de n VA i.i.d. centrées réduites converge vers :

Q5. Un intervalle de confiance à 95% pour p utilise le quantile :

Q6. Si ρ(X,Y)=0,8 et Var(X)=Var(Y), alors Var(X+Y) = :

Q7. La règle d'or des vecteurs gaussiens est :

Q8. Pour une matrice de covariance Σ, le coefficient en position (i,j) est :

R1 : X et Y sont indépendantes. C'est la « règle d'or » des vecteurs gaussiens.

R2 : Symétrique et semi-définie positive.

R3 : Une loi normale (toute combinaison linéaire d'un vecteur gaussien est gaussienne).

R4 : N(0,1), la loi normale centrée réduite.

R5 : z₀,₉₇₅ ≈ 1,96 (quantile d'ordre 0,975 de N(0,1)).

R6 : Var(X+Y)=Var(X)+Var(Y)+2Cov=σ²+σ²+2×0,8×σ²=2σ²+1,6σ²=3,6σ².

R7 : Indépendance ⇔ Covariance nulle (équivalence unique aux vecteurs gaussiens).

R8 : Cov(Xᵢ, Xⱼ). La diagonale contient les variances Var(Xᵢ).

Méthodologie : Vecteurs Gaussiens et Théorèmes Limites

  1. Vecteur gaussien : Toute combinaison linéaire est gaussienne. Indépendance ⇔ Cov=0.
  2. Matrice de covariance : Σ = E[(X−μ)(X−μ)ᵀ]. Pour AX+b : Cov(AX+b) = AΣAᵀ.
  3. TCL : (Sₙ−nμ)/(σ√n) → N(0,1). Valable pour n ≥ 30 en pratique. Indispensable pour les intervalles de confiance.
  4. IC proportion : p̂ ± z_α/₂ √(p̂(1−p̂)/n). n doit être assez grand (np̂≥5 et n(1−p̂)≥5).
  5. Règle d'or : Ne l'appliquer que si le vecteur est explicitement gaussien. Dans le cas général, Cov=0 n'implique pas l'indépendance.