Inégalités de Markov et de Bienaymé-Tchebychev

1. Le nombre $X$ de commandes est une variable positive d'espérance $50$. L'inégalité de Markov avec $a = 200$ donne

La seule hypothèse utilisée est la positivité de $X$ — automatique ici, un nombre de commandes ne pouvant être négatif. Remarquable : on ne sait rien de la loi, et l'on obtient tout de même une garantie.

2. On a $E(X) = 20 \times 0{,}5 = 10$, et $X \geqslant 0$. Markov donne

La borne est correcte mais très mauvaise : elle annonce au plus $67\,\%$ là où la valeur réelle est $2{,}1\,\%$, soit un facteur $30$. C'est le prix de la généralité — Markov n'utilise que l'espérance et ignore tout du reste de la loi.

3. La variable est positive, d'espérance

La borne de Markov vaut $\dfrac{E(X)}{a} = \dfrac{a\lambda}{a} = \lambda$ : elle est atteinte.

C'est le point important. Pour toute valeur de $a$ et tout niveau $\lambda$ visé, il existe une variable pour laquelle l'inégalité est une égalité : la majoration ne peut donc pas être améliorée sans hypothèse supplémentaire. Sa médiocrité sur des cas concrets, constatée à la question 2, n'est pas un défaut de la démonstration — c'est le prix à payer pour un énoncé qui s'applique à toutes les variables positives.

4. La fonction $t \mapsto t^r$ est strictement croissante sur $\mathbb{R}_+$, donc pour une variable positive et $a > 0$ les deux événements coïncident :

La variable $X^r$ étant positive, Markov s'applique à elle avec le seuil $a^r > 0$ :

Appliquons avec $r = 2$ à la question 2. La formule de Kœnig-Huygens donne $E(X^2) = V(X) + E(X)^2 = 5 + 100 = 105$, d'où

La borne s'améliore — de $0{,}67$ à $0{,}47$ — sans devenir bonne pour autant. Le principe mérite d'être retenu : plus on injecte d'information sur la loi, meilleure est la majoration. Ici on a utilisé $E(X^2)$ en plus de $E(X)$. Le théorème suivant exploite la même idée d'une façon nettement plus efficace, en centrant la variable avant de l'élever au carré.

1. Les $n$ lancers sont indépendants, à deux issues, de même probabilité de succès $\tfrac12$, et $S_n$ compte les succès :

2. La fréquence $F_n = \tfrac1n S_n$ est une transformée affine de coefficient $a = \tfrac1n$ :

L'espérance ne dépend pas de $n$ — la fréquence vise toujours $\tfrac12$ — tandis que la variance tend vers $0$.

3. Puisque $E(F_n) = \tfrac12$, l'événement considéré est exactement un écart à la moyenne, et Bienaymé-Tchebychev s'applique directement :

À $\varepsilon$ fixé, cette borne tend vers $0$ quand $n \to +\infty$.

C'est un énoncé considérable, et il faut le mesurer. Il affirme que la fréquence observée des piles se concentre autour de $\tfrac12$ : pour tout seuil de tolérance $\varepsilon$, si petit soit-il, la probabilité de le dépasser devient arbitrairement petite pourvu qu'on lance assez de fois. C'est la loi faible des grands nombres, et elle est ici entièrement démontrée à partir de deux résultats du chapitre — l'additivité de la variance et l'inégalité de Bienaymé-Tchebychev.

Elle justifie enfin l'interprétation fréquentiste posée dès le début : si l'on dit qu'une pièce équilibrée donne pile « une fois sur deux », c'est de cela qu'il s'agit, et cela se démontre.

4. On veut $\mathbb{P}\bigl(\lvert F_n - \tfrac12\rvert < 0{,}01\bigr) \geqslant 0{,}95$, c'est-à-dire, en passant au complémentaire,

Il suffit que la borne le garantisse :

Cinquante mille lancers suffisent. Le nombre est énorme, et il faut savoir pourquoi : la borne de Bienaymé-Tchebychev est grossière, et le vrai nombre nécessaire est de l'ordre de $10\,000$. On obtient donc une garantie suffisante, jamais optimale — c'est le sens de « il suffit que » dans la rédaction ci-dessus, et l'implication ne se renverse pas.

5. La fonction $p \mapsto p(1-p)$ atteint son maximum sur $[0,1]$ en $p = \tfrac12$, où elle vaut $\tfrac14$. C'est donc pour la pièce équilibrée que la majoration est la plus mauvaise, donc que la convergence garantie est la plus lente.

Le résultat est cohérent avec la lecture de la variance de Bernoulli faite à la leçon précédente : l'incertitude d'une épreuve à deux issues est maximale quand les deux issues sont également probables. Une pièce très déséquilibrée, disons $p = 0{,}01$, produit des résultats presque déterminés, et sa fréquence se stabilise bien plus vite.

1. L'exponentielle étant strictement croissante sur $\mathbb{R}$ et $\lambda > 0$, on a l'égalité d'événements

La variable $Y = e^{\lambda(S_n - np)}$ est strictement positive, comme exponentielle, et le seuil $e^{n\lambda x}$ est strictement positif. L'inégalité de Markov appliquée à $Y$ donne alors

2. Écrivons $e^{\lambda(S_n - np)} = e^{-\lambda np}\,e^{\lambda S_n}$, où le premier facteur est une constante. Par transfert appliqué à $t \mapsto e^{\lambda t}$ et par la formule du binôme de Newton :

En multipliant par $e^{-\lambda np} = \bigl(e^{-\lambda p}\bigr)^n$ et en faisant entrer ce facteur dans la puissance :

en utilisant $1-p = q$.

3. L'inégalité auxiliaire. Posons $\varphi(t) = e^{t^2} + t - e^{t}$ sur $\mathbb{R}$, et montrons $\varphi \geqslant 0$.

Pour $t \leqslant 0$ : on a $e^{t^2} \geqslant 1$ car $t^2 \geqslant 0$, et l'inégalité de convexité classique $e^t \leqslant 1 + t$ étant fausse en général, procédons autrement. On utilise $1 + t \leqslant e^{t}$ valable pour tout réel, soit $e^{t} - t \geqslant 1$… ce qui va dans le mauvais sens. Reprenons proprement par étude de fonction.

$\varphi$ est dérivable sur $\mathbb{R}$, avec $\varphi'(t) = 2t\,e^{t^2} + 1 - e^{t}$, et $\varphi''(t) = (2 + 4t^2)e^{t^2} - e^{t}$.

Pour $t \geqslant 0$ : on a $t^2 \geqslant 0$ donc $e^{t^2} \geqslant 1$, et il suffit de comparer $2 + 4t^2$ à $e^{t - t^2}$. Or $t - t^2 \leqslant \tfrac14$ pour tout réel $t$, donc $e^{t} \leqslant e^{t^2}e^{1/4} \leqslant 2e^{t^2} \leqslant (2+4t^2)e^{t^2}$, puisque $e^{1/4} \approx 1{,}28 < 2$. Ainsi $\varphi'' \geqslant 0$ sur $\mathbb{R}$ tout entier — le même encadrement valant sans hypothèse de signe sur $t$.

La fonction $\varphi'$ est donc croissante sur $\mathbb{R}$, avec $\varphi'(0) = 0 + 1 - 1 = 0$. Elle est donc négative sur $\mathbb{R}_-$ et positive sur $\mathbb{R}_+$ : $\varphi$ décroît puis croît, atteignant son minimum en $0$, où $\varphi(0) = 1 + 0 - 1 = 0$. D'où $\varphi \geqslant 0$, c'est-à-dire $e^{t} \leqslant e^{t^2} + t$ pour tout réel $t$.

Application. Appliquons cette inégalité à $t = \lambda q$ puis à $t = -\lambda p$ :

Comme $p, q \in [0,1]$, on a $q^2 \leqslant 1$ et $p^2 \leqslant 1$, donc $e^{\lambda^2q^2} \leqslant e^{\lambda^2}$ et $e^{\lambda^2p^2} \leqslant e^{\lambda^2}$, d'où

En reportant dans les questions 1 et 2 :

Optimisation. Cette majoration vaut pour tout $\lambda > 0$ : on choisit celui qui la rend la meilleure. Le trinôme $\lambda \mapsto \lambda^2 - \lambda x$ atteint son minimum en $\lambda = \tfrac x2$, où il vaut $\tfrac{x^2}{4} - \tfrac{x^2}{2} = -\tfrac{x^2}{4}$. Ce choix étant licite puisque $x > 0$ :

4. Posons $T_n = n - S_n$. On a établi à la leçon précédente que $T_n \sim \mathcal{B}(n, q)$. De plus

en utilisant $n - np = nq$. Les questions 1 à 3 appliquées à $T_n$, dont les paramètres $q$ et $p$ jouent des rôles symétriques dans toute la démonstration, donnent donc

Recollement. L'événement $\left\{\left\lvert \tfrac{S_n}{n} - p\right\rvert \geqslant x\right\}$ s'écrit $\{\lvert S_n - np\rvert \geqslant nx\}$, réunion des deux événements incompatibles $\{S_n - np \geqslant nx\}$ et $\{S_n - np \leqslant -nx\}$. L'additivité et les deux majorations donnent

Comparaison. Bienaymé-Tchebychev appliquée à $F_n = \tfrac{S_n}{n}$, de variance $\tfrac{pq}{n}$, donne

Les deux bornes tendent vers $0$, mais à des vitesses sans commune mesure : polynomiale en $\tfrac1n$ pour Tchebychev, exponentielle en $e^{-nx^2/4}$ pour Bernstein. Sur l'exemple de la pièce équilibrée avec $x = 0{,}01$ et $n = 50\,000$, Tchebychev garantit $0{,}05$ tandis que Bernstein garantit $2e^{-1{,}25} \approx 0{,}57$ — moins bon ici, car l'exponentielle ne prend son avantage que pour $n$ grand devant $\tfrac{1}{x^2}$. Pour $n = 10^6$, en revanche, Bernstein donne $2e^{-25} \approx 3 \times 10^{-11}$ contre $2{,}5 \times 10^{-3}$ pour Tchebychev.

Le principe à retenir. Tchebychev n'utilise que la variance ; Bernstein utilise toute la loi, à travers la quantité $E\bigl(e^{\lambda S_n}\bigr)$, qui encode l'ensemble des moments. Plus on injecte d'information sur la loi, meilleure est la concentration obtenue — c'est la même leçon qu'à l'exercice sur Markov, poussée à son terme. Le procédé consistant à appliquer Markov à $e^{\lambda X}$ puis à optimiser en $\lambda$ porte un nom : la méthode de Chernoff, et c'est l'outil standard des inégalités de concentration modernes.