\documentclass[12pt,a4paper]{article}
\usepackage[latin1]{inputenc}
\usepackage{fullpage}
\usepackage[pdftex]{graphicx}
\usepackage[french]{babel} 
\usepackage{amsmath}
\usepackage{amsfonts}
\usepackage{amssymb}
\newtheorem{theo}{Th\'{e}or\`{e}me}[section]   
\newtheorem{lem}{Lemme}
\newtheorem{de}{D\'{e}finition}
\newtheorem{cor}{Corollaire} 
\newtheorem{prop}{Propri\'{e}t\'{e}}
\newtheorem{ex}{Exemple}
\author{Antoine Barb\'{e}\\      
       Universit\'{e} de Rennes 1
         \and 
       Cl\'{e}ment Gu\'{e}rin \\ ENS Cachan}
\title{{\Huge  Le\c con 251: Ind\'{e}pendance d'\'{e}v\`{e}nements et de variables al\'{e}atoires.}}



\begin{document}


\maketitle
\newpage
\tableofcontents

\newpage


Dans l'ensemble de la le\c con ($\Omega , \cal A$ $, P)$ est un espace probabilis\'{e}.

\section{[P], D\'{e}finitions et crit\`{e}res d'ind\'{e}pendance.  [BAR]} 
\bigskip
\subsection{D\'{e}finitions.}
\medskip
\begin{de} : (i) Une famille quelconque d'\'{e}v\`{e}nements $(A_i)\in \cal(A)^I$ est mutuellement ind\'{e}pendante si: $\forall J\subset I \quad fini \qquad P(\bigcap_{j \in J} A_j)=\prod_{j \in J} P(A_j).$
\end{de}
\underline{Exemple:} Jet de deux d\'{e}s (Bleu, Rouge) \\
Soient A, B, C trois \'{e}v\`{e}nements repr\'{e}sentant respectivement le d\'{e} rouge est impaire, le d\'{e} bleu est impair, la somme des deux d\'{e}s est impair. \\
$P(A)=P(B)=P(C)=1/2 $ et $P(A\bigcap B)=P(A\bigcap C)=P(B\bigcap C)=1/4$, mais $P(A\bigcap B \bigcap C)=\emptyset \neq 1/8$. \\
Ainsi, A, B, et C sont deux \`{a} deux ind\'{e}pendants mais pas mutuellement ind\'{e}pendants.

\begin{de} :
\begin{itemize}
\item[(ii)]Une famille de sous-tribus $(A_i) \in P(\cal A)^{I}$ est mutuellement ind\'{e}pendante si $\forall A_i \in \cal A_i,$ $(A_i)\in \cal A^{I}$ est mutuellement ind\'{e}pendante.
\item[(iii)]Soit $(X_i)$ famille de variables al\'{e}atoires de $(\Omega , \cal A$ $, P)$ dans $ (E,\cal B) $ est mutuellement ind\'{e}pendante si la famille des tribus engendr\'{e}es par les $X_i$ est mutuellement ind\'{e}pendante, ie: \\
$\forall J\subset I \quad fini, \quad \forall B_j\in \cal B$ $P(X_j \in B_j | j \in J):=P(\bigcap \{X_j \in B_j\})=\prod_{j \in J} P(X_j \in B_j)$.
\end{itemize}
\end{de}
\underline{Exemple:} jet de deux d\'{e}s.\\
Soient $X_a$, $X_b$ deux variables al\'{e}atoires donnant respectivement le r\'{e}sultat du d\'{e}rouge et celui du d\'{e} bleu. Ces deux variables sont ind\'{e}pendantes.\\
\\
Remarque : L'ind\'{e}pendance de tribus est difficile \`{a} prouver en g\'{e}n\'{e}ral, pour la prouver en pratique on la r\'{e}sultat suivant: 

\begin{prop} : 
Si $C_1$ et $C_2$ sont deux alg\`{e}bre ind\'{e}pendantes (m\^{e}me d\'{e}finition que pour les tribus) alors $\sigma (C_1)$ et $\sigma (C_2)$ sont ind\'{e}pendantes.
\end{prop}

\bigskip

\subsection{Ind\'{e}pendance de variables al\'{e}atoires et corr\'{e}lation.}
\medskip
\begin{prop}:
Soit $(X_1,...,X_d)$ une famille de variables al\'{e}atoires ind\'{e}pendantes r\'{e}elles, alors $p^{(x_1,...,x_d)}$ la loi du vecteur al\'{e}atoire sur $(\mathbb{R}^{d},B(\mathbb{R}^{d}))$ est \'{e}gale au produit des lois marginales $p^{X_1}\otimes...\otimes p^{X_d}$.\\
R\'{e}ciproquement si $p^{(x_1,...,x_d)}=p^{X_1}\otimes...\otimes p^{X_d}$ alors $(X_1,..., X_d)$ est ind\'{e}pendantes.
\end{prop}
\underline{Exemple:}Dans $\mathbb{R}^2$ 

\medskip
\begin{tabular}{c c|c|c|c|}

   \multicolumn{5}{c}{$X_1$} \\

   & 0 & -1 & 0 & 1 \\
\cline{2-5}
  $X_2$ &  -1 & 0 & 1/4 & 0 \\
\cline{2-5}
  & 0 & 1/4 & 0 & 1/4 \\
\cline{2-5}
  & 1 & 0 & 1/4 & 0 \\
\cline{2-5}
\end{tabular}
\medskip

On pose $X=(X_1,X_2)$, on a : $p^X= \dfrac{1}{4} \delta_{(-1,0)} + \dfrac{1}{4} \delta_{(0,1)}+\dfrac{1}{4} \delta_{(1,0)} + \dfrac{1}{4} \delta_{(0,-1)}$, alors $P(X=(0,0))=0 \neq \dfrac{1}{4} = P(X_1=0)P(X_2=0)$, ainsi $X_1$ et $X_2$ ne sont pas ind\'{e}pendantes.\\
 \\
\underline{Exemple:} Ind\'{e}pendance non intuitive: Loi de $\gamma$ et $\beta$ [D\'EVELOPPEMENT][OUV2] (p74).\\
\\
\underline{Exemple:}
La loi uniforme sur $[0,1]^2$ a pour lois marginales les lois uniformes sur $[0,1]$.

\begin{cor}:
Soit $(X_i)_{i \in I}$ suite de variables al\'{e}atoires r\'{e}elles ind\'{e}pendantes si et seulement si $\forall J \subset I$ fini, $ \forall \phi_j$ fonction bor\'{e}lienne telle que $\phi_j(X_j)$ int\'{e}grables, on ait : 
\begin{center}
$ E(\prod \phi_j(X_j))= \prod (E(\phi_j(X_j))) $.
\end{center}
\end{cor}

\begin{de}:
Deux variables al\'{e}atoires  $X$ et $Y$ dans $L^2(\Omega, \cal A$ $, P) $ sont non corr\'{e}l\'{e}es si : \\
 $E(XY)=E(X)E(Y) \Leftrightarrow E((X-E(X))(Y-E(Y)))=Cov(X,Y)=0 \Leftrightarrow X - E(X)$ et $ Y-E(Y)$ sont orthogonales.
\end{de}
Remarque : D'apr\`{e}s ce qui pr\'{e}c\`{e}de on a $X,Y$ ind\'{e}pendantes implique $X,Y$ non corr\'{e}l\'{e}es.\\
\\
\underline{Contre-exemple :} $Y=X^2$, $X\sim \cal N$ $(0,1)$, $E(X)=0$ et $E(XY)=0$, ainsi $E(X)E(Y)=E(XY)$ mais $X$ et $Y$ ne sont pas ind\'{e}pendantes:\\ $P(|X| \leq 1, Y\geq 1)=0 \neq P(|X|\leq 1)P(Y\geq 1)$.

\bigskip

\subsection{Ind\'{e}pendance, fonctions caract\'{e}ristiques et de r\'{e}partitions.}
\medskip

\begin{de}:
$\varphi_X: \mathbb{R}^d\rightarrow \mathbb{R}$  \hspace{1cm} o\`{u} $X$ est une variable al\'{e}atoire r\'{e}elle d-dimensionnelle.
 
\hspace{3,4cm} $t\mapsto E(e^{i<t,k>)}$ 

\end{de}

\begin{prop}:
Une famille $(X_1,...,X_n)$ de variables al\'{e}atoires est une famille ind\'{e}pendante si et seulement si : $\forall (t_1,...,t_n) \in \mathbb{R}^n$, $ \varphi_{(X_1,..,X_n)}(t_1,...,t_n)=\prod_{i=1}^n \varphi_{X_i}(t_i).$
\end{prop}

\begin{prop}:
Soient $X_1$ et $X_2$ deux variables al\'{e}atoires, elles sont ind\'{e}pendantes si et seulement si $F_{X_1,X_2}(x_1,x_2)=F_{X_1}(x_1)F_{X_2}(x_2).$
\end{prop}

\subsection{Corr\'{e}lation et vecteur gaussien.}

\begin{de}
Un vecteur $X=(x_1,...,x_d): ( \Omega, \cal A$ $,P)\rightarrow ( \mathbb{R}^d, B(\mathbb{R}^d))$ est dit gaussien si $\forall \alpha \in \mathbb{R}$, $\sum_{i=1}^d \alpha_i X_i$ est une variable al\'{e}atoire gaussienne.\\
Dans ce cas, $\sum \alpha_i X_i \sim \cal N$ $( \sum \alpha_i E(X_i),\sum \alpha_i \alpha_j Cov(X_i,X_j))$.
\end{de}

\begin{prop}:
Un vecteur gaussien est enti\`{e}rement d\'{e}termin\'{e} par $m=E(X_i)$ et $\Gamma=Cov(X_i,X_j)$.
\end{prop}

\begin{theo}:
Soit $X$ un vecteur gaussien de $\mathbb{R}^d$ de matrice de covariance $\Gamma$. $\Gamma$ est diagonale si et seulement si $(X_1,...,X_d)$ est ind\'{e}pendante.
\end{theo}
Remarque: La condition $\Gamma$ diagonale est \'{e}videmment n\'{e}cessaire (vrai dans le cas g\'{e}n\'{e}ral), la r\'{e}ciproque fausse dans le cas g\'{e}n\'{e}ral est vrai dans ce cas, n\'{e}anmoins la condition vecteur gaussien est une condition forte:\\
\\
\underline{Contre-exemple:}
Il ne suffit pas, pour que $X$ soit gaussien que ses marginales soient gaussiennes:\\
$Z\sim \cal N$ $(0,1)$ , $\epsilon$ de Rademacher: $\epsilon= \dfrac{1}{2}\delta_{-1}+\dfrac{1}{2}\delta_1$.\\
$Z$ et $\epsilon$ sont ind\'{e}pendants, alors $(Z,\epsilon Z)$ n'est pas gaussien mais de marginales gaussiennes.

\bigskip
\bigskip

\section{[P], Nombre fini de variables al\'{e}atoires r\'{e}elles ind\'{e}pendantes.}

\bigskip

\subsection{Somme de variables al\'{e}atoires ind\'{e}pendantes. [BAR]}

\begin{prop}:
Soient $X$ et $Y$ deux variables al\'{e}atoires r\'{e}elles ind\'{e}pendantes, la loi de la somme $X+Y$ est donn\'{e}e par $p^X*p^Y$ o\`{u}:
\end{prop}

\begin{de}:
$\forall \phi$ bor\'{e}lienne born\'{e}e de $\mathbb{R}$ dans $\mathbb{R}$:\\
$\int_{\mathbb{R}} \phi d(p^X * p^Y)= \int_{\mathbb{R}}(\int_{\mathbb{R}} \phi (x+y) dp^Y(y)) dp^X(x)= \int_{\mathbb{R}}(\int_{\mathbb{R}} \phi (x+y) dp^X(x))dp^Y(y).$
\end{de}

\begin{prop}:
\begin{itemize}
\item $P* \delta_0 = P$
\item $P*Q=Q*P$
\item $(P*Q)*R=P*(Q*R)$
\item $P*(\lambda Q + (1- \lambda)R)= \lambda(P*Q)+(1- \lambda)P*R$
\end{itemize}
\end{prop}

\begin{prop}
Soient $X$ et $Y$ deux variables al\'{e}atoires r\'{e}elles ind\'{e}pendantes sur $(\Omega, \cal A$ $, P)$, la fonction caract\'{e}ristique de leur somme est donn\'{e}e par : \\
$\forall t \in \mathbb{R}$ , $ \varphi_{X+Y}(t)= \varphi_X(t) \varphi_Y(t)$
\end{prop}
\underline{Exemple:}
\begin{itemize}
\item Soient $X$ et $Y$ deux variables al\'{e}atoires ind\'{e}pendantes telles que $X\sim \cal P(\lambda)$ et $Y\sim \cal P(\mu)$ alors $(X+Y) \sim \cal P(\lambda +\mu)$. ($ \varphi_X(t)= e^{\lambda (e^{it}-1)}$)
\item Soient $X$ et $Y$ deux variables al\'{e}atoires ind\'{e}pendantes \`{a} densit\'{e} $f$ et $g$ alors $(X+Y)$ a pour densit\'{e} $f*g$.
\end{itemize}.\\
\\
Remarque: $\varphi_{X+Y}=\varphi_X \varphi_Y \nRightarrow$ $X$ et $Y$ ind\'{e}pendantes. [OUV2]\\
Pour le contre-exemple $Z=(X,Y)$ qui a pour densit\'{e} $f(x,y)=\dfrac{1}{4} 1_C (x,y)[1+xy(x^2-y^2)]$ o\`{u} $C=[-1,1]^2 $.

\bigskip

\subsection{Retour sur les variables al\'{e}atoires gaussiennes. [OUV2](exo 13.3 et 13.4)}
\medskip

On donne dans cette partie deux caract\'{e}risations de lois gaussiennes.
\\
\begin{itemize}
\item[$\rightarrow$] Caract\'{e}risation des lois gaussiennes sur $\mathbb{R}$:
\end{itemize}
$X$ et $Y$ deux variables al\'{e}atoires r\'{e}elles admettant un moment d'ordre 2 de m\^{e}me loi $\mu$ telle que $E(X)=0$, $E(X^2)= \sigma^2$ et $X$ et $Y$ ind\'{e}pendantes.

$\mu \sim \cal N$ $(0, \sigma^2)$ si et seulement si $\dfrac{X+Y}{\sqrt{\epsilon}}$
\\
\begin{itemize}
\item[$\rightarrow$]
Caract\'{e}risation des variables al\'{e}atoires gaussiennes: Th\'{e}or\`{e}me de Bernstein.
\end{itemize}
$X$ et $Y$ deux variables al\'{e}atoires  r\'{e}elles ind\'{e}pendantes telles que $(X+Y)$ et $(X-Y)$ sont ind\'{e}pendantes, alors: $X$ et $Y$ sont des gaussiennes.

\bigskip

\subsection{ Lois infiniment divisibles. [COT](p135)} 

\begin{de}:
\begin{itemize}
\item Soit $\cal R$ une loi de probabilit\'{e} sur $(\mathbb{R}, B(\mathbb{R}))$ est infiniment divisible si $\forall n \in \mathbb{N^*}$, $\exists Q_n$ tel que $\cal R$ $= Q_n^{*n}$
\item De mani\`{e}re \'{e}quivalente une variable al\'{e}atoire r\'{e}elle $X$ est infiniment divisible si $\forall n \in \mathbb{N^*}$, $\exists X_{1,n}...X_{n,n}$ iid tels que $X \sim X_{1,n}+...+X_{n,n}$.
\end{itemize}
\end{de}

\begin{prop}:
$X$ est infiniment divisible si et seulement si $p_X$ l'est.
\end{prop}

\begin{prop}:
$X$ est infiniment divisible si et seulement si $ \forall n \in \mathbb{N^*}$ , $ \varphi_X=(\varphi_n)^n$ o\`{u} $\varphi_n$ est une fonction caract\'{e}ristique.
\end{prop}
\underline{Exemple:}
\begin{itemize}
\item $X \sim \cal N$ $(\mu, \sigma^2)$ $\longrightarrow$ $X_{k,n} \sim \cal N$ $(\dfrac{\mu}{n}, \dfrac{\sigma^2}{n})$
\item $X \sim \cal P(\lambda)$  $\longrightarrow$ $X_{k,n} \sim \cal P$ $(\dfrac{\lambda}{n})$ 
\item $X \sim \gamma(a,\lambda)$  $\longrightarrow$ $X_{k,n} \sim \gamma(\dfrac{a}{n},\lambda)$ 
\item $X \sim \cal C$ $(c)$  $\longrightarrow$ $X_{k,n} \sim \cal C$ $(\dfrac{c}{n})$ 
\end{itemize}

Le th\'{e}or\`{e}me suivant est plus compliqu\'{e} \`{a} d\'{e}montrer, n\'{e}anmoins il fournit une formule g\'{e}n\'{e}rale pour la fonction caract\'{e}ristique d'une variable al\'{e}atoire infiniment divisible.

\begin{theo}:
$X$ est infiniment divisible  si et seulement si sa fonction caract\'{e}ristique $\varphi$ est de la forme:\\
\begin{center}
$\varphi (u) = e^{i\beta u - \dfrac{\sigma^2u^2}{2}}exp(\int (e^{iux}-1-\dfrac{iux}{1+x^2})(\dfrac{1+x^2}{x^2})\gamma(dx)$
\end{center}
o\`{u} $(\beta, \sigma) \in \mathbb{R^2}$ et $\gamma$ mesure finie ne changeant pas l'origine.
\end{theo}

\bigskip

\section{[P], Convergence de suites et ind\'{e}pendance.}

\bigskip

\subsection{Convergence en loi de somme de variables al\'{e}atoires iid. [COT]}

\medskip

\begin{prop}:
$X_n \stackrel{\cal{L}}{\rightarrow}$ $X$ o\`{u} $(X_n), X$ sont des variables al\'{e}atoires. Alors $(X_n)$ est tendue, ie $\forall \epsilon > 0, \exists$ compact $K$ tel que $\forall n \in \mathbb{N}$, $P(X_n \in K) \geq 1- \epsilon$ .
\end{prop}

\begin{theo}: Helly:
Soit $(F_n)$ une suite de fonctions de r\'{e}partitions, $\exists F$ croissante continue \`{a} gauche tel que $0\leq F \leq 1$ et une sous-suite $F_{n_{k}}$ tel que: \\
\begin{center}
$F_{n_{k}}(t) \rightarrow F(t)$ en tout point $t$ de continuit\'{e} de $F$.
\end{center}
\end{theo}

\begin{theo}: Prohorov:
Soit $\phi$ une famille de probabilit\'{e} de $(\mathbb{R}, B(\mathbb{R}))$, les propri\'{e}t\'{e}s suivantes sont \'{e}quivalentes: 
\begin{itemize}
\item[(i)] $\forall \epsilon > 0$, $\exists K$ compact de $\mathbb{R}$ tel que: $\forall Q \in \phi $, $Q(K)\geq 1-\epsilon$.
\item[(ii)] De toute suite $(Q_n)$ d'\'{e}l\'{e}ments de $\phi$, $\exists n_{k}$ et $Q$ tels que: $Q_{n_{k}} \stackrel{\cal{L}}{\rightarrow}$ $Q$.
\end{itemize}
\end{theo}

\begin{cor}:
Soient $m \in \mathbb{N}$ fix\'{e} et $\forall i \in \mathbb{N}$, $(X_{i,m})$iid, on pose $S_m=X_{1,m}+...+X_{m,m}$ et on a $S_m \stackrel{\cal{L}}{\rightarrow}$ $S$, alors $S$ est infiniment divisible.
\end{cor}
Remarque: Toutes les convergences consid\'{e}r\'{e}es par la suite seront dans ce cadre l\`{a}.

\bigskip

\subsection{Loi faible des grands nombres. [ZQ]}

\medskip
\begin{prop}:
\begin{itemize}
\item In\'{e}galit\'{e} de Markov: 
\begin{center}
$X \in L^1$, $t>0$, $P(|X|\geq t) \leq \dfrac{E(|X|)}{t}$.
\end{center}
\item In\'{e}galit\'{e} de Tchebycheff:
\begin{center}
$X \in L^2$, $t>0$, $P(|X-E(X)|\geq t) \leq \dfrac{Var(X)}{t^2}$.
\end{center}
\end{itemize}
\end{prop}

\begin{theo}: Loi faible des grands nombres:\\
Soient $X \in L^2$, $(X_n)_{n\geq 1}$ iid et $S_n= \sum_{i=1}^n X_i$, alors $\forall t>0$, $P(|\dfrac{S_n}{n}-E(X)|> t) \leq \dfrac{Var(X)}{nt^2}$.\\
En particulier $\dfrac{S_n}{n} \stackrel{P}{\rightarrow} E(X)$.
\end{theo}
Dans le cadre de la loi faible des grands nombres, on peut d\'{e}montrer le th\'{e}or\`{e}me de Weierstrass sur $[0,1]$ par les polyn\^{o}mes de Bernstein: 

\begin{theo}: [D\'EVELOPPEMENT] \\
soit $f: [0,1] \rightarrow \mathbb{C}$ continue, alors $||f-B_n(f)||_\infty \leq C \omega(\dfrac{1}{\sqrt{n}})$, o\`{u} $\omega$ module de continuit\'{e} de $f$. De plus, c'est optimal.
\end{theo} 

\bigskip

\subsection{Lemme de Borel-Cantelli et loi forte des grands nombres. [BAR]}

\medskip

\begin{de}:
Soit $(T_n)$ une famille de tribus, ind\'{e}pendante. $\cal A$ $_n= \sigma(T_n, T_{n+1})$, on pose $\cal A$ $_\infty = \bigcap \cal A$ $_n$ est la tribu terminale.
\end{de}

\begin{theo}: Loi du $0-1$:\\
Si $\cal A$ $_\infty$ tribu terminale, alors $\forall A\in \cal A$ $_\infty$, $P(A)=0$ ou $1$.
\end{theo}

\begin{de}:
Soit $(A_n)$ une suite d'\'{e}v\'{e}nements $A= \bigcap_{n\in \mathbb{N}}$  $\bigcup_{m\geq n}$ $A_m=\{A_n$ a lieu une infinit\'{e} de fois $\}$. On le note $A_n$ i.s. (infiniment souvent), on le note aussi $limsup A_n$.
\end{de}

\begin{theo}: Lemme de Borel-Cantelli:\\
$(A_n)$ suite d'\'{e}v\'{e}nements\\
\begin{itemize}
\item[i)] $\sum P(A_n) < + \infty$ $\Rightarrow P(A_n i.s.)=0$.
\item[ii)] Si $(A_n)$ ind\'{e}pendants alors $\sum P(A_n)= \infty$ $\Rightarrow P(A_n i.s.)=1$.
\end{itemize}
\end{theo}
\underline{Contre-exemple:}ii)ind\'{e}pendant: $\Omega=[0,1]$, $A_n=]0,\dfrac{1}{n}]$ alors $\sum P(A_n)= \infty$ et $P(A_n i.s.)=0$.

\begin{theo}: Loi forte des grands nombres:\\
Soit $(X_i)$ suite iid telle que $\forall i $,  et $X_i$ $\sim$  $X$ et $ S_n= \sum_{i=1}^n X_i$, alors: \\
\begin{center}
$E(|X|)<+ \infty$ si et seulement si $\dfrac{S_n}{n}\rightarrow E(X)$ presque s\^{u}rement.
\end{center}
\end{theo}
\underline{Contre-exemple:} Si $X_i \sim \cal C$ $(C)$ alors $\dfrac{S_n}{n} \sim \cal C$ $(C)$, donc $\dfrac{S_n}{n} \rightarrow X$ mais $E(|X|)= +\infty$.\\
\\
\underline{Exemple:} $U$ identit\'{e} sur $[0,1]$, $\omega \in [0,1]$, $U(\omega)= \sum 2^{-i} U_i(\omega)$ d\'{e}veloppement dyadique de $U(\omega)$. $U_i \sim B(1,\dfrac{1}{2})$ et $(U_i)$ ind\'{e}pendants.\\
On a, par la loi forte des grands nombres, $P(\omega: lim_{n \rightarrow \infty} \dfrac{1}{n} \sum_{1\leq i\leq n} U_i(\omega)=\dfrac{1}{2})=1$. Ainsi presque tout $\omega$ dans $[0,1]$ admet en moyenne autant de $0$ que de $1$ dans son d\'{e}veloppement dyadique.

\bigskip 

\subsection{Th\'{e}or\`{e}me central-limite. [BAR]}

\medskip

\begin{theo}: Central-limite:\\
Soit $X_i$ iid tels que $X_i \sim X$, on pose $S_n=\sum_{i=1}^n X_i$, on a : \\
\begin{itemize}
\item[i)] si $E(X^2)<\infty$ alors $\dfrac{S_n-nE(X)}{\sqrt{nVar(X)}} \stackrel{\cal{L}}{\rightarrow} \cal N$ $(0,1)$.
\item[ii)] si $\dfrac{S_n}{\sqrt{n}}$ converge en loi, alors $E(X)=0$, $E(X^2)<\infty$ et la loi limite est normale centr\'{e}e de variance $Var(X)$.
\end{itemize}
\end{theo}
Applications: \\
\begin{itemize}
\item Crit\`{e}re empirique d'ind\'{e}pendance.
\item Statistique.
\end{itemize}


\textbf{\underline{BIBLIOGRAPHIE:}}
\begin{itemize}
\item [BAR]: Barbe, Ledoux \underline{Probabilit\'{e}}.
\item [OUV2]: Oubrad \underline{Probabilit\'{e}s 2}.
\item [Cot]: Cottrel, ..., \underline{Exercices de probabilit\'{e}s}.
\item [ZQ]: Zuily Queffelec \underline{Analyse pour l'agr\'{e}gations}.
\end{itemize}

Bonne Lecture! 

\newpage

\section{Développements}

\bigskip

\subsection{Indépendance non-intuitive}

\bigskip


Ce développement permet d'illustrer une méthode pour démontrer l'indépendance de variables aléatoires à densité $U$ et $T$ : montrer que la densité du couple s'écrit comme le produit des densités. L'énoncé est le suivant :

\bigskip

\begin{prop}
 
Soit $X$ et $Y$ indépendantes de loi $\gamma(a,p)$ et $\gamma(b,p)$ où $a$,$b$,$p>0$.

On pose $U=X+Y$ et $T=\frac{X}{X+Y}$.

\bigskip

Alors on a $U\bot T$. On peut de plus déterminer les lois de $U$ et $T$.

\end{prop}


On notera $C_c^{+}(\mathbb{R}^2)$ l'ensemble des fonctions continues positives à support compact, $E$ l'espérance et pour toute variable aléatoire $X$ à densité $f_X$ sa densité.

\bigskip


Pour commencer il faut vérifier que $T$ soit bien définie, en effet $X\bot Y$, $X$ à densité et $Y$ à densité impliquent que $X+Y$ est à densité et donc :

$$ P(X+Y=0)=0$$



Ainsi $T$ est bien définie (presque sûrement).

\bigskip


Soit $f\in C_c^{+}(\mathbb{R}^2)$, il s'agit d'écrire $E(f(U,T))$ sous la forme $\int_{\mathbb{R}^2}f(u,t)g(u,t)du\:dt$ où $g$ est une fonction mesurable sur $(\mathbb{R})^2$ (qui ne dépend pas de $f$), $g$ sera alors la densité de $(U,T)$, puis $g(u,t)=a(u)b(t)$ où  $a$ et $b$ sont des densités sur $\mathbb{R}$, on aura alors que $U$ est de densité $a$, $T$ de densité $b$ et $U\bot T$.


\bigskip

$E(f(U,T))=E(f(X+Y,\frac{X}{X+Y}))= \int_{\mathbb{R}^2}f(x+y,\frac{x}{x+y})f_X(x)f_Y(y)dx\:dy$

\bigskip

On utilise ici l'indépendance de $X$ et $Y$ et le  théorème de transfert.

\bigskip

On explicite maintenant les densités de $X$ et $Y$ nulles sur pour tout $t\leq 0$ :

$$f_X(x)=\frac{1}{\Gamma(a)p^a}e^{-px}x^{a-1}$$

$$f_Y(y)=\frac{1}{\Gamma(b)p^b}e^{-py}y^{b-1}$$

\bigskip

$E(f(U,T))=\int_{(\mathbb{R}^{+*})^2}f(x+y,\frac{x}{x+y})\frac{1}{\Gamma(a)\Gamma(b)p^{a+b}}e^{-p(x+y)}x^{a-1}y^{b-1}dx\:dy$

\bigskip 

Afin d'alléger les notations on écrira $C=\frac{1}{\Gamma(a)\Gamma(b)p^{a+b}}$.


Pour calculer l'intégrale, il va falloir utiliser un changement de variables.

Soit $g:(\mathbb{R}^{+*})^2 \rightarrow \mathbb{R}^{+*}\times \left(0,1\right)$ définie par :

$$g(x,y)=(x+y,\frac{x}{x+y})$$ 

Soit $h:\mathbb{R}^{+*}\times \left(0,1\right) \rightarrow(\mathbb{R}^{+*})^2$ définie par :

$$h(u,t)=(ut,u(1-t))$$ 

\bigskip

Alors $g$ et $h$ sont $C^1$ sur leur ensemble de définition et de plus :

$$ g\circ h=Id_{\mathbb{R}^{+*}\times \left(0,1\right)}$$

$$ h\circ h=Id_{(\mathbb{R}^{+*})^2}$$

donc $h$ est un $C^1$ difféomorphisme. 

\bigskip

Calculons sa matrice jacobienne :

$$Dh(u,t)=
\begin{pmatrix}
	t & u\\
	1-t & -u\\
\end{pmatrix}
$$

Le déterminant de cette matrice est $-u$. 

\bigskip

$E(f(U,T))=C\int_{(\mathbb{R}^{+*})^2}f\circ g(x,y)e^{-p(x+y)}x^{a-1}y^{b-1}dx\:dy$

\bigskip

par changement de variable on obtient :

$E(f(U,T))=C\int_{\mathbb{R}^{+*}\times (0,1)}f(u,t)|Dh(u,t)|e^{-pu}(ut)^{a-1}(u(1-t))^{b-1}du\:dt$

$E(f(U,T))=C\int_{\mathbb{R}^{+*}\times (0,1)}f(u,t)e^{-pu}u^{a+b-1}t^{a-1}(1-t)^{b-1}du\: dt$

\bigskip

Par suite on obtient la densité de $(U,T)$ :

$$f_{(U,T)}(u,t)=C1_{\mathbb{R}^{+*}}(u)e^{-pu}u^{a+b-1}1_{(0,1)}(t)t^{a-1}(1-t)^{b-1}$$

Remarquons qu'à ce stade on sait que $f_{(U,T)}$ est une densité donc $\int\int f_{(U,T)}=1$ donc si l'on note :

$$a: u\rightarrow 1_{\mathbb{R}^{+*}}(u)e^{-pu}u^{a+b-1}$$

$$b:t\rightarrow 1_{(0,1)}(t)t^{a-1}(1-t)^{b-1}$$

on sait que $a$ et $b$ sont positives, de plus  $\int a=\Gamma(a+b)p^{a+b}$ et $C=\frac{1}{\Gamma(a)\Gamma(b)p^{a+b}}$. Donc si l'on note :

$$\tilde{a}: u\rightarrow \frac{1}{\Gamma(a+b)p^{a+b}}a(u)$$

$$\tilde{b}:t\rightarrow \frac{\Gamma(a+b)}{\Gamma(a)\Gamma(b)}b(u)$$


on a $f_{(U,T)}(u,t)=\tilde{a}(u)\tilde{b}(t)$ où $\tilde{a}$ et $\tilde{b}$ sont des densités. On en déduit que $U$ et $T$ sont indépendantes et de plus :

$$f_U(u)=\frac{1}{\Gamma(a+b)p^{a+b}}1_{\mathbb{R}^{+*}}(u)e^{-pu}u^{a+b-1}$$

$$f_T(t)=\frac{\Gamma(a+b)}{\Gamma(a)\Gamma(b)}1_{(0,1)}(t)t^{a-1}(1-t)^{b-1}$$

\bigskip


Ce développement (qui est un exemple concret de démonstration d'indépendance) rentre tout à fait dans le cadre de la leçon et permet d'introduire une loi nommée $\beta$ de paramètres $a,b,p$ dont la densité est $f_T$. Ce développement est à la page 74 du livre "Probabilités" d'Ouvrard. 

\bigskip

\bigskip

\subsection{Théorème de Weierstrass par les polynômes de Bernstein}

\bigskip

Dans ce développement on se propose de donner une approximation par des polynômes d'une fonction $f:\left[0,1\right]\rightarrow \mathbb{C}$ continue et d'évaluer cette approximation, il faut pour cela définir le module de continuité d'une fonction continue.

\bigskip

\begin{de}[module de continuité]

Soit $f:\left[0,1\right]\rightarrow \mathbb{C}$ continue, le module de continuité noté $\omega$ de $f$ est défini par :

$$\omega(h)=sup\left\{|f(x)-f(y)|\: | x,y\in \left[0,1\right], |x-y|<h\right\}, \forall h\geq 0$$

\end{de}

\bigskip

La fonction $f$ étant continue sur un compact, $f$ est uniformément continue, le module de continuité est bien défini. Il vérifie les propriétés suivantes faciles à démontrer :


\begin{prop}
Soit $f:\left[0,1\right]\rightarrow \mathbb{C}$ continue et $\omega$ son module de continuité alors :

\begin{itemize}

\item $\omega$ est une fonction croissante.

\item $\omega$ est une fonction sous-additive: $\forall x,y$, $\omega(x+y)\leq \omega(x)+\omega(y)$.

\item $\forall \lambda,h\geq 0$, $\omega(\lambda h)\leq(\lambda +1)\omega(h)$

\end{itemize}


\end{prop}


\bigskip

Les deux premiers points sont évidents avec la définition, pour le troisième point, on montre pour tout entier $n$ la propriété suivante par récurence (avec le deuxième point) : $\omega(nh)\leq n\omega(h)$. Puis, en utilisant la partie entière de $\lambda$ et avec la croissance on peut conclure.


\bigskip

On définit maintenant le polynôme qui va faire l'approximation :

\begin{de}[Polynômes de Bernoulli associés à une fonction]

Soit $f:\left[0,1\right]\rightarrow \mathbb{C}$ continue, $n\in \mathbb{N}$ le $n$-ième polynôme de Bernoulli associé à $f$ est définie par :


$$B_n(f)(x)=\sum^{n}_{k=0}(C_n^k)x^k(1-x)^{n-k}f(\frac{k}{n}), \forall x\in \left[0,1\right]$$



\end{de}


\bigskip


On peut maintenant énoncé le résultat à démontrer :


\bigskip

\begin{prop}

Soit $f:\left[0,1\right]\rightarrow \mathbb{C}$ continue, $\omega$ son module de continuité et ($B_n(f)$) ses polynômes de Bernoulli associés alors, il existe $C>0$ tel que :


\bigskip

$$||f-B_n(f)||_{\infty}\leq C\omega(\frac{1}{\sqrt{n}})$$

\bigskip

De plus on peut exhiber une fonction $f_0$ continue ($\omega_0$ son module de continuité), $C_0>0$ telles que :

\bigskip

$$||f_0-B_n(f_0)||_{\infty}\geq C_0\omega_0(\frac{1}{\sqrt{n}})$$

\bigskip

Autrement dit, l'estimation de l'approximation est optimale (l'ordre de grandeur, pas forcément pour ce qui est de la constante).
\end{prop}

\bigskip


Toute la preuve du premier point est contenue dans l'interprétation probabiliste de $B_n(f)(x)$.

Soit $x\in\left[0,1\right]$, $n\in\mathbb{N}^*$, $(X_i)_{1\leq i\leq n}$ $n$ variables indépendantes de même loi de Bernoulli de paramètre $x$ et $S_n=\sum^{n}_{k=0} X_k$. 

\bigskip

$$E(f(\frac{S_n}{n}))=\sum^{n}_{k=0}C_n^kx^k(1-x)^{n-k}f(\frac{k}{n})=B_n(f)(x)$$


Remarquons que la loi faible des grands nombres implique ici que $B_n(f)(x)\rightarrow_n f(x)$, mais l'approximation n'est pas estimée (et même pas uniforme en $x$).

\bigskip

$\begin{array}{rcll}
 | f(x)-B_n(f)(x)| & \leq &E(|f(x)-B_n(f)(x)|) & \\
 & \leq & E(\omega(|x-\frac{S_n}{n}|))& par\: d\'{e}finition\: de\: \omega\\
 & \leq & E((\sqrt{n}|x-\frac{S_n}{n}|+1)\omega(\frac{1}{\sqrt{n}}))& par\: propri\'{e}t\'{e} \:de \: \omega\\
 & \leq & \omega(\frac{1}{\sqrt{n}})(1+\sqrt{n}||x-\frac{S_n}{n}||_1) & car \:||g||_1=E(|g|)\\
 & \leq & \omega(\frac{1}{\sqrt{n}})(1+\sqrt{n}||x-\frac{S_n}{n}||_2)& car \:||g||_1\leq ||g||_2\\
 & \leq & \omega(\frac{1}{\sqrt{n}})(1+\sqrt{n}\sqrt{\frac{x(1-x)}{n}})&  \\
 & \leq & \omega(\frac{1}{\sqrt{n}})(1+x(1-x))& \\
 & \leq &\frac{5}{4}  \omega (\frac{1}{\sqrt{n}}) & car \:x(1-x)\leq \frac{1}{4} \\
\end{array}$


\bigskip


Le premier point est donc démontré.


\bigskip

Posons $f$ la fonction continue de $\left[0,1\right]$ dans $\mathbb{C}$ définie par $f(x)=|x-\frac{1}{2}|$.

\bigskip

On note $\omega$ son module de continuité, alors en utilisant l'inégalité triangulaire on a : $\omega(h)\leq h$.

\bigskip

Ici, nous devons démontrer un lemme :

\begin{lem}[Inégalité de Khintchine]
Soit $(\epsilon_i)_{1\leq i\leq n}$, $n$ variables indépendantes identiquement distribuées de même loi $\frac{1}{2}\delta_{-1}+\frac{1}{2}\delta_{1}$.
On appelle de telles variables des variables de Rademacher. 

Soit $(a_j)_{1\leq i \leq n}$ des réels et $f=\sum_{j=1}^{n}a_j\epsilon_j$, alors on a :

$$||f||_1\geq \frac{1}{e}||f||_2$$


\end{lem}

\bigskip

Soit $1\leq i,j\leq n$ alors on a $E(\epsilon_i)=0$ et $E(\epsilon_i\epsilon_j)=\delta_{i,j}$ par indépendance. 

Par suite, $||f||_2=\sum (a_j)^2$.

\bigskip

Remarquons que par homogénéité on peut supposer $||f||_2=1$ (i.e. $\sum (a_j)^2=1$).

\bigskip

L'idée est de démontrer ce résultat par dualité, en effet pour tout $g\in L^{\infty}$ on a $|E(fg)|\leq ||f||_1||g||_{\infty}$, d'où:


$$||f||_1\geq \frac{|E(fg)|}{||g||_{\infty}}$$

\bigskip

Posons maintenant $g=\prod_{j=1}^n(1+ia_j\epsilon_j)$, c'est le produit de Riesz imaginaire.

presque pour tout $\omega$, on a $|g(\omega)|=\prod_{j=1}^n\sqrt{1+(a_j)^2(\epsilon_j)^2}=\prod_{j=1}^n\sqrt{1+(a_j)^2}\leq\prod_{j=1}^n\sqrt{e^{(a_j)^2}}=\sqrt{e}$.

Par suite,

 $$||g||_{\infty}\leq \sqrt{e}$$


\bigskip

Calculons pour tout $1\leq k \leq n$, $E(\epsilon_kg)$ :


$E(\epsilon_kg)=E(\epsilon_k\prod_{j=1}^n(1+ia_j\epsilon_j))$.

$E(\epsilon_kg)=E(\epsilon_k(1+ia_k\epsilon_k)\prod_{j=1,j\neq k}^n(1+ia_j\epsilon_j))$.

$E(\epsilon_kg)=E(\epsilon_k(1+ia_k\epsilon_k))\prod_{j=1,j\neq k}^nE((1+ia_j\epsilon_j))$, par indépendance.

$E(\epsilon_kg)=ia_k\prod_{j=1,j\neq k}1$.

$E(\epsilon_kg)=ia_k$


\bigskip

Par linéarité $|E(fg)|=|\sum_{k=1}^ni(a_k)^2|=1$.


On a donc :

$$||f||_1\geq \frac{|E(fg)|}{||g||_{\infty}}\geq \frac{1}{\sqrt{e}}$$

\bigskip

Cela termine la démonstration du lemme.


\bigskip

Revenons à $f$ :

$||f-B_n(f)||_{\infty}\geq|f(\frac{1}{2})-B_n(f)(\frac{1}{2})|=|B_n(f)(\frac{1}{2})|$.

\bigskip

Il ne reste plus qu'à faire apparaître des variables de Rademacher $\epsilon_i$ indépendantes, puis d'appliquer l'inégalité de Khintchine:

$$|B_n(f)(\frac{1}{2})|=E(|\frac{S_n}{n}-\frac{1}{2}|)=\frac{1}{2n}E(|2S_n-n|)$$

\bigskip

Puis en remarquant que $2S_n-n=\sum_{i=1}^{n}(2X_i-1)$, on obtient en posant $\epsilon_i=2X_i-1$ :

$$|B_n(f)(\frac{1}{2})|=E(|\sum_{i=1}^{n}\epsilon_i|)$$


\bigskip

On est dans le cas du lemme (avec $a_i=1$) en appliquant l'inégalité de Khintchine on obtient :


$$|B_n(f)(\frac{1}{2})|\geq \frac{1}{2n\sqrt{e}}||\sum_{i=1}^{n}\epsilon_i||_2=\frac{1}{2n\sqrt{e}}\sqrt{Var(\sum_{i=1}^{n}\epsilon_i)}$$


Enfin avec $Var(\sum_{i=1}^n\epsilon_i)=\sum_{i=1}^nVar(\epsilon_i)=n$ par indépendance des $\epsilon_i$ et $Var(\epsilon_i)=1$, on obtient :

$$|B_n(f)(\frac{1}{2})|\geq \frac{1}{2\sqrt{n}\sqrt{e}}\geq \frac{1}{2\sqrt{e}}\omega(\frac{1}{\sqrt{n}})$$.


\bigskip

\bigskip

Ce développement est un peu long mais a le mérite de mélanger analyse et probabilités, l'utilisation de l'inégalité de Khintchine par exemple est trés appréciée. Remarquons que sa démonstration fait intervenir des calculs élémentaires (voir triviaux), on peut gagner du temps en ne donnant que les étapes importantes (ce lemme contenant une bonne partie du coeur de la preuve, il serait malvenu de l'admettre entièrement).

Ce développement est issu du livre "Analyse pour l'agrégation" de Zuilly et Queffélec.





\bigskip

\bigskip


\section{Remarques complémentaires}

Dans cette partie nous allons voir quelques éléments qui auraient pu figurer dans la leçon mais qui n'y étaient pas par manque de place ou de connaissance et expliquer quelques uns des choix de la leçon.

\bigskip

\bigskip

\subsection{Définir l'indépendance}

\bigskip

Il faut définir, dans une leçon sur l'indépendance, l'indépendance entre évenements, entre variables aléatoires et entre tribus.

\bigskip

De plus il faut pouvoir justifier la cohérence entre ces définitions (cela nécessite de pouvoir parler de tribu engendrée par une variable aléatoire).

\bigskip

La remarque sur la preuve effective d'indépendance entre tribus est nécessaire (il faut donc connaître des éléments un peu fondamentaux sur la théorie des probabilités : $\sigma$-algèbre...).


\bigskip

Enfin, il faut essayer de faire une liste la plus exhaustive possible des critères d'indépendance et tôt dans la leçon. Les critères d'indépendance doivent être connus, en cas de question, sans regarder son plan.

\bigskip 

Pour l'essentiel, nous avons suivis le livre "probabilités" de Barbe et Ledoux.




\bigskip

\bigskip


\subsection{Expression de $\frac{sin(t)}{t}$}

\bigskip

Ici nous allons démontrer, de manière probabiliste, le théorème suivant :

\bigskip

\begin{theo}

$\frac{sin(t)}{t}=\prod_{j\geq 1}cos(\frac{t}{2^j})$, pour tout $t\in\mathbb{R}$.

\end{theo}



\bigskip

Avant de commencer la preuve de ce théorème rappelons ici que c'est une formule classique dont il existe des démonstrations d'analyse pur plus simple (voir sujet d'agrégation d'analyse de l'année 1996 par exemple). Il ne faudrait donc pas présenter ce développement comme une application à proprement parler mais plutôt comme une autre façon de voir les choses (ce qui, d'un point de vue pédagogique, est tout à fait défendable).


\bigskip

\bigskip


Remarquons que $\frac{sin(t)}{t}=\frac{e^{it}-e^{-it}}{t}=\int_{-1}^1e^{itx}dx=\phi_{U}(t)$, où $U$ est la loi uniforme sur $\left[-1,1\right]$.

\bigskip


Ainsi, on peut voir, dans notre identité à démontrer, une simple convergence de fonctions caractéristiques.

\bigskip


Notre plan de démonstration est donc clair, expliciter une suite de variables aléatoires (bien choisies) dont les fonctions de répartition convergent vers celle de la loi uniforme. On aura la convergence en loi et donc la convergence des fonctions caractéristiques.



\bigskip


Soit $n\in \mathbb{N}^*$, $(X_i)_{1\leq i\leq n}$, $n$ variables indépendantes de même loi $\frac{1}{2}\delta_{-1}+\frac{1}{2}\delta_1$, (on retrouve ici des variables aléatoires de Rademacher). On pose $S_n=\sum_{i=1}^n\frac{1}{2^i}X_i$. Affirmons dés maintenant que ce sont les $S_n$ qui vont être nos variables aléatoires bien choisies. Commençons par expliciter la loi des $S_n$ :



\bigskip


\begin{prop}[Loi des $S_n$]

$S_n$ a pour loi : $\frac{1}{2^n}(\sum_{k=0}^{2^n-1}\delta_{\frac{2k+1}{2^n}-1}) $


\end{prop}


\bigskip

La démonstration se fait naturellement par récurence sur $n$. Le cas $n=1$ est évident.


\bigskip

Soit donc $n\geq 1$ tel que l'on ait la loi de $S_n$, $k\in\left\{0...2^{n+1}-1\right\}$, en remarquant que $S_{n+1}=S_n+\frac{1}{2^{n+1}}X_{n+1}$ :

\bigskip

$P(S_{n+1}=\frac{2k+1}{2^{n+1}}-1)=P(S_n=\frac{2k+1}{2^{n+1}}+\frac{1}{2^{n+1}}-1,X_{n+1}=-1)+P(S_n=\frac{2k+1}{2^{n+1}}-\frac{1}{2^{n+1}}-1,X_{n+1}=1)$

\bigskip

Puis par indépendance on obtient :

\bigskip

$P(S_{n+1}=\frac{2k+1}{2^{n+1}})=P(S_n=\frac{2(k+1)}{2^{n+1}}-1)P(X_{n+1}=-1)+P(S_n=\frac{2k}{2^{n+1}}-1)P(X_{n+1}=1)$

$P(S_{n+1}=\frac{2k+1}{2^{n+1}})=\frac{1}{2}P(S_n=\frac{(k+1)}{2^n}-1)+\frac{1}{2}P(S_n=\frac{k}{2^n}-1)$

\bigskip


Maintenant si $k$ est pair alors $k+1=2\tilde{k}$ où $\tilde{k}\in\left\{0...2^n-1\right\}$ et on obtient (en utilisant l'hypothèse de récurence) :

$$P(S_{n+1}=\frac{2k+1}{2^{n+1}})=\frac{1}{2^{n+1}}+0=\frac{1}{2^{n+1}}$$


\bigskip

Et si $k$ est impair alors $k=2\tilde{k}+1$ où $\tilde{k}\in\left\{0...2^n-1\right\}$ et on obtient (en utilisant l'hypothèse de récurence) :

$$P(S_{n+1}=\frac{2k+1}{2^{n+1}})=0+\frac{1}{2^{n+1}}=\frac{1}{2^{n+1}}$$

\bigskip


Dans tous les cas $P(S_{n+1}=\frac{2k+1}{2^{n+1}})=\frac{1}{2^{n+1}}$, cela pour tout $k\in\left\{0...2^{n+1}-1\right\}$.

Pour conclure il suffit de remarquer que $\sum_{k=0}^{2^{n+1}-1}P(S_{n+1}=\frac{2k+1}{2^{n+1}})=1$, cela nous dit que l'on a obtenu tous les points chargés par $S_{n+1}$ et donc on a la propriété au rang $n+1$, puis on a la loi de $S_n$, pour tout entier $n$ par récurence.


\bigskip

Soit $n\in\mathbb{N}^*$ alors si l'on note $F_X$ la fonction de répartition de $X$ :

\bigskip

$F_{S_n}(t)=0$, si $t<\frac{1}{2^n}-1$.

$F_{S_n}(t)=\frac{k+1}{2^n}$, si $t\in\left[\frac{2k+1}{2^n}-1,\frac{2(k+1)+1}{2^n}-1\right)$ où $k\in\left\{0...2^n-1\right\}$.

$F_{S_n}(t)=1$, si $t>1-\frac{1}{2^n}$.

\bigskip


D'autre part si l'on note $F$ la fonction de répartition de la loi uniforme :

\bigskip

$F(t)=0$, si $t<-1$.

$F(t)=\frac{t+1}{2}$, si $t\in\left[0,1\right]$.

$F(t)=1$, si $t>1$.

\bigskip


Remarquons que si $t\leq-1$ on a, pour tout $n$, $F_{S_n}(t)=0$ et donc $F_{S_n}(t)\rightarrow_nF(t)$.

Si $t\geq1$ on a,pour tout $n$, $F_{S_n}(t)=1$ et donc $F_{S_n}(t)\rightarrow_nF(t)$.

\bigskip


Soit donc $t\in\left(0,1\right)$, il existe $N$ tel que pour tout $n>N$ on ait $t\in\left(\frac{1}{2^n}-1,1-\frac{1}{2^n}\right)$.

\bigskip

Dans ce ca là $F_{S_n}(t)=\frac{k+1}{2^n}$. Il suffit ensuite de remarquer que $-\frac{1}{2^n}<\frac{k+1}{2^n}-\frac{t-1}{2}<\frac{1}{2^n}$ :


$$|F_{S_n}(t)-F(t)|<\frac{1}{2^n}$$


\bigskip

Ainsi pour tout $t\in\left(0,1\right)$ on a $F_{S_n}(t)\rightarrow_nF(t)$.


\bigskip


On a montré $F_{S_n}\rightarrow_nF$ simplement sur $\mathbb{R}$, d'après la théorie des probabilités, cela implique que $S_n\stackrel{L}{\rightarrow}U$, où $U$ est la loi uniforme sur $\left[-1,1\right]$, puis d'aprés la même théorie des probabilités, on a la convergence simple des fonctions caractéristiques (notons $\phi_X$, la fonction caractéristique de la variable aléatoire $X$).

\bigskip


Il ne reste plus qu'à calculer $\phi_{S_n}=\phi_{\sum_{j=1}^n\frac{1}{2^j}X_j}=\prod_{j=1}^n\phi_{\frac{1}{2^j}X_j}$, par indépendance.

\bigskip

Pour tout $t\in\mathbb{R}$, on a :

$$\phi_{\frac{1}{2^j}X_j}(t)=E(e^{\frac{1}{2^j}itX_j})=\frac{1}{2}(e^{\frac{1}{2^j}it}+e^{\frac{1}{2^j}it})=cos(\frac{t}{2^j})$$

\bigskip


Ainsi $\phi_{S_n}(t)=\prod_{j=1}^ncos(\frac{t}{2^j})$, d'après la convergence des fonctions caractéristiques on obtient le résultat annoncé.


\bigskip

\bigskip

Dans cette démonstration, on trouve plusieurs choses, indépendance, convergence, utilisation de variables de Rademacher, développement dyadique des réels entre $-1$ et $1$ ... Le défaut majeur est le côté calculatoire (loi des $S_n$, fonctions de répartition), défaut qui peut être court-circuité en dessinant au tableau les premières fonctions de répartition, on voit clairement apparaître la fonction de répartition de la loi uniforme, une fois que l'on a dessiné cela et avec une argumentation intelligente, on peut sauter les calculs en expliquant avec les mains la convergence des fonctions de répartition.

\bigskip

Ce développement relativement connu des probabilistes n'est pas bien référencé, et l'on ne peut pas ici en donner une référence. Il peut aussi tomber en exercice.


\bigskip

\bigskip


\subsection{Autour des théorèmes limites}

\bigskip


Que se passe-t-il dans les théorèmes quand les variables aléatoires ne sont pas indépendantes? Il faudrait préparer quelques contre-exemples, cela a sa place dans le cadre de la leçon car cela met en valeur l'importance cruciale de l'indépendance, de plus cette reflexion peut se retrouver dans la leçon sur les théorèmes limites.


\bigskip

\begin{ex}[Loi faible]

Si $X_i=X$, pour tout $i$ avec $X$ loi normale centrée de variance $1$. 

\bigskip

Alors on a $S_n=X$ presque sûrement donc convergence en probabilité de $S_n$ vers un loi normale (et pas un dirac en $0=E(X)$).

\end{ex}


\bigskip

Une autre chose que l'on peut essayer de contredire est l'intégrabilité dans la loi forte, par exemple:

\begin{ex}[Loi forte et loi de Cauchy]

Si $(X_i)$ sont indépendantes  de même loi de Cauchy de paramètre $a$, alors la loi de $S_n$ est une loi de Cauchy de paramètre $a$ (pour le démontrer, utiliser les fonctions caractéristiques), Si $S_n$ devait converger presque sûrement vers une constante, alors on aurait la loi de $S_n$ qui devrait tendre vers un Dirac en $0$ (car la loi de Cauchy est symétrique même si $X\notin L^1$), ce qui est faux, voila donc un exemple où la loi forte ne marche pas.


\end{ex}

\bigskip

Cet exemple est dans le livre de Barbe et Ledoux, "Probabilités".


\bigskip

\bigskip


Il existe un très grand nombre de versions des théorèmes limites avec hypothèses affaiblies, la littérature en probabilités en est pleine, certaines peuvent avoir leur place dans cette leçon, néanmoins on se gardera d'aborder (inutilement) des questions trop difficiles (sauf si l'on est sûr de soi), de plus, cela peut rapidement devenir hors-sujet. 

\bigskip

La loi forte des grands nombres avec le (très important) lemme de Borel-Cantelli peut fournir un développement, mais cela reste compliqué et ne peut pas être improvisé. Le théorème central-limite ne peut pas être proposé en développement (trop court). 


\bigskip

On précisera que comme dans toutes les leçons de probabilités, une bonne compréhension de la définition, de la hiérarchie et de l'explicitation des convergences est indispensable. En effet, dans la loi forte des grands nombres il est essentiel de savoir traduire la convergence presque sûre en terme d'évenements (mais aussi : définir la convergence en probabilités, la convergence en loi, lien avec les normes $L^p$(utiliser Markov) ...).


\bigskip

Un exercice possible à l'oral est la démonstration de la loi forte des grands nombres quand $E(X^4)<+\infty$. Pour voir cet exercice relativement facile mais néanmoins fondamental (cela intervient dans la démonstration du cas général), on renverra au livre de Barbe et Ledoux, "Probabilités".


\bigskip

On peut rajouter comme application du théorème centrale limite, ou peut-être en partie supplémentaire des éléments de statistiques : détermination d'intervalle de confiance, asymptotique, cela reste dans le cadre de la leçon.

\bigskip

\bigskip

\subsection{Variables aléatoires gaussiennes, vecteurs gaussiens}

\bigskip

Autre élément indispensable d'une leçon sur l'indépendance, notamment la réciproque non corélation implique indépendance dans le cas de vecteurs gaussiens est incontournable et doit être mise en valeur à l'oral.

\bigskip


Sans rentrer dans les détails, car c'est un sujet très connu et en général très bien traité avec un chapitre particulier (dans le livre de Barbe et Ledoux ou dans le livre d'Ouvrard par exemple), on indique que le théorème de Bernstein (dans le plan), dont la démonstration est à trouver dans le livre d'Ouvrard, fournit un trés bon développement qui est de plus une application non triviale de la fonction caractéristique (voir la leçon sur l'utilisation des transformations de Fourier et de Laplace). On précise également qu'il y aura, à l'oral, une question sur les vecteurs gaussiens ou les variables aléatoires gaussiennes, on ne peut pas se permettre de passer à côté de ce sujet.


\bigskip


Pour l'entrainement on peut considérer le problème suivant $(Y_n)$ échantillon de loi normale centrée de variance $1$, et $X_0$ de loi normale d'espérance $\alpha_0$ et de variance $\sigma_0^2$. Pour tout $n$ $X_{n+1}=aX_n+bY_{n+1}$ où $a$ et $b$ sont des réels. Etudier la convergence de $(X_n)$.

\bigskip

Cet exercice est à voir dans le livre "Modélisation stochastique" de Scheffei-Berka.

\bigskip

\bigskip


\subsection{Espérance conditionnelle}

\bigskip

Un sujet qui n'a pas trouvé sa place dans notre leçon car jugé un peu trop spécifique et un peu compliqué à introduire. Le problème étant que dans cette leçon sur l'indépendance, si on veut parler d'espérance conditionnelle, on ne peut pas se passer de la définir (on pourrait s'en passer dans des leçons plus portées sur les exemples, variables de Bernoulli...). On est alors devant un problème difficile à résoudre, faut-il en donner une définition simple mais pas assez théorique (voir "Les maths pour l'agreg") ce qui pose des problèmes si l'on veut aborder des problèmes compliqués, ou faut-il alors donner une définition compliquée et prendre le risque de s'égarer dans des détails largement inutiles, au mieux, voire carrément hors-sujet, au pire (sans parler de la possibilité de se tromper, tout simplement)?

\bigskip

Néanmoins, si l'on est bien au courant de ce problème, et que l'on y a un peu réfléchi, on peut introduire la notion dans cette leçon puisque l'indépendance est très utile quand on considère l'espérance conditionnelle. Cela permet ensuite de considérer les martingales, chaines de Markov, filtrations... 

\bigskip


Quelque soit le choix que l'on fait, de parler, ou pas, d'espérance conditionnelle, il faut s'attendre à des questions sur l'espérance conditionnelle, et donc revoir (même succintement) quelques points sur l'espérance conditionnelle.


\bigskip

\bigskip

\subsection{Constructions théorique et effective de suites de variables indépendantes}

\bigskip

C'est une question qui se pose de manière tout à fait naturel dans cette leçon, il n'est pas nécessaire d'en faire une partie du plan (on peut néanmoins le faire) mais il faut s'être posé la question avant d'aller à l'oral. 

\bigskip


Le premier problème est la construction théorique de suites de variables indépendantes d'une même loi (on appelera dans cette partie échantillon d'une loi cette suite). La question est résolue et c'est le théorème d'extension de Kolmogorov qui nous permet d'assurer théoriquement l'existence d'une telle suite pour toute loi. On peut le trouver à la page 96 du livre "Probabilités" de Barbe et Ledoux.


\bigskip

Le second problème s'énonce de la façon suivante, je dispose d'une variable aléatoire de loi uniforme sur $\left[0,1\right]$ sur une machine, comment simuler un échantillon fini (nécessairement) d'une loi $\cal{L}$ sachant que je connais sa fonction de répartition.

\bigskip


La première chose à voir est que le théorème de Glivencko-Cantelli nous assure qu'il suffit de savoir simuler un nombre fini de variables aléatoires de  loi uniforme sur $\left[0,1\right]$ indépendantes pour créer une variable aléatoire dont la loi est "arbitrairement proche" de la loi $\cal{L}$, cela se fait via la fonction de répartition empirique (important).


\bigskip

Supposons que $N$ lois uniformes nous donnent une précision satisfaisante par ce biais là. Si l'on veut simuler $n$  variables aléatoires indépendantes de loi $\cal{L}$ (avec cette précision), il faut donc simuler $nN$ variables aléatoires de loi uniforme sur $\left[0,1\right]$.


\bigskip


La question se résume donc à "Comment créer $M$ variables aléatoires de lois uniformes sur $\left[0,1\right]$ à partir d'une variable aléatoire de loi  uniforme $U$ sur $\left[0,1\right]$?"


\bigskip

\begin{de}[$i$-ème élement du développement dyadique]

Soit $x\in\left[0,1\right]$, on sait que 

$x=\sum_{i>0}\frac{1}{2^i}u_i(x)$, où $u_i(x)\in\left\{0,1\right\}$.

\bigskip

Alors on définit $u_i:\left[0,1\right]\rightarrow u_i(x)$.


\end{de}


\bigskip

Cet élément va nous ammener à la propriété suivante :

\bigskip

\begin{prop}[Bernoulli dans la loi uniforme]

Pour tout $i>0$ la variable aléatoire $u_i(U)$ est une loi de Bernoulli de paramètre $\frac{1}{2}$.

\bigskip

De plus, $(u_i(U))_{i>0}$ est une suite de variables aléatoires indépendantes.


\end{prop}


\bigskip



On sait maintenant simuler un nombre arbitrairement grand de variables aléatoires de Bernoulli. Il faut maintenant pouvoir, à partir de cela, simuler un certain nombre de  variables aléatoires indépendantes de même loi uniforme sur $\left[0,1\right]$. Pour cela on a besoin de la propriété (bien connue) suivante :


\bigskip

\begin{prop}[Equipotence de $\mathbb{N}$ et $\mathbb{N}^2$]


$$\mathbb{N}\leftrightarrow \mathbb{N}^2$$

\bigskip

La bijection associée est 

\bigskip

$$f(p,q)=(\sum_{k=0}^{p+q}k)+q$$


\end{prop}


\bigskip

La démonstration de cela est faite dans "Les contre-exemples en mathématiques" de Hauchecorne.


\bigskip


Maintenant on construit pour tout $1\leq j\leq M$,  $(X^j_i)_i$,une suite de variables aléatoires indépendantes par :


$$X^j_i=u_{f(j,i)}(U), 1\leq j\leq M, \forall i$$


\bigskip


On a évidemment $\left\{X^j_i,\: \forall j \forall i\right\}$ est une famille indépendante de variables aléatoires.


\bigskip

Pour terminer on a la dernière propriété :

\bigskip


\begin{prop}[Uniforme par les Bernoulli]

Si $(X_i)$ est un échantillon de Bernoulli de paramètre $\frac{1}{2}$, alors, si :

$$V=\sum_{i>0}\frac{1}{2^i}X_i$$

$V$ est une variable aléatoire de loi uniforme.


\end{prop}

\bigskip

On peut donc construire $(V^j)_{1\leq j\leq M}$ (par $V^j=\sum_{i>0}\frac{1}{2^i}X_i^j$), un échantillon fini de loi uniforme et notre problème est résolu avec Glivencko-Cantelli.



\bigskip

Une telle discussion ne peut probablement pas faire un développement (quoique...), ni même une partie consistante du plan, néanmoins, ne pas pouvoir justifier l'existence théorique ou la construction effective de suites de variables aléatoires indépendantes identiquement distribuées serait particulièrement malvenu (mais pas catastrophique) dans cette leçon et dans à peu prés toutes les leçons de probabilités.

\bigskip

Cette discussion, pas tout à fait centrale dans cette leçon, prend tout son sens dans la leçon sur les variables aléatoires de Bernoulli.

\bigskip


Le théorème de Glivencko-Cantelli doit être connu (au moins avec les mains) pour toutes les leçons de probabilités.




\subsection{Lois infiniment divisibles}

\bigskip


Dans notre leçon, nous avons choisi de parler de lois infiniment divisibles. Ce point est le seul point non-essentiel du plan.

\bigskip


Il y a deux éléments qui permettent de faire le lien avec l'indépendance. D'une part, la définition de ces lois infiniment divisibles contient de l'indépendance, d'autre part si un "certain genre" de suite (dans ce genre, il est question d'indépendance) converge en loi vers $\cal{L}$ alors $\cal{L}$ est une loi infiniment divisible.


\bigskip


Dans la dernière sous-partie de la deuxième partie, on donne, en plus d'une caractérisation via la fonction caractéristique, une formule générale de la fonction caractéristique d'une loi infiniment divisible. Il vaut mieux préciser, si on la donne, qu'elle est ici à titre culturel mais qu'elle n'est pas du tout au niveau de l'agrégation. L'intérêt pédagogique d'une telle formule étant de faire apparaître les deux composantes fondamentales des lois infiniment divisibles : loi normale et loi de Poisson.

\bigskip

Dans la première sous-partie de la troisième partie on évoque le théorème sur la convergence en loi de sommes de variables aléatoires indépendantes et identiquement distribuées. Toutes les lois limites de telles convergence sont alors des lois infiniment divisibles. On remarque alors que toutes les convergences des théorèmes classiques de convergence sont dans ce cadre là (convergence en probabilités et convergence presque-sûre impliquent chacune la convergence en loi). On peut alors y voir là un moyen d'expliquer ou de donner un éclairage théorique ou fondamental sur l'apparition de la loi normale dans le théorème central-limite, alors que le simple développement limité des fonctions caractéristiques (qui est la preuve du théorème centrale-limite) reste tout à fait calculatoire sans dévoiler quoique ce soit.


\bigskip

Une discussion sur les lois infiniment divisibles peut trouver sa place dans une leçon sur les applications de la transformée de Fourier et la transformée de Laplace ou une leçon sur les théorèmes de convergence. 

\bigskip

Tout ce qui a été écrit dans le plan sur les lois infiniment divisibles (à part la formule compliquée) peut se trouver dans le livre de Cotterel (et cie). On prendra garde au fait que Cotterel appelle ces lois, des lois inDEfiniment divisibles. Mais, en regardant de près la définition on constate que la division n'est pas inDEfinie mais infinie, il a donc semblé tout à fait logique d'écrire infiniment divisible.




\bigskip

 




\end{document}