Convergencia. 1.1 Introducción

Cap´ıtulo 1

Convergencia

1.1 Introducci´ on

En este cap´ıtulo estudiaremos el comportamiento asint´ otico de sucesiones de variables aleatorias, daremos distintas definiciones de convergencia y de- mostraremos dos de los Teoremas m´ as importantes de la Teor´ıa de Probabil- idad, de hecho los dos resultados que podr´ıamos decir le dieron vida a esta

´

area del conocimiento.

Antes de estudiar las distintos modos de convergencia, es importante preguntarse de d´ onde surgen estos resultados? cu´ al es la motivaci´ on para el estudio del comportamiento en el l´ımite de sucesiones de variables aleatorias.

Desde la prehistoria de la Probabilidad, se ha deseado dar una inter- pretaci´ on a la Probabilidad, intuitivamente, se consideraba que la probabil- idad de un evento era algo as´ı como un l´ımite de frecuencias relativas (de hecho la escuela frecuentista la define as´ı), es decir si A es un evento

P [A] ≈ n _A n

donde n _A es el n´ umero de veces que ha ocurrido el evento A en n ensayos independientes del mismo experimento.

A esta propiedad se le llam´ o (como lo hemos ya mencionado en ??) Regu- laridad Estad´ıstica. A´ un cuando ya hemos visto que esta definici´ on frecuen- tista de la Probabilidad no tiene sentido, ser´ıa importante saber si desde el punto de vista del Modelo Axiom´ atico de la Probabilidad existe una Ley emanada de sus axiomas que sea la contraparte te´ orica de la regularidad estad´ıstica.

1

Esta Ley conocida como La Ley de los Grandes N´ umeros ser´ a estudiada en las Secciones 2 y 3 de este Cap´ıtulo y esencialmente dice los siguiente:

Teorema 1.1 Ley de los Grandes N´ umeros. Sea (X _n ) _n≥1 una sucesi´ on de variables aleatorias independientes e id´ enticamente distribuidas con esper- anza µ. Entonces

P n k=1 X _k

n , converge en alg´ un sentido a µ.

Este Teorema no s´ olo nos dice que efectivamente existe una Ley emanada de los axiomas sino que provee de lo que en Estad´ıstica se conoce como un estimador de µ. Definiremos y demostraremos esta propiedad para dos tipos de convergencia, a saber, la convergencia casi segura y la convergencia en probablidad.

Sin embargo, el hecho de que P n

k=1 X _k

n ≈ µ,

en ocasiones no es suficiente. M´ as precisamente, por ejemplo, en un contexto de inferencia sea (X n ) n≥1 una sucesi´ on de variables aleatorias independientes e id´ enticamente distribuidas seg´ un F ₀ con media µ desconocida.

Supongamos que para cada n ≥ 1, S _n = P n

k=1 X _k y supongamos que queremos probar con la ayuda de ^S _n

que µ > 5. La Ley de los Grandes N´ umeros nos dice que este cociente es muy cercano a µ para n suficientemente grande, as´ı es que en primera instancia podr´ıamos pensar que no es tan descabellado. Sin embargo, se quiere m´ as, es decir, se quiere dar un criterio que nos diga algo en el siguiente sentido:

Rechace la Hip´ otesis de µ > 5 si ^S _n

excede a un cierto n´ umero.

Si se conociera la distribuci´ on de ^S _n

se podr´ıa exhibir ese cierto n´ umero que garantizara que este cociente lo excede s´ olo con probabilidad α (por ejemplo, α = 0.05).

Sin embargo, lo que ocurre es que no conocemos su distribuci´ on, supong- amos que “alguien” demostr´ o que su distribuci´ on converge a una distribuci´ on conocida cuando n → ∞. Entonces se podr´ıa usar la distribuci´ on l´ımite como una aproximaci´ on.

El Teorema de L´ımite Central es en este sentido y dice lo siguiente:

1.2. CONVERGENCIA CASI SEGURA 3 Teorema 1.2 Sea (X _n ) _n≥1 una sucesi´ on de variables aleatorias independi- entes, id´ enticamente distribuidas con media µ y varianza σ ² , entonces

n→∞ lim P  S _n − nµ σ √

n ≤ x



= P [X ≤ x], donde X es una variable aleatoria N (0, 1).

El l´ımite del Teorema anterior es un l´ımite de las funciones de distribuci´ on y se conoce como convergencia en distribuci´ on.

En todo este Cap´ıtulo denotaremos por S _n = P n k=1 X _k .

1.2 Convergencia Casi segura

En toda esta secci´ on consideraremos (Ω, F , P ) un espacio de probabilidad fijo. Las sucesiones de variables aleatorias estar´ an definidas en este espacio.

Definici´ on 1.1 Convergencia Puntual. Una sucesi´ on de variables aleatorias (X n ) n≥1 se dice que converge en el punto ω ∈ Ω si la sucesi´ on de n´ umeros reales (X _n (ω)) _n≥1 converge.

Definici´ on 1.2 Conjunto de Convergencia. El conjunto de puntos ω ∈ Ω para los cuales la sucesi´ on (X _n (ω)) _n≥1 converge ser´ a llamado el conjunto de convergencia.

Sea (X n ) n≥1 una sucesi´ on de variables aleatorias y C su conjunto de conver- gencia. Consideremos la funci´ on X : Ω → R definida por:

X(ω) =  lim _n→∞ X n (ω), si ω ∈ C,

c, si ω ∈ C ^c . (1.1) {variablelimite}

Para ω ∈ Ω fijo tal que X _n (ω) no converge a X(ω), entonces de la definici´ on de convergencia de sucesiones de n´ umeros reales, existe ε > 0 tal que

|X _n − X| > ε, para una infinidad de n ⁰ s.

Obs´ ervese que para cada ε > 0

{ω ∈ Ω||X _n (ω) − X(ω)| > ε, para una infinidad de n ⁰ s}

=

∞

\

n=1

∞

[

l=n

{ω ∈ Ω| |X _l (ω) − X(ω)| > ε}

=

∞

\

n=1

∞

[

l=n

[ |X _l − X| > ε] (Notaci´ on). (1.2)

Luego entonces, el complemento del conjunto de convergencia C estar´ a dado por:

C ^c =

∞

[

k=1

" _∞

\

n=1

∞

[

l=n



|X _l − X| > 1 k

 #

. (1.3) {conjuntoconvergencia}

Claramente el conjunto de convergencia es un evento y podemos concluir entonces que la sucesi´ on (X n ) n≥1 , converge a X sobre C.

Definici´ on 1.3 Convergencia Casi Segura. Una sucesi´ on de variables aleato- rias (X _n ) _n≥1 se dice que converge casi seguramente si su conjunto de conver- gencia tiene probabilidad 1.

La convergencia casi segura la denotaremos por X _n ^c.s. → X

donde X es la variable aleatoria definida por la expresi´ on (1.1).

Obs´ ervese que:

X _n ^c.s. → X, P [X _n , no converge a X] = P [C ^c ] = 0

Ejemplo 1.1 Consideremos el experimento de elegir un punto al azar en el intervalo (0, 1). Para cada n ≥ 1, definimos

X _n (ω) = 1 n [nω], donde [·] denota la parte entera de ·.

Es claro que

n→∞ lim X _n (ω) = X(ω) = ω, para toda ω ∈ Ω.

Por lo tanto, X _n ^c.s. → X.

Ejemplo 1.2 Sea (X _n ) _n≥1 una sucesi´ on de variables aleatorias independi- entes, id´ enticamente distribuidas, con funci´ on de distribuci´ on F . Supong- amos que F (x) < 1 para toda x < x 0 , x 0 ∈ R ∪ ∞. Para cada n ≥ 1 sea X _(n) definida por:

X _(n) = max{X ₁ , ..., X _n } Entonces

n→∞ lim X _(n) = x ₀ , casi seguramente

1.2. CONVERGENCIA CASI SEGURA 5 Para cada ω ∈ Ω fijo, la sucesi´ on (X _(n) (ω)) _n≥1 es una sucesi´ on creciente. Por lo tanto, si x ₀ = ∞, converge a un l´ımite finito si y s´ olo si est´ a acotada. Sea

C = {ω ∈ Ω| (X _(n) (ω)) _n≥1 converge a un l´ımite finito}

= {ω ∈ Ω| (X _(n) (ω)) _n≥1 , est´ a acotada}.

Demostraremos que

P [C] = 0.

Obs´ ervese que

C =

∞

[

M =1

[X _(n) < M, n ≥ 1], por lo tanto, es suficiente probar que para cada M ∈ IN ,

P [X _(n) < M, n ≥ 1] = 0

As´ı, para toda k ≥ 1 y puesto que las variables aleatorias X _n , n ≥ 1 son independientes

P [X _(n) < M, n ≥ 1] ≤ P [X _(n) < M, 1 ≤ n ≤ k] = F ^k (M ).

Por hip´ otesis F (x) < 1 para toda x ∈ R, lo que implica que F ^k (M ) → 0 cuando k → ∞. Por lo tanto,

P [X _(n) < M, n ≥ 1] = 0.

Si x ₀ < ∞, para cada ω ∈ Ω la sucesi´ on converge, ya que P [X _(n)) ≤ x ₀ ] = 1. y el l´ımite es menor o igual que x 0 . Para cada M < x 0 , sea

C ^M = {ω ∈ Ω| lim

n→∞ X _(n) (ω) ≤ M },

n→∞ lim X _(n) (ω) ≤ M, si y s´ olo si X _(n) < M, n ≥ 1.

Siguiendo la misma demostraci´ on que en el caso anterior, tenemos que P [C ^M ] = 0, para toda M < x ₀ ,

por lo tanto el l´ımite es igual a x ₀ .

2

Ejemplo 1.3 Consideremos una sucesi´ on infinita de ensayos Bernoulli in- dependientes con probabilidad p (< 1) de ´ exito. Sea

X _n (ω) =  n, si los primeros n ensayos fueron fracaso,

k, si el primer ´ exito ocurri´ o en el ensayo k, k ≤ n.

Entonces, X _n ^c.s. → X, donde X es una variable aleatoria Geom´ etrica con par´ ametro p.

Para cada ω ∈ Ω la sucesi´ on (X _n (ω)) _n≥1 es no-decreciente, por lo tanto, la sucesi´ on no converge si y s´ olo si tiende a infinito. Probaremos que la probabilidad del conjunto de las ω ∈ Ω tales que la sucesi´ on tiende a ∞ tiene probabilidad cero:

P [lim

n X _n = ∞] = P

"

\

n≥1

[X _n = n]

#

≤ P [X _n = n] = (1 − p) ⁿ⁻¹ → 0.

Es claro de la definici´ on que si (X _n (ω)) _n≥1 converge, esto implica que es constante a partir de una cierta k ≥ 1, donde k es el ensayo en el que ocurre el primer ´ exito. Por lo tanto la variable aleatoria l´ımite es una variable aleatoria Geom´ etrica con par´ ametro p.

2 Finalmente demostraremos La Ley de los Grandes N´ umeros mencionada en la Introducci´ on.

Teorema 1.3 Ley Fuerte de Los Grandes N´ umeros. (Kolmogorov). Sea (X _n ) _n≥1 una sucesi´ on de variables aleatorias independientes e id´ enticamente distribuidas. Entonces

S _n

n converge casi seguramente,

si y s´ olo si las variables aleatorias X _n tienen esperanza finita y S _n

n

c.s. → E[X ₁ ],

donde S _n = P n

k=1 X _k .

1.2. CONVERGENCIA CASI SEGURA 7 La demostraci´ on de la Ley Fuerte de los Grandes N´ umeros es complicada y est´ a m´ as all´ a de los conocimientos del nivel de este libro, por lo que nos contentaremos con demostrar una Ley Fuerte diferente cuya demostraci´ on es muy simple.

El resultado que probaremos a´ un cuando impone condiciones m´ as fuertes sobre la existencia de los momentos de las variables aleatorias, no requiere que ´ estas sean id´ enticamente distribuidas. Recu´ erdese que de la expresi´ on 1.3 demostrar la convergencia casi segura es equivalente a probar que la probabilidad del complemento del conjunto de convergencia C es igual a cero.

El Lema siguiente conocido como el Lema de Borel-Cantelli ser´ a fundamental en la demostraci´ on.

Lema 1.1 Lema de Borel-Cantelli. Sea (A _n ) _n≥1 una sucesi´ on de eventos tal que P

n≥1 P [A _n ] < ∞. Entonces

P [A n , ocurra para una infinidad de n ⁰ s] = P [

∞

\

n=1

∞

[

l=n

A l ] = 0.

Demostraci´ on

De la definici´ on se tiene que para toda n ≥ 1,

P

" _∞

\

n=1

∞

[

l=n

A _l

#

≤ P

" _∞ [

l=n

A _l

#

≤

∞

X

l=n

P [A _l ]

Por hip´ otesis P ∞

n=1 P [A n ] < ∞, por lo tanto, P ∞

l=n P [A l ] → 0 cuando n →

∞, de donde P [ T ∞ n=1

S ∞

l=n A _l ] = 0.

2 Teorema 1.4 Una Ley Fuerte de los Grandes N´ umeros. Sea (X _n ) _n≥1 una sucesi´ on de variables aleatorias independientes, con cuarto momento finito.

Supongamos que para toda n ≥ 1, E[X _n ] = µ, V ar(X _n ) = σ ² y E[(X _n − µ) ⁴ ] = ρ. Entonces

S _n n

c.s. → µ, donde S n = P n

k=1 X k .

Demostraci´ on

De la expresi´ on 1.3, es suficiente demostrar que para toda ε > 0, P

   

S _n n − µ

> ε, o.i.



= 0.

Por el Lema anterior basta probar que

∞

X

n=1

P

   

S _n n − µ

> ε



< ∞.

De la Desigualdad de Bienaym´ e-Chebyshev y puesto que las variables aleato- rias X k son independientes, con varianza y cuartos momentos centrales co- munes se tiene

P

   

S _n n − µ

> ε



= P

"

n

X

k=1

(X _k − µ     

> εn

#

≤ 1

(εn) ⁴ E[(

n

X

k=1

(X k − µ)) ⁴ ]

= 1

(εn) ⁴ [nE[(X ₁ − µ) ⁴ ] + n(n − 1)(E[(X ₁ − µ) ² ]) ²

≤ K

n ² ,

donde K es una constante. Ya que P

n≥1 1

n

= ^π ₆

, se obtiene que

∞

X

n=1

P

   

S _n n − µ

> ε



< ∞.

2 Una consecuencia de la Ley de los Grandes N´ umeros es la aproximaci´ on de la distribuci´ on de una variable aleatoria por lo que llamaremos el Proceso Emp´ırico y que definimos a continuaci´ on:

Sea (X _n ) _n≥1 una sucesi´ on de v.a.i.i.d. Para cada x ∈ R y n ∈ N definimos 11 _[X

≤x] =  1, si X _n ≤ x,

0, si X _n > x, y

N _n (x) = S _n (x)

n = 1

n

n

X

i=1

11 _[X

≤x] .

1.3. CONVERGENCIA EN PROBABILIDAD 9 A Las variables aleatorias N _n (x), x ∈ R se le conoce como el Proceso Emp´ırico.

Corolario 1.1 Sea (X _n ) _n≥1 una sucesi´ on de v.a.i.i.d. con funci´ on de dis- tribuci´ on F . Entonces, para cada x ∈ R

N _n (x) ^c.s. → F (x), cuando n → ∞

La demostraci´ on se sigue inmediatamente de la Ley Fuerte de los Grandes N´ umeros. De hecho se tiene un resultado m´ as fuerte que no demostraremos:

Teorema 1.5 Teorema de Glivenko-Cantelli. Sea (X _n ) _n≥1 una sucesi´ on de v.a.i.i., con distribuci´ on F . entonces

sup

x∈R

|N _n (x) − F (x)| ^c.s. → 0, cuando n → ∞.

1.3 Convergencia en Probabilidad

Un tipo de convergencia m´ as d´ ebil que la convergencia casi segura es la lla- mada convergencia en probabilidad. Antes de dar la definici´ on consideremos el siguiente ejemplo que es muy ilustrativo.

{ejeconvprob}

Ejemplo 1.4 Consideremos nuevamente el experimento de elegir un punto al azar en el intervalo (0, 1) y sea (X _nk ) n≥1,0≤k≤n−1 una sucesi´ on de variables aleatorias definidas de la de siguiente manera:

X _nk (ω) =  1, ^k _n ≤ ω < ^k+1 _n , si 0 ≤ k ≤ n − 1, 0, en otro caso.

Esto es, tenemos el siguiente arreglo:

X 10

X ₂₀ , X ₂₁ X ₃₀ , X ₃₁ , X ₃₂ .. . .. . .. .

X _n0 , X _n1 , X _n2 , · · · , X _nn−1

.. . .. . .. . .. . .. .

GRAFICAS

Es posible escribir el arreglo como una sola sucesi´ on, (Y _m ) _m≥1 de la sigu- iente manera:

Y n(n−1)/2+k+1 = X _nk ,

Obs´ ervese que para cada ω ∈ (0, 1) hay una infinidad de parejas (n, k) para las que X _nk = 0 y tambi´ en una infinidad para las que X _nk = 1. Por lo tanto, para toda ω ∈ (0, 1) la sucesi´ on (Y _m (ω)) _m≥1 no converge, es decir, su conjunto de convergencia tiene probabilidad cero.

Sin embargo, es claro que para n suficientemente grande, las variables aleatorias X _nk son muy parecidas a la variable aleatoria X ≡ 0. De hecho son iguales a cero excepto en un conjunto de probabilidad _n ¹ , lo que sugiere la siguiente definici´ on:

Definici´ on 1.4 Convergencia en Probabilidad. Una sucesi´ on (X _n ) _n≥1 de variables aleatorias se dice que converge en probabilidad a la variable aleatoria X si para cada ε > 0 se satisface:

n→∞ lim P [|X _n − X| > ε] = 0

La convergencia en probabilidad ser´ a denotada por X _n → X. ^P

Claramente la sucesi´ on de variables aleatorias (Y m ) m≥1 del Ejemplo 1.4 con- verge en probabilidad a la variable aleatoria X ≡ 0.

A continuaci´ on presentamos algunas de las Leyes D´ ebiles de los Grandes N´ umeros. El apellido D´ ebiles se refiere a la convergencia en probabilidad y no casi segura que como hemos visto con el Ejemplo 1.4 es m´ as d´ ebil.

Teorema 1.6 Sea (X _n ) _n≥1 una sucesi´ on de variables aleatorias, entonces 1. Ley D´ ebil de los Grandes N´ umeros de Bernoulli. Si X ₁ , X ₂ , ...., X _n , ...

son variables aleatorias independientes id´ enticamente distribuidas, con distribuci´ on Bernoulli con par´ ametro p, entonces

S _n n

→ p. P

2. Ley D´ ebil de los Grandes N´ umeros. Si X ₁ , ..., X _n , ... son variables aleatorias independientes id´ enticamente distribuidas con E[X ₁ ] = µ, entonces

S _n n

→ µ. P

1.3. CONVERGENCIA EN PROBABILIDAD 11 3. Ley D´ ebil de los Grandes N´ umeros de Poisson. Si X ₁ , ..., X _n , ... son variables aleatorias independientes, y para cada i, X _i tiene distribuci´ on Bernoulli con par´ ametro p _i , i ≥ 1, entonces

S _n

n − E  S _n n

 P

→ 0.

4. Ley D´ ebil de Chebyshev. Si X 1 , ..., X n , ... son variables aleatorias no correlacionadas, es decir, Cov(X _i , X _j ) = 0 para i 6= j, y V ar(X _i ) ≤ M < ∞ para toda i ≥ 1, entonces

S _n

n − E  S _n n



→ 0. P

5. Ley D´ ebil de Markov. Si X ₁ , ..., X _n , ... son variables aleatorias con se- gundo momento finito tales que:

V ar  S _n n



→ 0, Condici´ on de Markov, Entonces

S _n

n − E  S _n n

 P

→ 0.

Demostraci´ on

De estas Leyes puede demostrarse f´ acilmente que

(i) La Ley D´ ebil de Markov es m´ as fuerte que la de Chebyshev y que la Ley D´ ebil.

(ii) La Ley D´ ebil de Chebyshev es m´ as fuerte que la de Poisson.

(iii) La Ley D´ ebil de Poisson es m´ as fuerte que la de Bernoulli.

(iv) La Ley D´ ebil es m´ as fuerte que la de Bernoulli.

Luego entonces, es suficiente demostrar la Ley de Markov, la cual se sigue de la Desigualdad de Bienaym´ e-Chebyshev:

Dada ε > 0, se tiene:

P

   

S n

n − E  S _n n

   

> ε



≤ V ar ^S _n

ε ² .

La Condici´ on de Markov implica as´ı la convergencia en probabilidad.

2 Como hemos visto en el Ejemplo 1.4 la convergencia en probabilidad no implica la convergencia casi segura, sin embargo, el rec´ıproco si es v´ alido:

Teorema 1.7 Sea (X _n ) _n≥1 una sucesi´ on de variables aleatorias. Si X _n ^c.s. → X entonces X _n → X. ^P

Demostraci´ on

Supongamos que X n

c.s. → X y sea C su conjunto de convergencia. Entonces para n ≥ 1 y ε > 0:

[|X _n − X| > ε] ⊂ [

k≥n

[|X _k − X| > ε].

Sea

B(ε) = \

n≥1

∞

[

k=n

[|X k − X| < ε],

entonces B(ε) ⊂ C ^c , por lo tanto P [B(ε)] = 0. Por otro lado, 0 = P [B(ε)] = lim

n→∞ P [ [

k≥n

[|X _k − X| > ε],

de donde se obtiene el resultado.

2 Volviendo al Ejemplo 1.4 se puede observar que si bien el conjunto de conver- gencia de la sucesi´ on tiene probabilidad 0 se puede considerar una subsucesi´ on que converge casi seguramente a la variable aleatoria X = 0, por ejemplo la subsucesi´ on (X _n1 ) _n≥1 . Esto no es casual, de hecho es un resultado general, que enunciamos a continuaci´ on pero que omitimos su demostraci´ on.

Teorema 1.8 Sea (X n ) n≥1 una sucesi´ on de variables aleatorias. Si X n

→ X P

entonces existe una subsucesi´ on (X _n

) _n

≥1 tal que X _n

^c.s. → X.

1.4. CONVERGENCIA EN DISTRIBUCI ´ ON 13

1.4 Convergencia en Distribuci´ on

En las definiciones de convergencia casi segura y en probabilidad, se consider´ o un espacio de probabilidad (Ω, F , P ) fijo en donde estaban definidas todas las variables aleatorias. La convergencia en distribuci´ on que se definir´ a a continuaci´ on es un concepto que se refiere no a una propiedad de convergencia de las variables aleatorias sino de las funciones de distribuci´ on. As´ı, las variables aleatorias en consideraci´ on en esta secci´ on pueden estar definidas en distintos espacios de probabilidad.

Definici´ on 1.5 Sea (X _n ) _n≥1 una sucesi´ on de variables aleatorias y (F _n ) _n≥1 la sucesi´ on correspondiente de funciones de distribuci´ on. Diremos que X _n converge en distribuci´ on a (la variable aleatoria) X con funci´ on de dis- tribuci´ on F , si

n→∞ lim F _n (x) = F (x),

para todo x ∈ R, punto de continuidad de F . La convergencia en distribuci´ on la denotaremos X _n → X (o F ^D _n → F ). ^D

Ejemplo 1.5 Para cada n ≥ 1 sea X _n una variable aleatoria uniforme sobre el intervalo (− _n ¹ , _n ¹ ). Entonces X _n → X, donde P [X = 0] = 1. ^D

La funci´ on de distribuci´ on F _n de X _n est´ a dada por

F _n (x) =







0, si x ≤ − ¹ _n ,

1

2 (1 + nx), si − _n ¹ < x < _n ¹ , 1, si x ≥ _n ¹ .

Cuando n → ∞ la sucesi´ on de funciones F _n tiende a G, donde

G(x) =







0, si x < 0,

1

2 , si x = 0, 1, si x > 0.

La funci´ on G no es una funci´ on de distribuci´ on ya que no es continua por la derecha. Consideremos la funci´ on de distribuci´ on F de la variable aleatoria X que es la constante igual a 0, es decir,

F (x) =  0, si x < 0,

1, si x ≥ 0,

Claramente, de la definici´ on de convergencia en distribuci´ on X _n → X, pues ^D F _n (x) converge a F (x) para toda x 6= 0 y el 0 no es un punto de continuidad de la funci´ on F .

Obs´ ervese que en este ejemplo las variables aleatorias X _n pueden estar definidas en distintos espacios de probabilidad.

{constanten}

Ejemplo 1.6 Para cada n ≥ 1 sea X _n la variable aleatoria constante igual a n, es decir, P [X _n = n] = 1. La funci´ on de distribuci´ on F _n de X _n est´ a dada por:

F _n (x) = 11 _[n,∞) (x), Luego, entonces

n→∞ lim F _n (x) = 0, para toda x ∈ R.

Sin embargo, la funci´ on id´ enticamente cero no es una funci´ on de distribuci´ on.

Esto es, a´ un cuando para toda x ∈ R el lim _n→∞ F _n (x) existe, el l´ımite no es funci´ on de distribuci´ on, por lo tanto la sucesi´ on (X _n ) _n≥1 no converge en distribuci´ on.

Ejemplo 1.7 Sea X una variable aleatoria N (0, 1). Para cada n ≥ 1 sea X _n la variable aleatoria definida por:

X _n (ω) = (−1) ⁿ X(ω).

La distribuci´ on de X _n es tambi´ en N (0, 1), por lo tanto, X _n → X. ^D

De este ejemplo se puede concluir que a´ un cuando las variables aleatorias est´ en definidas en el mismo espacio de probabilidad, la convergencia en dis- tribuci´ on no nos da informaci´ on acerca de la convergencia de las variables aleatorias, pues en este caso,

|X _n − X| =  2X, si n es par, 0, si n es impar.

Ejemplo 1.8 Sea (X _n ) _n≥1 una sucesi´ on de variables aleatorias independi- entes e id´ enticamente distribuidas Exponenciales con par´ ametro λ > 0. Sea M n = max {X 1 , ..., X n } y

Z _n = λM _n − log n,

1.4. CONVERGENCIA EN DISTRIBUCI ´ ON 15 enotonces, para cada x ∈ R y n tal que x + log n > 0

F _n (x) = P [Z _n ≤ x] = P [M _n ≤ 1

λ (x + log n)]

= (1 − exp(−λ 1

λ (x + log n)) ⁿ

=



1 − e ^−x n

 n

. Por lo tanto,

n→∞ lim F _n (x) = exp(−e ^−x ).

La funci´ on

F (x) = exp(−e ^−x ),

es una funci´ on de distribuci´ on llamada la distribuci´ on Gumbel. Es decir Z _n → Z, donde Z es una variables aleatoria con distribuci´ ^D on Gumbel.

Ejemplo 1.9 Sea (X n ) n≥1 una sucesi´ on de variables aleatorias uniformes en (0, 1). Sea M _n = max {X ₁ , ..., X _n } y

Z n = n(M n − 1).

Claramente las variables aleatorias Z _n toman valores en (−∞, 0). Entonces, para cada x > 0,

P [Z _n ≤ x] = 1, para toda n ≥ 1.

Para x < 0 y n tal que _n ^x + 1 ∈ (0, 1), tenemos F _n (x) = P [Z _n ≤ x] = P [M _n ≤ x

n + 1]

=  x

n + 1  n

. De donde

n→∞ lim F _n (x) = exp(−(−x)), si x < 0.

La funci´ on

F (x) =  1, si x > 0,

exp(−(−x)), si x ≤ 0,

es una funci´ on de distribuci´ on llamada Distribuci´ on Weibull con par´ ametro α = 1, es decir

Z _n → Z, ^D

donde Z es una variable aleatoria con distribuci´ on Weibull con par´ ametro α = 1.

En general, es bastante dif´ıcil demostrar la convergencia en distribuci´ on pues la forma de estas funciones en ocasiones (como por ejemplo, en el caso Gaus- siano) no es cerrada, es decir, se expresa en t´ erminos de una integral. No s´ olo eso sino que como veremos m´ as adelante en lo que llamaremos el Teorema de L´ımite Central, los resultados importantes de convergencia en distribuci´ on se refieren no a sucesiones particulares de variables aleatorias, sino a suce- siones de variables aleatorias independientes e id´ enticamente distribuidas con la ´ unica condici´ on adicional de la existencia de segundo momento finito.

Por otro lado, recu´ erdese que la funci´ on caracter´ıstica caracteriza a la funci´ on de distribuci´ on, por lo que intuitivamente se podr´ıa esperar alguna relaci´ on entre la convergencia de las funciones caracter´ısticas de una sucesi´ on de variables aleatorias y su convergencia en distribuci´ on. El siguiente Teo- rema (de L´ evy-Cramer o Teorema de Continuidad de L´ evy) es en este sentido.

Teorema 1.9 Teorema de L´ evy-Cramer o de Continuidad de L´ evy. Una sucesi´ on de variables aleatorias (X _n ) _n≥1 converge en distribuci´ on a la vari- able aleatoria X si y s´ olo para toda t ∈ R la sucesi´ on (Φ _n (t)) _n≥1 de sus corespondientes funciones caracter´ısticas converge a la funci´ on caracter´ıstica Φ(t) de X.

Obs´ ervese que en el Ejemplo 1.6 la funci´ on caracter´ıstica de X _n est´ a dada por:

Φ _n (t) = e ^itn ,

y lim _n→∞ e ^itn no existe, pues e ^itn = cos(tn) + isen(tn), por lo que tanto su parte real como imaginaria oscilan cuando n → ∞.

Teorema 1.10 Teorema de L´ımite Central (Cl´ asico). Sea (X _n ) _n≥1 una sucesi´ on de variables aleatorias independientes id´ enticamene distribuidas con esper- anza µ y varianza σ ² . Entonces

S _n − nµ

√ nσ

→ X, D

donde X es una variable aleatoria N (0, 1).

1.4. CONVERGENCIA EN DISTRIBUCI ´ ON 17 Demostraci´ on

Por el Teorema de L´ evy-Cramer es suficiente demostrar que las funciones caracter´ısticas convergen. Para cada n ≥ 1, sea Y _n = ^X

_σ ^−µ , entonces

S _n − nµ σ √

n = 1

√ n

n

X

j=1

Y _j .

Las variables aleatorias Y ₁ , Y ₂ , ... son independientes e id´ enticamente dis- tribuidas con media cero y varianza uno. Luego entonces

Φ _n (t) = E

 exp



it S _n − nµ σ √

n



= E

"

exp it 1

√ n

n

X

j=1

Y _j

!#

=

n

Y

j=1

E

 exp

 it 1

√ n Y j



 Φ _Y

 t

√ n

 n

.

donde Φ _Y

es la funci´ on caracter´ıstica de Y ₁ (de hecho de todas las variables aleatorias Y n ).

De la expansi´ on de la funci´ on caracter´ıstica ?? se obtiene:

Φ _n (t) =

 1 − t ²

2n + o  1 n



.

Cuando n → ∞, h

1 − _2n ^t

+ o ¹ _n
i

→ e ^−t

^/2 que es la funci´ on caracter´ıstica de una variable aleatoria N (0, 1).

2 Ejemplo 1.10 Una Aplicaci´ on a Muestreo. En un lote de focos hay una fracci´ on desconocida p de focos defectuosos. Utilizando el muestreo con reem- plazo, se desea encontrar p con un error no mayor de 0.005.

Obs´ ervese que

p = N´ umero de focos defectuosos N´ umero de focos en el lote .

Sean X ₁ , ..., X _n variables aleatorias independientes Bernoulli con par´ ametro

p. De la Ley de Fuerte de los Grandes N´ umeros, tenemos que ^S _n

^c.s. → p, por

lo que para n grande se puede considerar a ^S _n

como un estimador de p. La Ley de Los Grandes N´ umeros no da suficiente informaci´ on pues no dice cu´ al es la velocidad de convergencia. M´ as precisamente se desea encontrar n tal que

P

   

S _n n − p

< 0.005



> 0.95, Obs´ ervese que

P

   

S _n n − p

< 0.05



= P

"

S _n − np pp(1 − p)n

< 0.05n pp(1 − p)n

# . Por el Teorema de L´ımite Central se tiene que

S _n − np pp(1 − p)n

→ X, D

donde X es una variable aleatoria N (0, 1).

As´ı, sea z ₀ tal que N (z ₀ ) − N (−z ₀ ) = 0.95, donde N (·) = P [X ≤ ·].

(Este valor se puede encontrar en las tablas de la distribuci´ on Gaussiana) y n suficientemente grande tal que

0.05 √ n

pp(1 − p) ≥ z 0 , esto es,

n ≥ 400p(1 − p)z ₀ ² .

En esta ´ ultima expresi´ on interviene p que es deconocida, sin embargo, inde- pendientemente de su valor

1

4 ≥ p(1 − p).

Luego entonces basta tomar n ≥ 100z ₀ ² .

1.5 Evoluci´ on del Problema

La Ley de los Grandes N´ umeros y el teorema de L´ımite Central presenta-

dos son resultados sobre la convergencia de sumas normalizadas de vari-

ables aleatorias independientes e id´ enticamente distribuidas, las primeras

1.5. EVOLUCI ´ ON DEL PROBLEMA 19 demostraciones (en el caso de variables aleatorias Bernoulli) datan del siglo XVIII con los trabajos de Bernoulli, Laplace y De Moivre.

Los resultados que se presentan aqu´ı son los llamados cl´ asicos, y como hemos visto se imponen condiciones fuertes sobre las distribuciones de las variable aleatorias. Obs´ ervese que en los casos descritos las variables aleato- rias se centran con respecto a la media y se normalizan con respecto a la varianza, adem´ as de que se supone que son independientes e id´ enticamente distribuidas.

Sin embargo, dada una sucesi´ on arbitraria de variables aleatorias podr´ıamos preguntarnos si es posible la existencia de una Ley de Grandes N´ umeros y un Teorema de L´ımite Central en alg´ un sentido. M´ as precisamente este prob- lema podr´ıa plantearse de la siguiente manera:

Dada una sucesi´ on (X _n ) _n≥1 de variables aleatorias, existen constantes (a _n ) _n≥1 , (b _n ) _n≥1 tales que

S _n a n

− b _n ,

converja (en probabilidad) a una constante, o (en distribuci´ on) a una dis- tribuci´ on Gaussiana? Algunas de las respuestas a estas preguntas pueden consultars en ??, por ejemplo, cuando las variables aleatorias son independi- entes m´ as no id´ enticamente distribuidas. Resultados en este sentido existen tambi´ en cuando se debilita la condici´ on de independencia ??

En este siglo, L´ evy plantea un problema m´ as general:

Encontrar la familia de posibles distribuciones l´ımites de sumas normal- izadas de variables aleatorias independientes e id´ enticamente distribuidas, es decir, sin imponer condiciones sobre la existencia de los momentos. L´ evy considera el caso de segundo momento infinito y primer momento finito o infinito.

Naturalmente, el problema de posibles distribuciones l´ımites de sumas

normalizadas de variables aleatorias independientes no necesariamente id´ enticamente

distribuidas surge al mismo tiempo puede consultarse ??.

Tarea III

Probabilidad II

1. Demuestre que la Ley D´ ebil de Poisson es un caso particular de la Ley D´ ebil de Chebyshev.

2. Para cada n ≥ 1 sea X n una variable aleatoria N (n, σ ² ). Las variables aleatorias X _n , n ≥ 1 convergen en distribuci´ on?.

3. Para cada n ≥ 1 sea X _n una variable aleatoria N (µ, ¹ _n ). Las variables aleatorias X _n , n ≥ 1 convergen en distribuci´ on?.

4. Sea (X _n ) _n≥1 una sucesi´ on de variables aleatorias independientes, id´ enticamente distribuidas con distribuci´ on Pareto con par´ ametros α, K > 0 dada por:

F (x) =  0, si x < K ^1/α , 1 − Kx ^−α , si x ≥ K ^1/α .

Sea M _n = max {X ₁ , ..., X _n } y Z _n = _(Kn) ^M

. Demuestre que Z _n → Z ^D donde Z es una variable aleatoria con distribuci´ on dada por:

F Z (x) =  0, si x < 0, exp(−x ^−α ), si x ≥ 0.

A F _Z se le conoce como la distribuci´ on Fr´ echet con par´ ametro α > 0.

5. Para los incisos (i)-(iv) genere (en el programa de computaci´ on que sepa usar) muestras de variables aleatorias X 1 , ..., X n , independientes e id´ enticamente distribuidas.

(a) Calcule S _n = P n i=1 X _i ,

(b) Calcule ^S _n

comp´ arelo con el resultado de la Ley de los Grandes N´ umeros, para n = 10, 100, 1000, .

(c) Calcule para la muestra generada el proceso emp´ırico N (x) definido en las notas, compare los resultados con la distribuci´ on de las vari- ables aleatorias. (Teorema de Glivenko-Cantelli).

(i) Variables aleatorias Bernoulli con par´ ametro p (para tres distintos

valores del par´ ametro).

1.5. EVOLUCI ´ ON DEL PROBLEMA 21 (ii) Variables aleatorias Binomiales con par´ ametros k, p (para tres

valores distintos de (k, p)).

(iii) Variables aleatorias Exponenciales con par´ ametro λ > 0 (para tres valores distintos del par´ ametro).

(iv) Variables aleatorias Gamma con par´ ametros α, λ. (para tres dis- tintos valores de los par´ ametros.)

6. Compare la distribuci´ on de P n

i=1 X _i con la aproximaci´ on del Teorema de L´ımite Central, para las variables aleatorias (i)-(iv) del ejercicio anterior. Es decir, considere X ₁ , ..., X _n v. a.i.i.d. S _n = P n

i=1 X _i , entonces

P [S _n ≤ x] ≈ P



X ≤ x − nµ

√ nσ ²

 ,

donde E[X _i ] = µ,V ar(X _i ) = σ ² y X es una variable aleatoria N (0, 1).

No use simulaciones en este ejercicio sino la distribuci´ on exacta. Para

n = 10, 30, 50.