Tema 1: Espacios de probabilidad

Probabilidad II

Tema 1: Espacios de probabilidad

Jos´e R. Berrendero

Departamento de Matem´aticas Universidad Aut´onoma de Madrid

Estructura de este tema

Algebras,´ σ-´algebras.

Espacios de probabilidad.

Propiedades elementales.

L´ımites de sucesiones de conjuntos.

π-sistemas,λ-sistemas. Teorema de Dynkin.

Funci´on de distribuci´on.

Probabilidad condicionada.

Variables y vectores aleatorios.

σ-´algebra generada por una variable aleatoria.

σ-´ algebras

Sea Ω un conjunto no vac´ıo.

Un ´algebraF es una clase de subconjuntos de Ω que verifica Ω∈ F.

Si A∈ F, entoncesA^c ∈ F, dondeA^c := Ω−A.

Si A,B ∈ F, entonces A∪B ∈ F.

Unaσ-´algebraF es una clase de subconjuntos de Ω que verifica Ω∈ F.

Si A∈ F, entoncesA^c ∈ F.

Si A_n ∈ F,n ≥1, entonces ∪^∞_n=1A_n∈ F.

σ-´ algebras

Ejemplos

El conjunto de las partes de Ω, F =P(Ω).

F ={∅,Ω}.

F ={∅,Ω,A,A^c}, dondeA⊂Ω.

F ={A⊂R: A numerable}S

{A⊂R: A^c numerable}.

Observaci´on: La intersecci´on deσ-´algebras es una σ-´algebra. En general la uni´on de σ-´algebrasno es una σ-´algebra.

σ-´algebra generada por una clase de conjuntos

Sea C ⊂ P(Ω). Se define la σ-´algebra generada porC como la intersecci´on de todas las σ-´algebras que contienen aC (la “m´ınima” σ-´algebra que contiene a C).

σ-´ algebra de Borel

σ-´algebra de Borel

Sea (Ω, τ) un espacio topol´ogico. La σ-´algebra de BorelB:=B(Ω) es la generada por los conjuntos abiertos de Ω.

σ-´algebra de Borel en R

B(R) =σ((a,b],a,b ∈R) =σ((a,b),a,b ∈R) =σ([a,b),a,b ∈R)

=σ((−∞,b],b∈R) =σ((−∞,b),b∈R)

=σ((a,∞],a∈R) =σ([a,∞),a∈R).

Espacio de probabilidad

Un espacio de probabilidad es una terna (Ω,F,P), donde Ω es un conjunto no vac´ıo, F es unaσ-´algebra de subconjuntos de Ω y P es una medida de probabilidad sobre F, es decir, P :F →[0,1] tal que

P(Ω) = 1.

SiA1,A2, . . . son sucesos enF tales queAi∩Aj =∅sii 6=j, entonces P

∞

[

n=1

A_n

!

=

∞

X

n=1

P(A_n).

Propiedades elementales

Paso al complementario: P(A^c) = 1−P(A).

Probabilidad del vac´ıo: P(∅) = 0.

Monoton´ıa: Si A⊂B, entonces P(A)≤P(B).

Subaditividad:

P

∞

[

n=1

An

!

≤

∞

X

n=1

P(An).

F´ormula de inclusi´on-exclusi´on:

P

n

[

i=1

Ai

!

=

n

X

i=1

P(Ai)−X

i<j

P(Ai ∩Aj)

+ X

i<j<k

P(A_i∩A_j ∩A_k)− · · ·+ (−1)ⁿ⁺¹P(A1∩ · · · ∩An).

L´ımites de sucesiones de conjuntos

L´ımite inferior de una sucesi´on de conjuntos:

lim infA_n =

∞

[

n=1

∞

\

k=n

A_k.

L´ımite superior de una sucesi´on de conjuntos:

lim supA_n=

∞

\

n=1

∞

[

k=n

A_k.

Comprueba lim infA_n⊂lim supA_n.

Expresa de forma alternativa (lim infA_n)^c y (lim supA_n)^c.

L´ımites de sucesiones de conjuntos

L´ımite de una sucesi´on de conjuntos

La sucesi´onA_n tiene l´ımite A(A_n→A) si lim infA_n= lim supA_n=A.

L´ımites de sucesiones mon´otonas

Si A1 ⊂A2 ⊂ · · ·, entonces An ↑A=∪^∞_n=1An. Si A1 ⊃A2 ⊃ · · ·, entonces An ↓A=∩^∞_n=1An. Continuidad para sucesiones mon´otonas

Si An↑A, entonces P(An)↑P(A). SiAn↓A, entonces P(An)↓P(A).

Relaci´on entre la probabilidad del l´ımite inferior y superior P(lim infA_n)≤lim inf P(A_n)≤lim sup P(A_n)≤P(lim supA_n).

Continuidad

Si A_n→A, entonces P(A_n)→P(A).

π-sistemas y λ-sistemas

Un π-sistema C es una clase de subconjuntos de Ω tal que siA,B ∈ C, entonces A∩B ∈ C.

Un λ-sistemaes una clase Lde subconjuntos de Ω tal que:

(a) Ω∈ L, (b) siA∈ L, entonces A^c ∈ L, (c) siAn∈ L,n≥1, y A_i ∩A_j =∅ para i 6=j, entonces ∪^∞_n=1A_n∈ L.

Observaciones

Un ´algebra es un π-sistema.

Unaσ-´algebra es unλ-sistema.

C es unaσ-´algebra si y solo siC esπ-sistema yλ-sistema.

Teorema de Dynkin

Teorema de Dynkin

Sea C unπ-sistema y Lun λ-sistema. Si C ⊂ Lentoncesσ(C)⊂ L.

Aplicaci´on habitual de este teorema

Supongamos que L contiene los conjuntos que satisfacen cierta propiedad.

Para demostrar que la propiedad se cumple para todos los conjuntos de una σ-´algebra (σ(C)⊂ L) basta probarla para los conjuntos de un π-sistema que la genera (C ⊂ L).

Teorema de Dynkin: esquema de la demostraci´ on

Basta demostrar que el m´ınimo λ-sistema que contiene a C,λ(C), es unπ-sistema.

Dado A⊂Ω, definimosG_A :={B⊂Ω : A∩B ∈λ(C)}.

Si A∈λ(C), entonces G_A esλ-sistema.

Si A∈ C, entonces λ(C)⊂ G_A. Para esto basta ver que C ⊂ G_A. (Por tanto, siA∈ C yB ∈λ(C), entonces A∩B ∈λ(C)).

Cambiando los papeles de AyB tenemos que siA∈λ(C), entonces C ⊂ G_A. Como consecuencia,λ(C)⊂ G_A y hemos terminado.

Funci´ on de distribuci´ on

Sea P una medida de probabilidad sobre (R,B), dondeB es laσ-´algebra de Borel. La funci´on de distribuci´on F :R→[0,1] correspondiente aP se define como

F(x) = P((−∞,x]), x∈R. Observaciones

(a) Una funci´on de distribuci´onF tiene las tres propiedades siguientes:

Es continua por la derecha.

Es mon´otona no decreciente.

F(∞) := limx→∞F(x) = 1;F(−∞) := limx→−∞F(x) = 0.

(b) Si F es una funci´on de distribuci´on, Cont(F)^c es numerable, donde Cont(F) es el conjunto de puntos en los queF es continua.

(c) Si F₁ yF₂ son dos funciones de distribuci´on tales queF₁(x) =F₂(x), para todox ∈Cont(F1)∩Cont(F2), entonces F1(x) =F2(x), para todo x∈R.

Extensi´ on de medidas

Teorema

Sea F :R→[0,1] una funci´on continua por la derecha, mon´otona no decreciente, con F(∞) = 1,F(−∞) = 0. Definamos

P((a,b]) =F(b)−F(a), paraa<b. Existe una ´unica medida de probabilidad que extiende P a B(R).

Teorema de extensi´on de Carath`eodory

Sea µuna medida σ-finita sobre un ´algebraF₀⊂ P(Ω). Entonces existe una extensi´on ´unica de µa la σ-´algebraF generada porF₀.

La unicidad se puede deducir directamente de:

Teorema

Sean P₁ y P₂ medidas de probabilidad sobreσ(C), dondeC es un π-sistema. Si P1(A) = P2(A) para todo A∈ C, entonces P₁(A) = P2(A) para todo A∈σ(C).

Probabilidad condicionada

Sea (Ω,F,P) un espacio de probabilidad yA,B ∈ F con P(B)>0.

Se llama probabilidad de Acondicionada aB a P(A|B) := P(A∩B) P(B) . La aplicaci´on:

P(·|B) :F −→[0,1]

A7−→P(A|B) es una medida de probabilidad sobre (Ω,F).

Probabilidad condicionada

F´ormula del producto

Si A1, . . . ,An∈ F con P(A1∩ · · · ∩An)>0, se tiene

P(A₁∩ · · · ∩A_n) = P(A₁)P(A₂|A1)P(A₃|A1∩A₂)· · ·P(A_n|A1∩ · · · ∩A_n−1).

Una colecci´on de sucesos disjuntos {A_i}^∞_i=1 ⊂ F es una partici´on de Ω si:

(a) P(A_i)>0,i ≥1.

(b) Ω =∪^∞_i=1A_i.

F´ormula de la probabilidad total

Sea (Ω,F,P) un espacio de probabilidad y{A_i}^∞_i=1⊂ F una partici´on.

Entonces, para cualquierB ∈ F, P(B) =

∞

X

i=1

P(A_i)P(B|A_i).

Probabilidad condicionada

F´ormula de Bayes

Sea (Ω,F,P) un espacio de probabilidad, {A_i}^∞_i=1 ⊂ F una partici´on y B ∈ F con P(B)>0, entonces

P(Aj|B) = P(A_j)P(B|A_j) P∞

i=1P(A_i)P(B|A_i). P(A_n) se llamanprobabilidades a priori

P(A_n|B) se llaman probabilidades a posteriori

Variables aleatorias

Unavariable aleatoriasobre un espacio de probabilidad (Ω,F,P) es una funci´on X : Ω→Rmedible respecto aF y laσ-´algebra de Borel B(R).

X⁻¹(B)∈ F, para todo B∈ B(R).

Intuitivamente, X(ω) representa una cantidad num´erica relacionada con el resultadoω ∈Ω de un experimento aleatorio.

Queremos calcular probabilidades de sucesos de la forma {a<X ≤b}:={ω: a<X(ω)≤b}=X⁻¹(a,b].

Es necesario X⁻¹(a,b]∈ F, para todo a,b ∈R, lo que implica X⁻¹(B)∈ F para todoB ∈ B(R).

A veces hace falta considerar v.a. extendidasX : Ω→R, donde R= [−∞,∞]. Aqu´ı,B(R) es generada por intervalos (a,b], con

−∞ ≤a<b≤ ∞y [−∞,b], con −∞ ≤b ≤ ∞.

Distribuci´ on inducida por una v.a.

Unavariable aleatoriaX induce una medida de probabilidad P_X sobre (R,B):

P_X(B) := P(X ∈B) = P{ω: X(ω)∈B}, B ∈ B.

Es f´acil comprobar que P_X es en efecto una medida de probabilidad sobre (R,B).

La funci´on de distribuci´on de una v.a. X es la funci´on de distribuci´on de la medida de probabilidad P_X:

F_X(x) = P_X((−∞,x]) = P(X ≤x), x ∈R. Dada una funci´onF mon´otona no decreciente y continua por la derecha conF(∞) = 1 y F(−∞) = 0, siempre existe una v.a. X tal que F =FX.

Observaciones

Si X1, . . . ,Xn son v.a. yg :Rⁿ→R es medible (Borel), entonces g(X₁, . . . ,X_n) es una v.a. Por ejemplo: X₁+. . .+X_n es una v.a.

Si X₁,X₂,· · · son v.a. entonces sup_nX_n e inf_nX_n son v.a.

Si X1,X2,· · · son v.a. entonces lim sup_nXn y lim infnXn son v.a.

Si X1,X2,· · · son v.a. tales que Xn(ω) converge para todo ω∈Ω, entonces limnXn es una v.a.

Algunos tipos de variables aleatorias

(1) Una v.a. X esdegenerada enc ∈Rsi P(X =c) = 1. ¿Cu´al es su funci´on de distribuci´on?

(2) Una v.a. X esdiscreta si el conjunto de valores que toma X es finito o numerable.

(3) Una v.a. X esabsolutamente continuasi existe una funci´on medible (Borel) y no negativaf :R→Rtal que F_X(x) =R_x

−∞f(t)dt. Se dice quef es lafunci´on de densidad deX. Se verifica:

R∞

−∞f(t)dt = 1.

P(X ∈B) =R

Bf(t)dt, para todo B∈ B.

(4) Una v.a. X essingular si existeB ∈ B tal que λ(B) = 0 y PX(B) = 1, donde λes la medida de Lebesgue.

Vectores aleatorios

Un vector aleatoriosobre un espacio de probabilidad (Ω,F,P) es una funci´on X : Ω→Rⁿ medible respecto a F y la σ-´algebra de BorelB(Rⁿ).

Observaci´on

X = (X1, . . . ,Xn) es un vector aleatorio si y solo si Xi es una variable aleatoria para todo i = 1, . . . ,n.

Distribuci´on y funci´on de distribuci´on de un vector aleatorio Distribuci´on:

PX(B) := P(X ∈B) = P{ω: X(ω)∈B}, B ∈ B(Rⁿ).

Funci´on de distribuci´on: F :Rⁿ→Rtal que

F_X(x) =F(x₁, . . . ,x_n) := P(X_i ≤x_i, i = 1, . . . ,n).

Las funciones de distribuci´on de las v.a. X_i,i = 1, . . . ,n se llaman funciones de distribuci´on marginales.

Vectores aleatorios absolutamente continuos

Una vector aleatorio X esabsolutamente continuo si existe una funci´on medible (Borel) y no negativa f :Rⁿ→Rtal que

FX(x1, . . . ,xn) = Z xn

−∞

· · · Z x1

−∞

f(t1, . . . ,tn)dt1· · ·dtn. Se dice que f es lafunci´on de densidad de X. Se verifica:

P(X ∈B) = Z

B

f(t₁, . . . ,t_n)dt₁· · ·dt_n, para todo B ∈ B(Rⁿ).

σ-´ algebra generada por una variable aleatoria

Sea X : (Ω,F)→(R,B) una v.a. La clase de conjuntos σ(X) :={X⁻¹(B) : B ∈ B}

es una sub σ-´algebra deF denominadaσ-´algebra generada por X. σ(X) es la m´ınimaσ-´algebra que hace medible aX.

Determina σ(X) para las siguientes v.a.:

X(ω) =apara todoω ∈Ω.

X =IA, dondeA∈ F.

X es una v.a. simple, es decir,X toma un n´umero finito de valores {a₁, . . . ,ak} ⊂R.

σ-´ algebra generada por una variable aleatoria

Intuitivamente, σ(X) recoge la informaci´on que se obtiene al observar la v.a. X.

Dada una familia de v.a. {X_i : i ∈I}, se defineσ(X_i,i ∈I) como la m´ınima σ-´algebra que hace medibles a todas las X_i simult´aneamente, es decir,

σ(Xi,i ∈I) :=σ [

i∈I

σ(Xi)

! .

Un proceso en un intervalo de tiempo [0,T], determina una familia de v.a.

{X_t : t ∈[0,T]}. Entonces,σ(X_t,t∈[0,T]) representa la informaci´on obtenida al observar el proceso.

σ-´ algebra generada por una variable aleatoria

Proposici´on

Si X es una v.a. yC es una clase de subconjuntos de R X⁻¹[σ(C)] =σ[X⁻¹(C)].

Demostraci´on:

X⁻¹[σ(C)]⊃σ[X⁻¹(C)] ya que X⁻¹[σ(C)] esσ-´algebra que contiene aX⁻¹(C).

A={B ⊂R: X⁻¹(B)∈σ[X⁻¹(C)]} es unaσ-´algebra tal que C ⊂ A. Por tantoσ(C)⊂ A.

Esta inclusi´on implicaX⁻¹[σ(C)]⊂σ[X⁻¹(C)] por definici´on deA.

Corolario

σ(X) =σ({{X ≤x}:x ∈R)}=σ({X⁻¹((−∞,x]) :x ∈R}).