Modelo Lineal Generalizado

Introducci´on

Comenzaremos con un ejemplo que nos servir´a para ilustrar el an´alisis de datos binarios.

Nuestro inter´es se centra en relacionar una estructura estoc´astica en los datos que siguen una distribuci´on binomial y una estructura sistem´atica en t´erminos de alguna transformaci´on de las variables independientes.

Los siguientes datos tomados de Little (1978) corresponden a 1607 mujeres casadas y f´ertiles entrevistadas por la Encuesta de Fertilidad Fiji de 1975, clasi-ficadas por edad, nivel de educaci´on, deseo de tener m´as hijos y el uso de anticonceptivos.

Edad Educaci´on M´as Hijos? Uso de Anticonceptivos Total No Si < 25 Baja Si 53 6 59 No 10 4 14 Alta Si 212 52 264 No 50 10 60 25–29 Baja Si 60 14 74 No 19 10 29 Alta Si 155 54 209 No 65 27 92 30–39 Baja Si 112 33 145 No 77 80 157 Alta Si 118 46 164 No 68 78 146 40–49 Baja Si 35 6 41 No 46 48 94 Alta Si 8 8 16 No 12 31 43 Total 1100 507 1607

En este ejemplo se considera a Anticoncepci´on como variable dependiente

y a las dem´as como predictoras. En este caso, todas las predictoras son varia-bles categ´oricas, sin embargo el modelo que presentaremos permite introducir variables independientes continuas y discretas.

El objetivo es decribir c´omo el uso de m´etodos anticonceptivos var´ıa seg´un la

edad, el nivel de educaci´on y el deseo de tener m´as hijos.

Por ejemplo, una pregunta que ser´ıa interesante responder es si la asociaci´on entre educaci´on y anticoncepci´on es afectada por el hecho de que mujeres con un nivel de educaci´on m´as elevado prefieren familias m´as chicas que las mujeres con niveles de educaci´on inferior.

Componente Aleatoria Definamos Y_i =        1 si usa anticonceptivo 0 si no

Y_i toma los valores 1 y 0 con probabilidad Π_i y 1 − Π_i, respectivamente,y por lo tanto

E(Y_i) = Π_i

V ar(Y_i) = Π_i(1 − Π_i) .

fac-tor que afecte la esperanza tambi´en afectar´a la varianza. Esto nos sugiere que cualquier modelo, que como el lineal, asuma homoscedasticidad de las observa-ciones no ser´a adecuado para este problema.

En nuestro ejemplo, de acuerdo con el valor de las variables predictoras, las observaciones pueden ser clasificadas en 16 grupos. Si llamamos n_i al n´umero de observaciones del grupo i e Y_i denota al n´umero de ´exitos, tendremos que

Y_i ∼ Bi(n_i, Π_i). En nuestro caso,

Y_i = n´umero de mujeres que usan anticonceptivos en el i–´esimo grupo.

Luego, P (Y_i = k) =     n_i k    Πk_i(1 − Πi)ni−k E(Y_i) = n_iΠ_i V ar(Y_i) = n_iΠ_i(1 − Π_i) , para k = 0, . . . , n_i.

Componente sistem´atica

El pr´oximo paso en la definici´on del modelo involucra a las covariables x_i que participan en lo que llamaremos componente sistem´atica.

El modelo m´as sencillo podr´ıa expresar a Π_i como una combinaci´on lineal de las variables independientes:

Π_i = x0_iβ ,

siendo β el vector de par´ametros a estimar.

Este modelo recibe el nombre de modelo de probabilidad lineal y su estimaci´on puede basarse en m´ınimos cuadrados ordinarios.

Un problema evidente de este modelo es que las probabilidades Π_i son aco-tadas, mientras que las x0_iβ pueden tomar cualquier valor real. Si bien esto

podr´ıa controlarse imponiendo complicadas restricciones a los coeficientes, esta soluci´on no resulta muy natural.

Una soluci´on sencilla es transformar la probabilidad mediante una funci´on que mapee el intervalo (0, 1) sobre la recta real y luego modelar esta transfor-maci´on como una funci´on lineal de las variables independientes.

Una manera de hacer esto es mediante los odds definidos como

Ψ = Π

1 − Π ,

es decir la raz´on entre los casos favorables y los no favorables. Veamos unos ejemplos: Π Ψ 0.1 0.11 0.2 0.25 0.5 1 0.6 4 0.9 9

De manera que odds menores que 1 est´an asociados a probabilidades menores que 0.5 y odds mayores que 1 est´an asociados a probabilidades mayores que 1. Sin embargo, esta transformaci´on no alcanza, pues s´olo mapea sobre los reales positivos. Para extenderla a los negativos introduciremos el log:

logit(Π) = log    Π 1 − Π    = β_o + β₁x₁ + β₂x₂ + . . . + β_px_p = x0β = η La funci´on logit es estrictamente creciente y tiene inversa:

Π = logit−1(η) = e

η

1 + eη .

En nuestro ejemplo tenemos: 507 mujeres usan anticonceptivos entre las 1607, por lo que estimamos la probabilidad como ₁₆₀₇507 =0.316. Luego, los odds se calculan como 507 1607 1100 1607 = 507 1100 = 0,461.

Entonces, aproximadamente por cada mujer que usa anticonceptivos hay dos que no usan. El logit(0,461) = −0,775.

Modelo de Regresi´on Log´ıstica

Supongamos que Y₁, . . . , Y_n son v.a.independientes tales que

Y_i ∼ Bi(n_i, Π_i) . (1)

Esto define la componente aleatoria.

Supongamos adem´as que la probabilidad Π_i es una funci´on de los predictores:

logit(Π_i) = x0_iβ , (2)

donde las x_i son las covariables.

Esto define la componente sistem´atica del modelo.

El modelo definido por (1) y por (2) es un modelo lineal generalizado con respuesta binomial y funci´on de enlace logit.

Los coeficientes β tienen una interpretaci´on similar a la que tienen en el modelo lineal, pero debemos tener en cuenta que el miembro de la derecha es un logit y no una media. Los β_j representan entonces el cambio en el logit de la probabailidad asociada cuando hay un cambio de una unidad en el j–´esimo

predictor y se matienen constantes todas las dem´as variables. Como Π_i = e x0_iβ 1 + ex0iβ ,

la relaci´on con π_i es no lineal, luego no es tan sencillo como en el modelo lineal expresar el cambio en Π_i al cambiar un predictor. Sin embargo, cuando el predictor es continuo, podemos hacer una aproximaci´on tomando derivadas con respecto a la j–´esima coordenada de x_i, obteniendo

∂Π_i

∂x_ij = βjΠi(1 − Πi) .

Luego, el efecto del j–´esimo predictor depende del coeficiente β_j y de la probabilidad Π_i.

Una vez establecido el modelo que queremos ajustar deberemos estimar los par´ametros, hallar intervalos de confianza para los mismos, evaluar la bondad del ajuste y es probable que nos interese realizar alg´un test que involucre a los par´ametros. Tambi´en tendremos que evaluar la influencia de las observaciones en la determinaci´on de los valores estimados.

Modelo Lineal Generalizado

El modelo lineal cl´asico lo podemos definir como:

Y = (Y₁, . . . , Y_n)0 ∼ N (E(Y), Σ_Y) donde (3) E(Y) = µ = Xβ

Σ_Y = σ2I

Podemos pensar el modelo (3) como un modelo con tres componentes: 1. Componente Aleatoria: Y ∼ N (µ, σ2)

2. Componente Sistem´atica: covariables x₁, x₂, . . . , x_p que dan origen al pre-dictor lineal η = Pp_j=1 x_jβ_j = x0β .

3. Funci´on de enlace: enlace entre las dos componentes µ = η.

Si escribimos η = g(µ), g es la llamada funci´on de enlace o link .

Los modelos lineales generalizados permiten dos extensiones:

II. podemos elegir una funci´on de enlace que sea una funci´on mon´otona y diferenciable.

El Modelo Lineal Generalizado tuvo mucha difusi´on a partir del libro de McCullagh y Nelder (1989). En estos modelos la variable de respuesta Y_i sigue una distribuci´on que pertenece a una familia exponencial con media µ_i que es una funci´on, por lo general no lineal, de x0_iβ.

Nota

Recordemos que en la expresi´on cl´asica del modelo lineal tenemos un error aleatorio aditivo

Y = x0β +  .

Los modelos GLM no tienen esta estructura. Por ejemplo, en el caso del logit no podemos escribir log    Π 1 − Π    = x0β +  .

Para este modelo, el error aleatorio ya est´a incluido en Y ∼ Bi(n, Π) y g(µ) = η es una relaci´on funcional.

Funci´on de Verosimilitud para el GLM

Sea Y una v.a. con funci´on de densidad o probabilidad perteneciente a una familia exponencial dada por:

f_Y(y, θ, φ) = exp        yθ − b(θ) a(φ) + c(y, φ)        ,

para algunas funciones a(φ), b(θ) y c(y, φ). Si φ es un par´ametro conocido, ´esta es una familia exponencial con par´ametro can´onico o natural θ.

Si φ no es conocido, ´esta puede ser una familia exponencial en (θ, φ) o no. φ es un par´ametro de dispersi´on o de forma.

La media E(Y ) es s´olo funci´on de θ y es por lo tanto el par´ametro de inter´es; φ en general es tratado como un par´ametro nuisance o de ruido. En la

mayor´ıa de los casos φ no ser´a tratado tal como es tratado θ. Estimaremos y haremos inferencia bajo un valor asumido de φ y si φ necesita ser estimado, lo estimaremos y luego ser´a tomado como un valor fijo y conocido.

Esta familia incluye distribuciones sim´etricas, asim´etricas, discretas y conti-nuas, tales como la distribuci´on Normal, Binomial, Poisson o Gamma.

Momentos de una familia exponencial

Deduciremos el primer y segundo momento de una familia exponencial a partir del logaritmo de su verosimilitud.

`(θ, y) = yθ − b(θ)

a(φ) + c(y, φ) . Su primera derivada o score es:

`0(θ, y) = ∂`(θ, y)

∂θ =

y − b0(θ)

a(φ) ,

mientras que su derivada segunda es:

`00(θ, y) = ∂` 2_{(θ, y)} ∂2_θ = −b00(θ) a(φ) . Como E     ∂`(θ, y) ∂θ     = 0, entonces

0 = E (`0(θ, y)) = E     y − b0(θ) a(φ)     y por lo tanto µ = E(Y ) = b0(θ) . Adem´as, sabemos que

E(`00(θ, y)) = −E (`0(θ, y))2 , entonces

V ar(`0(θ, y)) = E (`0(θ, y))2 = −E(`00(θ, y)) = b

00

(θ) a(φ) . Por otro lado,

V ar(`0(θ, y)) = V ar     y − b0(θ) a(φ)     = 1 a2_(φ)V ar(Y )

y en consecuencia

V ar(Y ) = a(φ)b00(θ) .

La varianza es el producto de dos funciones: una que depende del par´ametro natural, θ y otra que depende s´olo del par´ametro nuisance φ.

Resumiendo:

E(Y ) = b0(θ)

Supuestos del modelo

la variable de respuesta Y tiene distribuci´on

exp        yθ − b(θ) a(φ) + c(y, φ)        , donde θ es el par´ametro can´onico, para el cual

µ = E(Y ) = b0(θ) y V ar(Y ) = a(φ)b00(θ) el predictor lineal

η = x0β

siendo x el vector de covariables y β el vector a estimar la funci´on de enlace que relaciona a η y µ

Nota: En algunos casos a(φ) es de la forma a(φ) = φ w, donde w es un peso conocido. Ejemplos 1. Normal: Y ∼ N (µ, σ2). f (y, θ, φ) = √ 1 2πσ2 exp    − 1 2 (y − µ)2 σ2     = exp     yµ − µ2/2 σ2 − 1 2     y2 σ2 + log(2πσ 2₎         , por lo tanto θ = µ, b(θ) = µ 2 2 , φ = σ 2_{, a(φ) = φ y c(y, φ) = −}1 2     y2 φ + log(2πφ)    . E(Y ) = µ

En el caso heterosced´astico Y ∼ N (µ, σ_w2), donde w es un peso conocido, tenemos φ = σ2 y a(φ) = _wφ.

2. Caso Binomial: Y ∼ Bi(n, p)

Consideremos Y_n = proporci´on de ´exitos. P (Y n = y) = P (Y = ny) =     n ny     pny(1 − p)n−ny = exp       y log _1−pp ! + log(1 − p) 1/n + log     n ny          

por lo tanto θ = log p

1 − p, b(θ) = log(1 + e θ_{) , φ = n, a(φ) =} 1 n y c(y, φ) =     φ φy    . E    Y n    = p = eθ 1 + eθ 3. Caso Poisson: Y ∼ P (λ). P (Y = y) = e−λ λ y y!

por lo tanto θ = log λ, b(θ) = eθ , φ = 1, a(φ) = 1 y c(y, φ) = − log y! E(Y ) = λ = eθ

Funci´on de enlace o link

Esta funci´on relaciona el predictor lineal η con la esperanza µ de la respuesta Y . A diferencia del modelo lineal cl´asico, aqu´ı introducimos una funci´on uno– a–uno continua y diferenciable, g(µ), tal que

η = g(µ) .

Ejemplos de g(t) son lafunci´on identidad, el log, la funci´on log´ıstica y la probit. Como la funci´on g es biyectiva podremos invertirla, obteniendo:

En el caso Binomial, por ejemplo, tenemos que µ ∈ (0, 1) y el link tiene que mapear sobre la recta real. Suelen usarse 3 links:

1. Logit: η = log _1−µµ (_1+eeη_η) 2. Probit: η = Φ−1(µ)

3. Complemento log–log: η = log(− log(1 − µ)) Links Can´_onicos:

En el caso normal mostramos que si Y ∼ N (µ, σ2) el par´ametro can´onico es θ = µ.

En el caso binomial Y ∼ Bi(n, p) en el que consideremos Y_n vimos que el can´onico es θ = logit(Π). Estos son los links m´as usados en cada caso.

Cuando usamos η = θ el modelo tiene el link can´onico o natural. Es

conve-niente usar el link natural, ya que algunas cosas se simplifican, pero la posibi-lidad de usarlo depender´a de los datos con los que estemos trabajando.

Normal: ηµ

Logistica 0.0 0.2 0.4 0.6 0.8 1.0 -4 -2 0 2 Probit 0.0 0.2 0.4 0.6 0.8 1.0 -2 -1 0 1 Log-log 0.0 0.2 0.4 0.6 0.8 1.0 -4 -3 -2 -1 0 1 ∏ ∏ ∏ ∏

Binomial: η = log _1−µµ Gamma: η = µ−1

Estimaci´on de los par´ametros:

M´etodo de Newton–Raphson y Fisher–scoring

Supongamos que Y₁, . . . , Y_n son variables aleatorias que satisfacen los supuestos de un GLM y que queremos maximizar el loglikelihood `(β, y) respecto a

β = (β₁, . . . , β_p)0. Queremos resolver ∂

∂β_j`(β, y) = 0 j = 1, . . . p

En general ´este es un sistema no lineal. A´un abusando de la notaci´on, a fin de simplificarla, notaremos:

`0(β) = `0(β, y) = 0 .

Aproximaremos la ecuaci´on linealmente en la vecindad de un punto β(t) me-diante el algoritmo de Newton–Raphson.

Usando una expansi´on de Taylor de primer orden, tenemos que: `0(β) ∼= `0(β(t)) + (β − β(t)) `00(β(t)) β = β(t) − " `00(β(t)) #₋₁ `0(β(t)) (4)

Si `(β) es cuadr´atica, entonces `0(β) es lineal y el algoritmo iterativo con-verger´a en un solo paso a partir de un punto inicial.

En problemas regulares, el log–likelihood se hace aproximadamente cuadr´atico a medida que n crece. En estas situaciones el m´etodo de NR funcionar´a bien, mientras que en muestras peque˜nas y con log–likelihoods alejados de una cuadr´atica NR podr´ıa no converger.

Veamos como quedan los distintos elementos de (4). Por simplicidad estu-diaremos la contribuci´on de cada t´ermino Y_i al log–likelihood omitiendo los sub´ındices superfluos. Salvo constantes tenemos que:

`(θ, y) = yθ − b(θ) a(φ)

∂` ∂β<sub>j</sub> = ∂` ∂θ ∂θ ∂µ ∂µ ∂η ∂η ∂β_j Recordemos que `(θ, y) = exp        yθ − b(θ) a(φ) + c(y, φ)       

µ = E(Y ) = b0(θ) y V ar(Y ) = a(φ)b00(θ) η = x0β

g(µ) = η ¿Cu´anto vale cada derivada?

∂` ∂θ = y − b0(θ) a(φ) = y − µ a(φ) ∂θ ∂µ = 1 b00_(θ) = a(φ) V ar(Y ) ∂µ

∂η = depende de la funci´on de enlace ∂η

Luego, resulta ∂` ∂β_j = Y − µ V ar(Y ) ∂µ ∂η xj .

De esta manera, las ecuaciones de m´axima verosimilitud quedan: ∂` ∂β_j = n X i=1 Y_i − µ_i V_i ∂µ_i ∂η_i xij = 0 (5)

Por ejemplo, si usamos el link natural tenemos que V = a(φ)b00(θ) = a(φ)b00(η) y adem´as µ = b0(θ) = b0(η) ∂µ ∂η = b 00 (η) , por lo tanto el peso queda constante

V −1 ∂µ

Si consideramos la derivada segunda a partir de (5) queda: ∂2` ∂β_k∂β_j = X i ∂ ∂β_k(Yi − µi) 1 V_i ∂µ_i ∂η_i xij + X i (Yi − µi) ∂ ∂β_k     1 V_i ∂µ_i ∂η_i xij     . (6)

En el m´etodo de Fisher–scoring se propone utilizar E   ∂2` ∂β<sub>k</sub>∂β<sub>j</sub>   <sub>en lugar de</sub> ∂2`

∂β_k∂β_j con el fin de obtener resultados m´as estables.

Podemos hallar esta esperanza recordando que: −E     ∂2` ∂β<sub>k</sub>∂β<sub>j</sub>     = E     ∂` ∂β_k ∂` ∂β_j     = E          Y − µ V ar(Y )     2     ∂µ ∂η     2 x_ijx_ik      = 1 V ar(Y )     ∂µ ∂η     2 x_ijx_ik .

Si volvemos a la muestra tendremos − X i V −1 i     ∂µ_i ∂η_i     2 x_ijx_ik que en forma matricial podemos escribir como:

− X0WX siendo W = diag  V −1 i ∂µ_i ∂η_i !₂ .

Cuando usamos el link natural queda V −1 ∂µ

∂η = a

−1_{(φ), que es cosntante}

por lo tanto, en este caso, Newton–Raphson coincide con Fisher scoring. Finalmente, si V−1 = diag(V_i−1), entonces

∂`

∂β_j = X

0

V−1∂µ

∂η(Y − µ) , y si volvemos a (4) usando Fisher–scoring queda

β(t+1) = β(t) + (X0WX)−1 X0V−1∂µ ∂η(Y − µ) β(t+1) = (X0WX)−1    X0W ¯ X β (t) + X0V−1∂µ ∂η(Y − µ)     β(t+1) = (X0WX)−1 X0Wz , donde z = η + ∂η ∂µ(Y − µ)

De esta manera vemos al m´etodo de Fisher–scoring como m´ınimos cuadrados pesados iterados(IRWLS)usando pesudo–observaciones z y los pesos W que se actualizan en cada paso para actualizar el valor de β.

Recordemos el algoritmo de c´alculo del estimador: β = β(t) + " `00(β(t)) #<sub>−1</sub> `0(β(t))

La contribuci´on de cada t´ermino Y_i al loglikelihood es, salvo constantes:

`<sub>i</sub>(θ<sub>i</sub>, Y<sub>i</sub>) = Yiθi − b(θi) a(φ) + c(Yi, φ) Su derivada respecto de β<sub>j</sub> ∂`_i ∂β_j = Y_i − µ_i V ar(Y_i) ∂µ_i ∂η_i xij .

Las ecuaciones de m´axima verosimilitud quedan: ∂` ∂β_j = n X i=1 Y_i − µ_i V_i ∂µ_i ∂η_i xij = 0 . (7)

La derivada segunda es: ∂2` ∂β_k∂β_j = X i ∂ ∂β_k(Yi − µi) 1 V_i ∂µ_i ∂η_i xij + X i (Yi − µi) ∂ ∂β_k     1 V_i ∂µ_i ∂η_i xij     .

M´etodo de Fisher–scoring: usamos

E     ∂2`<sub>i</sub> ∂β<sub>k</sub>∂β<sub>j</sub>     = − 1 V ar(Y<sub>i</sub>)     ∂µ<sub>i</sub> ∂η<sub>i</sub>     2 x<sub>ij</sub>x<sub>ik</sub> . Por lo tanto E     ∂2` ∂β_k∂β_j     = − X i V_i−1     ∂µi ∂η_i     2 x_ijx_ik . = − X i ∂µ_i ∂η_i V −1 i ∂µ_i ∂η_i xijxik .

entonces, en forma matricial E     ∂2` ∂β∂β     = − X i     ∂µ_i ∂β     0 V_i−1 ∂µi ∂β . Finalmente, si: W(t) = diag     V −1 i     ∂µ_i ∂η_i     2     (V(t))−1 = diag(V_i−1) resulta β(t+1) = β(t) + X0W(t)X !₋₁ X0(V(t))−1∂µ ∂η(Y − µ) β(t+1) = X0W(t)X !₋₁ X0W(t)z(t) , donde µ = µ(t) y η = η(t) y z(t) = η + ∂η ∂µ(Y − µ)

Casos Particulares

Distribuci´on Binomial: regresi´on log´ıstica

Sean Y_i ∼ Bi(n_i, π_i). Supongamos que log πi

1−π_i ! = x0_iβ, con lo cual π_i = e x0_iβ 1 + ex0iβ = 1 1 + e−x0iβ

Tenemos las siguientes igualdades:

Likelihood = Yn i=1 n_i! y_i! (n_i − y_i)! π y_i i (1 − πi)ni−yi Likelihood ∝ Yn i=1    π_i 1 − π_i    y_i (1 − π_i)ni Likelihood ∝ Yn i=1e x0_iβy_i (1 + ex0iβ)−ni `(β) = Xn i=1 x0<sub>i</sub>β y<sub>i</sub> − Xn i=1 n<sub>i</sub> log(1 + ex0iβ) ∂`(β) ∂β_j = n X i=1yixij − Xn i=1 ni 1 1 + ex0iβ ex0iβx ij

= Xn i=1(yi − µi) xij , donde µ_i = E(Y_i) = n_iΠ_i. Derivadas segundas: ∂2`(β) ∂β_j∂β_k = − n X i=1ni xij ∂ ∂β_k       ex0iβ 1 + ex0iβ       = − Xn i=1 n_i π_i (1 − π_i)x_ijx_ik Usemos la notaci´on matricial:

Likelihood = Yn i=1 n_i! y_i! (n_i − y_i)! π y_i i (1 − πi)ni−yi `0(β) = X0(y − µ) , `00(β) = −XWX , donde

W = diag(n_iπ_i(1 − π_i)) . Newton–Raphson resulta: β(t+1) = β(t) + X0W(t)X !₋₁ X0 y − µ(t) ! .

Si como antes, pensamos a Y como la proporci´on de ´exitos en los n_i ensayos, tendr´ıamos

n_iY_i ∼ Bi(n_i, π_i). Tenemos que V ar(Y_i) = πi(1 − πi)

n_i . La funci´on de vari-anza resulta:

V (π) = π(1 − π) . Bajo el modelo log´ıstico

∂η_i ∂π_i =

1

π_i(1 − π_i) , por lo tanto

W = diag (n_iπ_i(1 − π_i)) . Por ´ultimo la variable dependiente ajustada es:

z_i = η_i + yi − πi π_i(1 − π_i) = x 0 iβ + y_i − π_i π_i(1 − π_i) .

Intervalos de Confianza y Tests de Hip´otesis

Dos de las herramientas m´as usada de la inferencia estad´ıstica son los inter-valos de confianza y los tests de hip´otesis.

Por ejemplo, los tests de hip´otesis son necesarios para comparar el ajuste de dos modelos ajustados a los datos.

Tanto para realizar tests como intervalos de confianza necesitamos las dis-tribuciones muestrales de los estad´ısticos involucrados.

Distribuci´on Asint´otica

Haremos una deducci´on heur´ıstica de la distribuci´on asint´otica. Fahrmeir y Kaufmann (1985, Annals of Statistics, 13, 342–368) deducen la consistencia y la distribuci´on asint´otica de los estimadores de m´axima verosimilitud en el GLM bajo condiciones de regularidad all´ı establecidas.

Sea I_n = I_n(β₀) = D0V −1D donde

D_ij = ∂µi ∂β_j

evaluadas en β₀

Fahrmeir y Kaufmann (1985) probaron que si (D) (Diveregencia) λ_min(I_n) → ∞

(C) (Cota inferior) Para todo δ > 0

I_n(β) − cI_n es semidefinida positiva

para todo β ∈ N_n(δ) si n ≥ n₁(δ), donde N_n(δ) es un entorno de β₀ y c es independiente de δ.

(N) (Convergencia y Continuidad) Para todo δ > 0 m´ax

β∈N_n(δ)kVn(β) − Ik → 0

donde

V_n(β) = I_n−1/2I_n(β)I_n−1/2 es una matriz de informaci´on normalizada.

Existencia y Consistencia

Entonces, bajo (C) y (D) exite el EMV β y adem´c as c

Distribuci´on Asint´otica

Entonces, bajo (D) y (N)

(I_n)1/2 (βc_n − β₀) −→ N (0, I)D

En la pr´actica, usaremos como matriz de covarianza asint´otica a I_n(βc_n)

Esto nos servir´a para deducir intervalos de confianza para los par´ametros y para deducir tests tipo Wald en tanto

(βc_n − β₀)0 I_n(βc_n) (βc_n − β₀) (a)∼ χ2_p.

Por lo que ya vimos, entonces para n es suficientemente grande (βc_n − β₀) (a)∼ N (O, (X0WX)−1) .

Para n sufcientemente grande, una aprox´ımaci´on razonable esperamos que sea

siendo

d

V(βc_n) = (X0W(βc_n)X) .

Si queremos computar un intervalo de confianza de nivel asint´otico 1−α para β_j, ´este ser´a: c β_nj ± z_α σ(c βc_nj) , siendo c σ(βc_j) = V(d β)c _jj1/2 .

Inferencia acerca de una funci´on de los coeficientes

Para una funci´on lineal de los pr´ametros Ψ = a0β₀, una aproximaci´on razon-able para n suficientemente grande es

(a0βc_n − a0β₀) (a)∼ N (O, a0V(d βc_n)a) .

g(βc_n) (a)∼ N (g(β₀), g(1)(βc_n)0V(d βc_n)g(1)(βc_n)) , donde hemos notado