Cantidad de Información de Fisher y propiedades de los MLE

1. Cantidad de Información de Fisher y propiedades de los MLE Programa de doctorado en Estadística, Análisis de datos y Bioestadística Fundamentos de Inferencia Estadística Jordi Ocaña Rebull Departament d’Estadística Divisió de Ciències Experimentals i Matemàtiques

2. Diapositiva resumen • Problema regular de estimación • Información de Fisher observada • Información de Fisher esperada • Propiedades de la información de Fisher • Desigualdad de Cramér-Rao • Propiedades asintóticas de los MLE • MLE e información de Fisher en los modelos exponenciales

3. Problema regular de estimación • Modelo estadístico F identificable • Espacio paramétrico, , es un abierto de Rk • Para toda densidad f  F, soporte de f(y;q) independiente de q • Derivación respecto de q e integración respecto de y doblemente intercambiables:

4. Problema regular de estimaciónintercambiabilidad de integración y derivación • Caso de parámetro escalar: • Para parámetro multidimensional, igualdad entre matrices

5. Cantidad de información de Fisher observada • Definida como: • Medida de la curvatura local de l en la MLE: indicador del grado de preferencia del MLE sobre los puntos de alrededor.

6. Cantidad de información de Fisher esperada • Definición: • Equivalente a:

7. Cantidad de información de Fisher esperada • Parámetro multidimensional:

8. Propiedades de la información de Fisher. (i) • Aditividad: siY1,Y2 son (sub)muestras independientes con información I1(q) e I2(q) respectivamente, la información asociada a (Y1;Y2) es I1(q)+I2(q) • Consecuencia: si i(q) es la información asociada a un dato yj, ni(q) es la información asociada a una m.a.s. de tamaño n, y1,...,yn

9. Propiedades de la información de Fisher. (y ii) • Sea y = y(q) invertible y diferenciable • Para parámetros escalares: • En general: • Si T(Y) estadístico, IT(q) £IY(q) • Si suficiente para q, IT(q) = IY(q)

10. Desigualdad de Cramér-Rao. (i) • T estadístico con momentos de segundo orden finitos, con a(q)=Eq{T(Y)}, a(q) derivable y 0 < I(q) < ¥: • Si T insesgado: • Si parámetro multidimensional

11. Desigualdad de Cramér-Rao. (y ii) • No siempre existe (o es único) T(y) que llegue a varianza mínima de Cramér-Rao • Condición necesaria y suficiente para que exista un tal estimador: que exista una constante k(q) tal que la igualdad

12. Consecuencias de la igualdad anterior Supongamos que T(y) alcanza la cota de Cramér-Rao: • Si es MLE de q, T(y) función de : • Si T estimador insesgado de q, coincide con el MLE, • T(y) es suficiente

13. Propiedades asintóticas de los estimadores MLE • Bajo (complicadas) condiciones de regularidad (por ejemplo): • Problema regular de estimación • Existencia y valor positivo de I(q) • Existencia y acotación de terceras derivadas de l • Muestreo aleatorio simple • MLE son consistentes, asintóticamente normales y asintóticamente eficientes

14. (Una) expresión concreta de las propiedades asintóticas de MLE

15. MLE e información de Fisher en los modelos exponenciales • Caso q unidimensional. t(y) es suficiente

16. MLE e información de Fisher en los modelos exponenciales • Relación con información de Fisher observada: