Estadistica

´ ´ ´ Estimacion de Parametros por Maxima Verosimilitud
Semestre 2012-2
El m´ todo de estimaci´ n por m´ xima verosimilitud (MV) es uno de los mayores e o a logros cient´ficos del siglo XX. Introducido por Ronald A. Fisher en 1922, el m´ todo ı e de MV sent´ en muchos aspectos los fundamentos de la estad´stica moderna. Ejemplos o ı de estimaci´ n por MV incluyen regresi´ n lineal y modeloslineales generalizados (que o o incluyen al an´ lisis de varianza y la regresi´ n log´stica). El m´ todo de MV consiste en a o ı e determinar los valores de los parametros de un modelo que maximizan la probabilidad de obtener los datos observados. Este ejercicio nos ilustrar´ el uso del calculo diferena cial, mediante un procedimiento de maximizaci´ n, para obtener la estimaci´ n de una o o proporci´ nmediante el m´ todo de MV. o e Antes de proseguir, daremos un repaso a algunos elementos de probabilidad que nos ayudar´ n a comprender el m´ todo de MV. El primer concepto es el de eventos a e independientes. Decimos que dos o m´ s eventos A1 ; A2 ; a ; An son independientes si su probabilidad conjunta es igual al producto de sus probabilidades individuales. Esto es: P .A1 ; A2 ; ; A/ D P .A1 /P.A2 / P .An / (1) Por ejemplo, bien sabemos que la probabilidad del evento A1 : “aguila” en un lanzamiento de moneda es 0.5 (o 50%) y la del evento A2 : “sello” es igualmente 0.5. El resultado de lanzar una moneda no afecta el resultado de lanzar otra moneda, por lo que podemos asumir con seguridad que dos lanzamientos de moneda son eventos independientes. Asi, la probabilidad de que en ellanzamiento de dos monedas caiga aguila y sello es P .A1 ; A2 / D P .A1 /P .A2 / D 0:5 0:5 D 0:25 Ahora plantearemos otro ‘experimento”. Supongamos que queremos determinar la proporci´ n o porcentaje de aves infectadas con una enfermedad dada en una poblaci´ n o o silvestre. El estatus de un ave puede asumirse como una variable aleatoria binaria y 2 f0; 1g (es decir, y solo puede tomar dos valores) condistribuci´ n Bernoulli y o par´ metro p. As´, y D 1 si el ave esta enferma y y D 0 si el ave esta sana. Supongamos a ı que obtuvimos una muestra de n aves y determinamos su estado de salud. La muestra constituye una coleccion de variables aleatorias fy1 ; y2 ; ; yn g. Bajo nuestro modelo (distribucion Bernoulli), la probabilidad de que yi D 1 (ave enferma) es p, esto es, P .yi D 1/ D p, y laprobabilidad de que yi D 0 (ave sana) es 1 p, esto es P .yi D 0/ D 1 p. Asumiendo que yi es independiente de yj (para todo i ¤ j ) y de acuerdo a la ecuaci´ n (1), la probabilidad de que la muestra fy1 ; y2 ; o ; yn g ocurra asumiendo un valor p es 1

P .y1 ; y2 ;

; yn jp/ D

n Y i D1

P .yi / D P .y1 /P .y2 /

P .yn /

(2)

Por ejemplo, asumiendo que obtuvimos la siguiente muestra den D 8 aves f0; 1; 0; 0; 1; 0; 0; 1g (nota: el orden en que encontramos a las aves enfermas no importa) y segun la ecuaci´ n o (2), la probabilidad conjunta de esta muestra es P .f0; 1; 0; 0; 1; 0; 0; 1gjp/ D .1 D p
Pn 3

p/p.1
i D1

p/.1 p/
n Pn

p/p.1
i D1

p/.1

p/.1

p/p

yi

.1
5

yi

D p .1

p/

Nuestro problema de estimaci´ n es entonces ¿Cu´ l es entonces elvalor de p que o a maximiza la probabilidad de observar 3 aves enfermas en una muestra de 8 aves, esto es, P .f0; 1; 0; 0; 1; 0; 0; 1g/? Contestar esta pregunta corresponde al un problema de maximizaci´ n con derivadas. Sea P .f0; 1; 0; 0; 1; 0; 0; 1g/ D P tenemos que o P .p/ D p 3 .1 p/5 (3)

Derivando con respecto a p e igualando a cero la derivada tenemos: @ P .p/ @p 0 0 0 0 0 @ p 3 .1 p/5 @p D3p 2 .1 p/5 5p 3 .1 D p 2 .1 p/4 .3 8p/ D D .1 D .1 D .1 p/4 3p 2 p/4 3p 2 p/4 p 2 .3 3p 3 8p 3 8p/

p/4 5p 3

La ecuaci´ n anterior es verdadera si cualquiera de las siguientes ecuaciones es vero dadera .1 3 p/4 p2 8p D 0 D 0 D 0

La primera y segunda ecuaciones generan soluciones que representan m´nimos relaı tivos (p D 1 y p D 0). Entonces, resolviendo la tercera ecuaci´ n nos da que el...