Metodos de estimacion

Estimaci´ n de M´ xima Verosimilitud Utilizando la o a Funci´ n optim en R o
Juan F. Olivares-Pacheco* 15 de diciembre de 2006

Resumen En este trabajo se muestra el m´ todo de verosimilitud para la estimaci´ n de par´ metros e o a en la distribuci´ n normal a modo de ejemplo, utilizando el software estad´stico R. o ı Espec´ficamente se har´ uso de la funci´ n optim explicando su utilizaci´ n yforma ı a o o de optimizar funciones. KEY WORDS: R, optim, m´ xima verosimilitud. a

*

Departamento de Matem´ tica, Universidad de Atacama, CHILE. E-mail: jolivares@mat.uda.cl a

1

1. Introducci´ n o
El m´ todo de m´ xima verosimilitud fue introducido primero por R. A. Fisher, genetista e a y experto en estad´stica, en la d´ cada de 1920. La mayor´a de los expertos en estad´stiı e ı ıca recomiendan este m´ todo, al menos cuando el tama˜ o muestral es grande, porque los e n estimadores resultantes tienen ciertas propiedades deseables de eficiencia. Definici´ n 1.1 Sea X una variable aleatoria con funci´ n de probabilidad f (x|θ), donde o o θ es un par´ metro desconocido. Sean X1 , . . . , Xn los valores observados en una muestra a aleatoria de tama˜ o n. La funci´ n deverosimilitud de la muestra es: n o
n

L(θ) =
i=1

f (xi |θ)

(1)

Debemos considerar que (1) es la funci´ n de densidad conjunta de la muestra aleatoria. o Notemos que la funci´ n de verosimilitud es una funci´ n del par´ metro desconocido θ. o o a Definici´ n 1.2 El estimador de m´ xima verosimilitud de θ es el valor de θ que maximiza o a la funci´ n de verosimilitud L(θ). o En ocasiones es m´ ssimple maximizar la funci´ n log-verosimilitud que (1), dada por: a o
n

l(θ) = log (L(θ)) =
i=1

log f (xi |θ)

(2)

El m´ todo de m´ xima verosimilitud puede emplearse en situaciones donde existen vare a ios par´ metros desconocidos, θ1 , θ2 , . . . , θk ), que es necesario estimar. En tales casos, la a funci´ n de verosimilitud es una funci´ n de los k par´ metros desconocidos θ1 ,θ2 , . . . , θk y o o a ˆ ˆ ˆ los estimadores de m´ xima verosimilitud θ1 , θ2 , . . . , θk se obtienen al igualar a cero las k a derivadas parciales, dadas por: ∂L(θ1 , θ2 , . . . , θk ) , i = 1, 2, . . . , k ∂θi y resolver el sistema resultante.

2

2. Ejemplo
Sea X1 , . . . , Xn una muestra aleatoria de una distribuci´ n normal. La funci´ n de o o verosimilitud es: L(θ) = √ = as´ ı l(θ) =log(L(θ)) 1 n = − log(2πσ 2 ) − 2 2 2σ
n

1 2πσ 2

e

−(x1 −µ)2 2σ 2 n

• ··· • √

1 2πσ 2

e

−(xn −µ)2 2σ 2

1 2πσ 2

n/2

e

(xi −µ)2 i=1 2σ 2

(xi − µ)2
i=1

Para encontrar los valores cr´ticos de µ y σ 2 debemos tomar las derivadas parciales de l(θ) ı con respecto a µ y σ 2 , igualarlas a cero y resolver las dos ecuaciones resultantes. Si se omiten los detalles, losestimadores m´ ximos veros´miles resultantes son: a ı µ = ˆ 1 n
n n

Xi
i=1

(Xi − X)2 n

σ2 = ˆ

i=1

3.

optim
El comando optim en un m´ todo de optimizaci´ n de funciones de prop´ sito gene o o

eral, basado el los algoritmos Nelder-Mead, quasi-Newton y conjugate-gradient. La forma de utilizar este comando se muestra a continuaci´ n: optim(par, fn, method o = c("L-BFGS-B"),lower = -Inf, upper = Inf, . . . ), donde par corresponde al valor inicial del par´ metro a ser optimizado, fn la funci´ n a ser minimizada, a o method el m´ todo a ser utilizado, el m´ todo L-BFGS-B permite definir intervalos en e e donde tomara valores el o los par´ metros que se desean buscar, lower y upper son los a 3

l´mites inferiores y superiores de los par´ metros a encontrar,respectivamente, y ... arguı a mentos adicionales que se van ha pasar a fn. Los valores que retorna el comando optim son: par que corresponde al conjunto de los mejores par´ metros encontrados, var el vala or de fn correspondiente a los par´ metros encontrados, convergence la convergencia a satisfactoria ser´ indicada con un 0. Para m´ s informaci´ n consultar >help(optim), en a a o R.

4. Un ejemplo...