Econometria

Revista Colombiana de Estad´ ıstica Volumen 28 No 1. pp. 17 a 21. Junio 2005

Una aproximaci´n bayesiana al problema de o heteroscedasticidad en el modelo lineal simple
Juan Carlos Correa*

Resumen Presentamos una implementaci´n bayesiana para ayudar a resolver un proo blema de heteroscedaticidad en el modelo de regresi´n simple, f´cilmente o a extendible al caso m´ltiple. u Palabras Claves:Heteroscedasticidad, modelos de regresi´n, estad´ o ıstica bayesiana, muestreador de Gibbs. Abstract We implement a bayesian solution to the heteroscedasticity problem in simple regression. This solution can be easily generalized to the multiple regression case. Keywords: Heteroscedasticity, Regression models, Bayesian statistics, Gibbs sampler.

1.

Introducci´n o

El modelo de regresi´nlineal es tal vez la herramienta estad´ o ıstica de m´s amplio a uso. El modelo de regresi´n simple presenta una estructura elegante, util para o ´ representar gran cantidad de fen´menos reales de una forma aproximada. o yi = β0 + β1 xi + ǫi Se asume usualmente que ǫi ∼ N (0, σ 2 ). Un problema conocido es el de la heteroscedasticidad, o sea la violaci´n de la o condici´n de varianza constante delos errores. o 2 Un modelo de heteroscedasticidad que se asume con frecuencia es σi = xν σ 2 , i donde ν se convierte en otro par´metro del modelo, el cual desde el punto de vista a
* Profesor

asociado. Escuela de Estad´ ıstica. Universidad Nacional. Sede Medell´ ın. E-mail: jccorrea@unalmed.edu.co

17

18

Juan Carlos Correa

tradicional se estima primero y se realiza unatransformaci´n antes de aplicar los o procedimientos de estimaci´n corrientes. o Aqu´ presentamos la aproximaci´n bayesiana para la soluci´n de este problema, ı o o mostrando c´mo se puede generalizar al caso de la regresi´n m´ltiple y adem´s lo o o u a ilustramos mediante un ejemplo utilizando el programa WinBUGS.

2.

La aproximaci´n bayesiana o

Opuesto a la estimaci´n cl´sica de par´metros, la estad´o a a ıstica bayesiana produce distribuciones posteriores de las cantidades desconocidas (par´metros) teniendo a en cuenta, tanto los datos, como las densidades a priori sobre estos par´metros. a Como tal, la estad´ ıstica bayesiana proporciona un cuadro m´s completo sobre la a incertidumbre en la estimaci´n de los par´metros desconocidos. Una introducci´n o a o completa puede buscarse en ellibro de Lee (1997). Si θ es nuestro par´metro de a inter´s y π(θ) es la distribuci´n a priori de los par´metros que resume nuestra ine o a certidumbre sobre los mismos, entonces, una vez obtenidos los datos, el paradigma bayesiano se establece como: π(θ| datos) ∝ π(θ)θ| datos) donde L es la funci´n de verosimilitud y ∝ es el s´ o ımbolo de proporcionalidad, el cual indica que la cantidad debedividirse por una constante para que sea una densidad propia. Si (x1 , y1 ) , (x2 , y2 ) , · · · , (xn , yn ) es la informaci´n muestral, la funci´n de verosio o militud ser´: a L β, σ 2 , ν|Datos = = 1 1 (yi − β0 − β1 xi ) exp − √ ν/2 2 xν σ 2 2πxi σ i i=1 1 (2π)n/2 (
n i=1 n 2

xi )

ν/2

σ

exp −

1 2

n i=1

(yi − β0 − β1 xi ) xν σ 2 i

2

Si asumimos una distribuci´n a priori noinformativa sobre β, σ 2 , ν tal que: o π(β) ∝ c 1 π(σ 2 ) ∝ σ π(ν) ∝ k donde c y k son constantes, entonces la distribuci´n posterior de (β, σ 2 , ν) es: o π β, σ 2 , ν|Datos ∝ 1 (
n i=1 ν/2

xi )

σ2

exp −

1 2σ 2

n i=1

(yi − β0 − β1 xi ) xν i

2

La anterior expresi´n puede resolverse utilizando m´todos computacionales o e conocidos como MCMC (Monte Carlo Markov Chain)utilizados ahora para resolver problemas bayesianos de gran complejidad. Uno de los procedimientos es

Aproximaci´n bayesiana a la heteroscedasticidad en el modelo lineal simple o

19

el muestreador de Gibbs, t´cnica introducida por Geman & Geman (1984) y dee sarrolladas posteriormente por Gelfand & Smith (1990). En t´rminos generales, e la idea del muestreador de Gibbs es la de sobreponer...