Notas Regresion
Páginas: 28 (6978 palabras)
Publicado: 7 de septiembre de 2014
Estadística II
Regresión lineal
El modelo de regresión lineal simple
El modelo más simple involucra solamente una variable independiente y establece que la verdadera
media de la variable dependiente cambia en razón constante cuando el valor de la variable independiente
crece o decrece. De esta forma, la relación funcional entre la verdadera media de Y , E(Y ) y X es la
ecuación de lalínea recta
E ( Y ) = β0 + β1 X
donde β0 es la intercepción de esta recta con el eje Y , el valor de E (Y ) cuando X = 0; β1 es la
pendiente de ella, la razón de cambio en E (Y ) por unidad de cambio en X .
En las situaciones prácticas o reales, la información con que se cuenta consta de n parejas de
observaciones muestrales sobre X , Y , que pueden ser gra cadas como se muestra en la gura 1.La diferencia esencial que se observa a partir de esta gura es que en la práctica, la línea β0 + β1 X
es desconocida.
Las observaciones sobre la variable dependiente, Yi , se supone que son observaciones aleatorias de
poblaciones de variables aleatorias con la media dada por E (Yi ). La desviación de una observación Yi
de su media poblacional E (Y i ) (la línea desconocida), se toma encuenta sumando un error aleatorio
para dar el modelo estadístico
Yi = β0 + β1 Xi + εi ; i = 1, 2, ..., n
q
16
q
14
q
q
q
q
q
q
12
q
q
q
q
10
Y
Recta real
β0 + β1 X
q
q
Recta ajustada
q
q
q
q
8
q
q
q
6
q
q
q
4
q
−2
0
2
4
6
X
Figura 1: Recta real contra la línea ajustada
Las Xi son las nobservaciones sobre la variable independiente y se supone que son medidas sin
error, esto es, se supone que los valores observados de X forman un conjunto de constantes conocidas.
Las Yi y las Xi son observaciones apareadas, medidas sobre cada unidad observacional.
Esencialmente, se tienen dos tipos de hipótesis que se hacen sobre el modelo, la hipótesis estructural
y la hipótesisdistribucional . La hipótesis estructural consiste en suponer que el modelo es lineal en
los parámetros, esto es, los parámetros entran al modelo como coe cientes simples sobre las variables
independientes o funciones de ellas. La hipótesis distribucional se re ere a las suposiciones que se
hacen en relación a los errores aleatorios que aparecen en el modelo como εi ; como anteriormente
se vio de maneraimplícita, se supone que la media de los εi es igual a cero, E(εi ) = 0, ya que
de manera natural se espera que en promedio no haya errores; se supone también que la varianza
de los errores es constante, común y desconocida V ar (εi ) = σ 2 ; esto signi ca que se espera que las
observaciones no se distribuyan de manera irregular alrededor de la línea media y de esta forma facilitar
el desarrollode la teoría. Obsérvese que σ 2 = cte. re eja que los factores no controlados in uyen de
la misma manera sobre cada respuesta Yi . Como εi es el único elemento aleatorio en el modelo, estas
1
Regresión lineal
Estadística II
suposiciones implican que las Yi son variables aleatorias, por lo tanto también tienen varianza común
y son mutuamente independientes. Con el n de construirintervalos de con anza y hacer pruebas de
signi cancia, se introduce la hipótesis de que los errores aleatorios tienen distribución normal, lo cual
implica que las Yi también tienen distribución normal.
Las suposiciones acerca de los errores aleatorios son denotadas por:
εi ∼ N 0, σ 2 , independientes, i = 1, 2, ..., n (notación de Wilks).
1. Estimación por mínimos cuadrados
El modelo linealsimple
Yi = β0 + β1 Xi + εi ; i = 1, 2, ...n
tiene dos parámetros, β0 y β1 , que serán estimados a partir de los datos. Con la hipótesis de varianza
constante sobre los errores, aparece otro parámetro que no está incluido en el modelo, σ 2 , pero que es
necesario estimar también; el tratamiento para este parámetro se hará más adelante.
Si no hubiera error aleatorio en Yi , podrían...
Regresión lineal
El modelo de regresión lineal simple
El modelo más simple involucra solamente una variable independiente y establece que la verdadera
media de la variable dependiente cambia en razón constante cuando el valor de la variable independiente
crece o decrece. De esta forma, la relación funcional entre la verdadera media de Y , E(Y ) y X es la
ecuación de lalínea recta
E ( Y ) = β0 + β1 X
donde β0 es la intercepción de esta recta con el eje Y , el valor de E (Y ) cuando X = 0; β1 es la
pendiente de ella, la razón de cambio en E (Y ) por unidad de cambio en X .
En las situaciones prácticas o reales, la información con que se cuenta consta de n parejas de
observaciones muestrales sobre X , Y , que pueden ser gra cadas como se muestra en la gura 1.La diferencia esencial que se observa a partir de esta gura es que en la práctica, la línea β0 + β1 X
es desconocida.
Las observaciones sobre la variable dependiente, Yi , se supone que son observaciones aleatorias de
poblaciones de variables aleatorias con la media dada por E (Yi ). La desviación de una observación Yi
de su media poblacional E (Y i ) (la línea desconocida), se toma encuenta sumando un error aleatorio
para dar el modelo estadístico
Yi = β0 + β1 Xi + εi ; i = 1, 2, ..., n
q
16
q
14
q
q
q
q
q
q
12
q
q
q
q
10
Y
Recta real
β0 + β1 X
q
q
Recta ajustada
q
q
q
q
8
q
q
q
6
q
q
q
4
q
−2
0
2
4
6
X
Figura 1: Recta real contra la línea ajustada
Las Xi son las nobservaciones sobre la variable independiente y se supone que son medidas sin
error, esto es, se supone que los valores observados de X forman un conjunto de constantes conocidas.
Las Yi y las Xi son observaciones apareadas, medidas sobre cada unidad observacional.
Esencialmente, se tienen dos tipos de hipótesis que se hacen sobre el modelo, la hipótesis estructural
y la hipótesisdistribucional . La hipótesis estructural consiste en suponer que el modelo es lineal en
los parámetros, esto es, los parámetros entran al modelo como coe cientes simples sobre las variables
independientes o funciones de ellas. La hipótesis distribucional se re ere a las suposiciones que se
hacen en relación a los errores aleatorios que aparecen en el modelo como εi ; como anteriormente
se vio de maneraimplícita, se supone que la media de los εi es igual a cero, E(εi ) = 0, ya que
de manera natural se espera que en promedio no haya errores; se supone también que la varianza
de los errores es constante, común y desconocida V ar (εi ) = σ 2 ; esto signi ca que se espera que las
observaciones no se distribuyan de manera irregular alrededor de la línea media y de esta forma facilitar
el desarrollode la teoría. Obsérvese que σ 2 = cte. re eja que los factores no controlados in uyen de
la misma manera sobre cada respuesta Yi . Como εi es el único elemento aleatorio en el modelo, estas
1
Regresión lineal
Estadística II
suposiciones implican que las Yi son variables aleatorias, por lo tanto también tienen varianza común
y son mutuamente independientes. Con el n de construirintervalos de con anza y hacer pruebas de
signi cancia, se introduce la hipótesis de que los errores aleatorios tienen distribución normal, lo cual
implica que las Yi también tienen distribución normal.
Las suposiciones acerca de los errores aleatorios son denotadas por:
εi ∼ N 0, σ 2 , independientes, i = 1, 2, ..., n (notación de Wilks).
1. Estimación por mínimos cuadrados
El modelo linealsimple
Yi = β0 + β1 Xi + εi ; i = 1, 2, ...n
tiene dos parámetros, β0 y β1 , que serán estimados a partir de los datos. Con la hipótesis de varianza
constante sobre los errores, aparece otro parámetro que no está incluido en el modelo, σ 2 , pero que es
necesario estimar también; el tratamiento para este parámetro se hará más adelante.
Si no hubiera error aleatorio en Yi , podrían...
Leer documento completo
Regístrate para leer el documento completo.