Regresion lineal

´ REGRESION LINEAL SIMPLE
Dr. Arturo Erdely Ruiz 04 de septiembre de 2009
Resumen Con apoyo en diversos libros en la materia que se enumeran al final de este trabajo, se ´ desarrolla una exposici´n sobre la Unidad 3. “REGRESION LINEAL SIMPLE”, de la o asignatura Estad´ ıstica II en la Licenciatura en Actuar´ de la Facultad de Estudios Superiores ıa Acatl´n de la UNAM. Esto supone conocimientosprevios sobre las asignaturas de Probabilidad a I y II, Estad´ ıstica I y lo correspondiente a las dos primeras unidades de Estad´ ıstica II, particularmente respecto a variables aleatorias y sus transformaciones, as´ como los principios y ı m´todos b´sicos de inferencia estad´ e a ıstica.

1.

Regresi´n y el caso lineal simple o

Seg´n la etimolog´ latina del espa˜ol,1 la palabra regresi´nviene de r˘ = “hacia atr´s” y gr˘d˘ u ıa n o e a a ior = “ir, caminar”, es decir “acci´n de ir hacia atr´s”. Fue Francis Galton quien, en trabajos publicao a dos en 1886 y 1889, introdujo el concepto de regresi´n en la disciplina estad´ o ıstica, junto con el de correlaci´n, ver Kotz et al. (2006). Galton (1886) encontr´ que, a pesar de la tendencia de padres o o altos a tener hijos altos, y depadres de baja estatura a tener hijos de baja estatura, la estatura promedio de hijos de padres altos tiende a ser menor que la estatura promedio de sus padres, y que la estatura promedio de hijos de padres bajos tiende a ser mayor que la estatura promedio de sus padres, esto es, que la estatura promedio de unos y otros tiende a “regresar” hacia la estatura promedio de la poblaci´n total. Sinembargo, de acuerdo a Gujarati (1997) el concepto ha evolucionado y o la interpretaci´n moderna de la regresi´n es bastante diferente: o o El an´lisis de regresi´n trata del estudio de la dependencia de la variable dependiente, a o en una o m´s variables explicativas, con el objetivo de estimar y/o predecir la media a o valor promedio poblacional de la primera, en t´rminos de los valores conocidos o fijose (en muestras repetidas) de las ultimas. ´ En este trabajo se considera el caso de una sola variable explicativa para una variable aleatoria dependiente Y . Dado un vector aleatorio (X, Y ) con funci´n de distribuci´n conjunta H, es posible o o obtener a partir de esta ultima la funci´n de distribuci´n de Y condicional en el evento {X = x}, esto ´ o o es FY | X (y | x) = P(Y ≤ y | X = x). Paracada x en el rango de la variable aleatoria X denotemos Yx a la variable aleatoria con funci´n de distribuci´n FY | X (y | x). En caso de que exista la esperanza o o
1 Segura Mungu´ S. (2003) Nuevo diccionario etimol´gico Lat´ ıa, o ın-Espa˜ol y de las voces derivadas, Universidad de n Deusto (Bilbao).

1

de Yx , a la funci´n µ(x) := E(Yx ) = E(Y | X = x) se le conoce como funci´n o curva deregresi´n. o o o Pero normalmente H es desconocida, y por tanto es necesario hacer algunos supuestos sobre Yx y/o estimar FY | X (y | x), o al menos µ(x), con base en observaciones de las variables aleatorias Yx , dado un n´mero finito de valores de x. u Definici´n 1. Sea Yg(w) una variable aleatoria con segundo momento finito, con esperanza o E(Yg(w) ) = α + βg(w) y varianza V(Yg(w) ) = σ 2 , dondew ∈ D, siendo D alg´n subconjunto u de los n´meros reales R, y g una funci´n de D en R. Sea D0 un subconjunto finito de D. A la u o colecci´n (finita) de variables aleatorias {Yg(w) : w ∈ D0 } se le denomina modelo de regresi´n o o lineal simple. La palabra lineal en la definici´n anterior se refiere a la relaci´n de la esperanza respecto a los o o par´metros α y β, y no respecto a la forma funcionalde g. Por simplicidad, definimos x := g(w) y por a tanto E(Yx ) = α + βx y V(Yx ) = σ 2 . Sean x1 , . . . , xn los elementos de la imagen directa g(D0 ). Para i = 1, . . . , n definimos las variables aleatorias εi := Yi − α − βxi , donde se escribe Yi en vez de Yxi sin lugar a confusi´n. Entonces E(εi ) = 0 y V(εi ) = σ 2 . Lo anterior permite una forma equivalente o de definir un modelo de...