Regresión Lineal Multiple

Regresión lineal múltiple

J. M. Rojo Abuín Instituto de Economía y Geografía Madrid, II-2007

José Manuel Rojo

1

Índice

I. II. III. IV. V. VI. VII. VIII.

INTRODUCCIÓN .................................................................................................. 2 EL MODELO DE REGRESIÓN LINEAL MÚLTIPLE........................................ 5HIPÓTESIS............................................................................................................. 6 ESTIMACIÓN DE LOS PARÁMETROS POR MÍNIMOS CUADRADOS........ 7 VARIANZA RESIDUAL ..................................................................................... 11 CONTRASTE DE REGRESIÓN ......................................................................... 13 COEFICIENTE DE DETERMINACIÓN R2....................................................... 16 DIAGNOSIS Y VALIDACIÓN DE UN MODELO DE REGRESIÓN LINEAL MÚLTIPLE ........................................................................................................... 17
VIII.1. Multicolinealidad .................................................................................................. 17 VIII.2. Análisis de residuos.............................................................................................. 18 VIII.3. Valores de influencia (leverage) ........................................................................... 20 VIII.4. Contrastando las hipótesis básicas ........................................................................ 21 VIII.5. Homocedasticidad................................................................................................. 22 VIII.6. Errores que deben de evitarse ............................................................................... 23

IX. X.

SELECCIÓN DE LAS VARIABLES REGRESORAS ....................................... 24 EJEMPLO 1 .......................................................................................................... 25

José Manuel Rojo1

I.

Introducción

En el capitulo anterior se ha estudiado el modelo de regresión lineal simple, donde se analizaba la influencia de una variable explicativa X en los valores que toma otra variable denominada dependiente (Y). En la regresión lineal múltiple vamos a utilizar más de una variable explicativa; esto nos va a ofrecer la ventaja de utilizar más información en la construccióndel modelo y, consecuentemente, realizar estimaciones más precisas.

Al tener más de una variable explicativa (no se debe de emplear el término independiente) surgirán algunas diferencias con el modelo de regresión lineal simple.

Una cuestión de gran interés será responder a la siguiente pregunta: de un vasto conjunto de variables explicativas: x1, x2, …, xk, la variable dependiente Y. cuálesson las que más influyen en

En definitiva, y al igual que en regresión lineal simple, vamos a considerar que los valores de la variable dependiente Y han sido generados por una combinación lineal de los valores de una o más variables explicativas y un término aleatorio: y = b0 + b1 ⋅ x1 + b2 ⋅ x2 + ... + bk ⋅ xk + u Los coeficientes son elegidos de forma que la suma de cuadrados entre losvalores observados y los pronosticados sea mínima, es decir, que se va a minimizar la varianza residual.

Esta ecuación recibe el nombre de hiperplano, pues cuando tenemos dos variables explicativas, en vez de recta de regresión tenemos un plano:

José Manuel Rojo

2

A A

Linear Regression

e + 1,41 * a_espald
A A A A A A A A A A A A A A AA A A A A A

A

A

A A

Con tresvariables explicativas tendríamos un espacio de tres dimensiones, y así sucesivamente.

Vamos a ir introduciendo los elementos de este análisis a través de un sencillo ejemplo.

Consideramos una muestra de personas como la que sigue a continuación:

Registr o 1 2 3 4 5 6 7 8

sexo mujer mujer mujer mujer mujer mujer mujer mujer

estatura l_roxto X1 158 152 168 159 158 164 156 167 X6 39 38 43...