Regresion lineal multiple 3

Regresión lineal múltiple

J. M. Rojo Abuín
Instituto de Economía y Geografía
Madrid, II-2007

José Manuel Rojo

1

Índice

I.
II.
III.
IV.
V.
VI.
VII.
VIII.

INTRODUCCIÓN .................................................................................................. 2
EL MODELO DE REGRESIÓN LINEAL MÚLTIPLE........................................ 5HIPÓTESIS............................................................................................................. 6
ESTIMACIÓN DE LOS PARÁMETROS POR MÍNIMOS CUADRADOS........ 7
VARIANZA RESIDUAL ..................................................................................... 11
CONTRASTE DE REGRESIÓN ......................................................................... 13
COEFICIENTE DE DETERMINACIÓN R2....................................................... 16
DIAGNOSIS Y VALIDACIÓN DE UN MODELO DE REGRESIÓN LINEAL
MÚLTIPLE ........................................................................................................... 17
VIII.1. Multicolinealidad .................................................................................................. 17
VIII.2. Análisis de residuos.............................................................................................. 18
VIII.3. Valores de influencia (leverage) ........................................................................... 20
VIII.4. Contrastando las hipótesis básicas ........................................................................ 21
VIII.5. Homocedasticidad................................................................................................. 22
VIII.6. Errores que deben de evitarse ............................................................................... 23

IX.
X.

SELECCIÓN DE LAS VARIABLES REGRESORAS ....................................... 24
EJEMPLO 1 .......................................................................................................... 25

José Manuel Rojo

1

I.Introducción

En el capitulo anterior se ha estudiado el modelo de regresión lineal simple,
donde se analizaba la influencia de una variable explicativa X en los valores que toma
otra variable denominada dependiente (Y).
En la regresión lineal múltiple vamos a utilizar más de una variable explicativa;
esto nos va a ofrecer la ventaja de utilizar más información en la construcción del
modelo y,consecuentemente, realizar estimaciones más precisas.

Al tener más de una variable explicativa (no se debe de emplear el término
independiente) surgirán algunas diferencias con el modelo de regresión lineal simple.

Una cuestión de gran interés será responder a la siguiente pregunta: de un vasto
conjunto de variables explicativas: x1, x2, …, xk,

cuáles son las que más influyen en

la variable dependiente Y.En definitiva, y al igual que en regresión lineal simple, vamos a considerar que
los valores de la variable dependiente Y han sido generados por una combinación lineal
de los valores de una o más variables explicativas y un término aleatorio:
y = b0 + b1 ⋅ x1 + b2 ⋅ x2 + ... + bk ⋅ xk + u
Los coeficientes son elegidos de forma que la suma de cuadrados entre los
valores observados y lospronosticados sea mínima, es decir, que se va a minimizar la
varianza residual.

Esta ecuación recibe el nombre de hiperplano, pues cuando tenemos dos
variables explicativas, en vez de recta de regresión tenemos un plano:

José Manuel Rojo

2

Linear Regression

A
A

e + 1,41 * a_espald
A
A

A

A

A

A
A

A

A
A

A

A

A

A

A
A
A
AA
A
A
A

A

A
A

Con tres variables explicativas tendríamos un espacio detres dimensiones, y así
sucesivamente.

Vamos a ir introduciendo los elementos de este análisis a través de un
sencillo ejemplo.

Consideramos una muestra de personas como la que sigue a continuación:

Registr
o
1
2
3
4
5
6
7
8

sexo
mujer
mujer
mujer
mujer
mujer
mujer
mujer
mujer

estatura l_roxto
X1
158
152
168
159
158
164
156
167

X6
39
38
43
40
41
40
41
44

pie
X2
36
34
39
36
36
36
36
37...