rating anticipado

Regresión lineal múltiple

J. M. Rojo Abuín
Instituto de Economía y Geografía
Madrid, II-2007

José Manuel Rojo

1

Índice

I.
II.
III.
IV.
V.
VI.
VII.
VIII.

INTRODUCCIÓN .................................................................................................. 2
EL MODELO DE REGRESIÓN LINEAL MÚLTIPLE........................................ 5HIPÓTESIS............................................................................................................. 6
ESTIMACIÓN DE LOS PARÁMETROS POR MÍNIMOS CUADRADOS........ 7
VARIANZA RESIDUAL ..................................................................................... 11
CONTRASTE DE REGRESIÓN ......................................................................... 13
COEFICIENTE DE DETERMINACIÓNR2 ....................................................... 16
DIAGNOSIS Y VALIDACIÓN DE UN MODELO DE REGRESIÓN LINEAL
MÚLTIPLE ........................................................................................................... 17
VIII.1. Multicolinealidad .................................................................................................. 17
VIII.2. Análisis de residuos.............................................................................................. 18
VIII.3. Valores de influencia (leverage) ........................................................................... 20
VIII.4. Contrastando las hipótesis básicas ........................................................................ 21
VIII.5. Homocedasticidad................................................................................................. 22
VIII.6. Errores que deben de evitarse ............................................................................... 23

IX.
X.

SELECCIÓN DE LAS VARIABLES REGRESORAS ....................................... 24
EJEMPLO 1 ..........................................................................................................25

José Manuel Rojo

1

I.

Introducción

En el capitulo anterior se ha estudiado el modelo de regresión lineal simple,
donde se analizaba la influencia de una variable explicativa X en los valores que toma
otra variable denominada dependiente (Y).
En la regresión lineal múltiple vamos a utilizar más de una variable explicativa;
esto nos va a ofrecer la ventaja de utilizar másinformación en la construcción del
modelo y, consecuentemente, realizar estimaciones más precisas.

Al tener más de una variable explicativa (no se debe de emplear el término
independiente) surgirán algunas diferencias con el modelo de regresión lineal simple.

Una cuestión de gran interés será responder a la siguiente pregunta: de un vasto
conjunto de variables explicativas: x1, x2, …, xk,cuáles son las que más influyen en

la variable dependiente Y.

En definitiva, y al igual que en regresión lineal simple, vamos a considerar que
los valores de la variable dependiente Y han sido generados por una combinación lineal
de los valores de una o más variables explicativas y un término aleatorio:
y = b0 + b1 ⋅ x1 + b2 ⋅ x2 + ... + bk ⋅ xk + u
Los coeficientes son elegidos de formaque la suma de cuadrados entre los
valores observados y los pronosticados sea mínima, es decir, que se va a minimizar la
varianza residual.

Esta ecuación recibe el nombre de hiperplano, pues cuando tenemos dos
variables explicativas, en vez de recta de regresión tenemos un plano:

José Manuel Rojo

2

Linear Regression

A
A

e + 1,41 * a_espald
A
A

A

A

A

A
A

AA
A

A

A

A

A

A
A
A
AA
A
A
A

A

A
A

Con tres variables explicativas tendríamos un espacio de tres dimensiones, y así
sucesivamente.

Vamos a ir introduciendo los elementos de este análisis a través de un
sencillo ejemplo.

Consideramos una muestra de personas como la que sigue a continuación:

Registr
o
1
2
3
4
5
6
7
8

sexo
mujer
mujer...