Regresión Múltiple Econometría

Inferencia en la Regresi´
on Lineal M´
ultiple*
La prueba de hip´otesis: Aβ = c
Ernesto Barrios

´Indice
Motivaci´
on

2

1. M´ınimos Cuadrados

2

1.1. Problema y estimadores . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1.2. Propiedades . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
1.3. Teorema de Gauss-Markov . . . . .. . . . . . . . . . . . . . . . . . . . . . . . . . . .

2
3
4

1.4. Distribuciones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

5

2. M´ınimos Cuadrados con Restricciones

6

2.1. Problema y estimadores . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
2.2. Distribuciones . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . .

6
7

3. Pruebas de Hip´
otesis
3.1. La prueba de hip´otesis H0 : Aβ = c . . . . . . . . . . . . . . . . . . . . . . . . . . . .

8
8

3.2. Motivaci´
on de la prueba F . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.2.1. E(s2H )/E(s2 ) > 1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.2.2. Cociente deverosimilitudes . . . . . . . . . . . . . . . . . . . . . . . . . . . .

10
10
10

3.3. Pruebas de significancia . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
3.3.1. Prueba de significancia de la regresi´on . . . . . . . . . . . . . . . . . . . . . .

11
11

3.3.2. Suma de cuadrados extra . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

11

4. Regiones deConfianza y Predicci´
on

12

4.1. Regi´on de confianza para el vector de par´ametros β . . . . . . . . . . . . . . . . . . .
4.2. M´etodo de Scheff´e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
4.3. Estimaci´on simult´
anea de la respuesta media y nuevas observaciones . . . . . . . . .

12
12
13

5. Ejercicios

13

Referencias

14

Ap´
endice

14

*Ultima

compilaci´
on del documento: 18 de marzo de 2014

1

La prueba de hip´
otesis: Aβ = c

2

Motivaci´
on
La idea original de estas notas es la de respaldar formalmente el uso del estad´ıstico F en la prueba
de la hip´otesis H0 : Aβ = c, en el contexto de la regresi´on lineal m´
ultiple. Para esto, se encuentran
los estimadores de m´ınimos cuadrados sin y con lasrestricciones impuestas por la hip´otesis H0 .
Despu´es, se obtienen las distribuciones de varios estad´ısticos involucrados en la construcci´on del
estad´ıstico de prueba. Finalmente son presentadas dos motivaciones de por qu´e el uso de la F para
la prueba de hip´otesis. Se incluye un ap´endice con resultados varios utilizados en el desarrollo del
documento.
El material ha sido construido siguiendob´asicamente las ideas de Seber (1977) y Seber and Lee
(2003) con apoyo adicional de otros textos como Sen and Srivastava (1990). La bibliograf´ıa se incluye
al final del documento.

1.

M´ınimos Cuadrados

1.1.

Problema y estimadores

Considere el modelo de regresi´on lineal m´
ultiple,
yi = β0 + β1 xi1 + · · · + βp xip + ϵi ,

i = 1, . . . , n

(1)

o bien, expresadomatricialmente
y = Xβ + ϵ

(2)

con yn×1 , ϵn×1 , βq×1 , y Xn×q , donde q = 1+p y se supone que rango(X) = q. La suma de cuadrados
SC debido a β, est´a dada por
SC(β) = ||y − Xβ||2 = (y − Xβ)′ (y − Xβ) = y ′ y − 2β ′ X ′ y + β ′ X ′ Xβ

(3)

La minimizaci´on de la suma de cuadrados sobre los posibles valores de β se puede obtener mediante
argumentos de c´alculo: derivando SC(β) respecto a β eigualando a cero se deducen las ecuaciones
normales
X ′ Xβ = X ′ y

(4)

βˆ = (X ′ X)−1 X ′ y

(5)

cuya soluci´on,

es el estimador de m´ınimos cuadrados (EMC) del vector de par´ametros β.
ˆ y su correspondiente vector de reAhora bien, se define la respuesta ajustada como yˆ = X β,
siduales, ϵˆ = y − yˆ. Luego, la suma de cuadrados de los errores (SCE), tambi´en llamada suma de...