Modelo Líneal general

ANALISIS DE REGRESION
MODELO
LINEAL GENERAL
Septiembre de 2012 Francisco Sánchez Villarreal.
2
MODELO LINEAL GENERAL
Definición y Supuestos del Modelo
Se supone una que existe una relación lineal entre una variable dependiente Y y
k-1 variables independientes X2,X3,…..Xk. Existe además un término de
perturbación aleatorio u conocida como error. Si se dispone de una muestra de
tamaño nde observaciones en Y y en X2,X3,…..Xk se cumplen n ecuaciones de
la forma:
i n
Y X X X ui i i k ki i
1,2,......
........ 1 2 2 3 3

       
Los coeficientes βi y los parámetros de la distribución de los errores ui son
desconocidos, se tiene entonces como problema inicial, disponer de estimaciones
de tales parámetros. En forma matricial, el modelo es más manejable y se puedeexpresar como sigue:
Y  X  u
Donde
Y=
















n Y
Y
Y
.
2
1
X=












n n kn
k
k
X X X
X X X
X X X
2 3
22 32 2
21 31 1
1
1
1
β=
















k 


.
2
1
u =
















n u
u
u
.
2
1
Los unos en la primera columna de lamatriz X se incluyen para dar lugar al
intercepto β1. Equivale a considerar una XIj = 1 para toda j. Observe que los
subíndices de X rompen con la costumbre de utilizar el primer subíndice para el
renglón y el segundo para la columna.
Se incluyen una serie de supuestos básicos que son importantes para cumplir con
el proceso de estimación e inferencia que se deriven del modelo.
X es unamatrriz de rango k n
es una matriz de números sin propiedades probabilísticas
( ')
( ) 0
2



X
E uu I
E u
n 
Como el vector de errores u es de orden nx1, su vector transpuesto u’ es de orden
1xn y el producto uu’ es una matriz cuadrada simétrica de orden nxn y su valor
3
esperado corresponde a una matriz diagonal con valor igual a σ2
constante en los
elementos de la diagonal. Ellosignifica que los errores tienen varianza constante,
propiedad que se conoce como homoscedasticidad. Los ceros fuera de la diagonal
determinan que los errores no son correlacionados. Estos errores son variables no
observables.
E(uu’)=
 





 





( ) ( ) .. ( )
.. .. ..
( ) ( ) .. ( )
( ) ( ) .. ( )
2
1 2
1 2
2
2 1 2
1 2 1
2
1
n n n
n
E u u E u u E uE u u E u E u u
E u E u u E u u
=
 





 





2
2
2
0 0 0
0 0 .. 0
0 0 0
0 0 0



El que los valores de X sean números sin propiedades aleatorias implica que las
variaciones aleatorias de Y son debidas únicamente a las variaciones de los
errores ui. La última propiedad implica que el número de observaciones n, excede
a los k parámetros consideradosen el modelo. Podemos considerar también que
X1 siempre toma el valor 1, con lo cual queda definida la primera columna de la
matriz X. Si una variable Xj fuera combinación de una o más de las restantes
variables X, entonces el rango de la matriz X será menor que k y ello dará lugar a
que no exista la inversa de la matriz producto X’X y como consecuencia que
tampoco exista solución para laestimación de los parámetros.
Estimadores de Mínimos Cuadrados.
El problema que se debe resolver inicialmente es el de obtener un vector de
estimadores de los coeficientes del modelo:
ˆ=
















k 


ˆ
.
ˆ
ˆ
2
1
El modelo que se ajustará tendrá la forma
e X Y   ˆ
Donde e es un vector columna (nx1) de valores residuales observables . Losresiduales se pueden expresar en forma alternativa por un despeje simple.
ˆ
e  Y  X
4
La suma de cuadrados de los residuales es equivalente al producto del vector e’
por e.
  
 
 
Y'Y- 2 ˆ'X'Y ˆX'X ˆ
(Y'- ˆ'X')(Y-X ˆ)
( ˆ)'( ˆ)
'
1
2
 

  
 
Y X Y X
e e e
n
i
i
Observe que la forma de construir el doble producto se apoya en que cada
sumando es un...