Regresión lineal

Modelo de regresión lineal simple
1 Introducción
Con frecuencia, nos encontramos en economía con modelos en los que el
comportamiento de una variable, Y, se puede explicar a través de una variable X;
lo que representamos mediante

Y = f (X )

(1)

Si consideramos que la relación f, que liga Y con X, es lineal, entonces (1)
se puede escribir así:

Yt = β1 + β 2 X t

(2)

Comoquiera que las relaciones del tipo anterior raramente son exactas,
sino que más bien son aproximaciones en las que se han omitido muchas variables
de importancia secundaria, debemos incluir un término de perturbación aleatoria,
ut , que refleja todos los factores – distintos de X -que influyen sobre la variable
endógena, pero que ninguno de ellos es relevante individualmente. Con ello, larelación quedaría de la siguiente forma:

Modelo de regresión simple
Yt = β1 + β 2 X t + ut

(3)

La expresión anterior refleja una relación lineal, y en ella sólo figura una
única variable explicativa, recibiendo el nombre de relación lineal simple. El
calificativo de simple se debe a que solamente hay una variable explicativa.
Supongamos ahora que disponemos de T observaciones de lavariable Y
( Y1 , Y2 ,… , YT ) y de las correspondientes observaciones de X ( X 1 , X 2 ,… , X T ). Si
hacemos extensiva (3) a la relación entre observaciones, tendremos el siguiente
conjunto de T ecuaciones:
Y1 = β1 + β 2 X 1 + u1
Y2 = β1 + β 2 X 2 + u2

(4)

YT = β1 + β 2 X T + uT
El sistema de ecuaciones (4) se puede escribir abreviadamente de la forma
siguiente:
Yt = β1 + β 2 X t + utI-1

t = 1, 2,… , T

(5)

El objetivo principal de la regresión es la determinación o estimación de
β1 y β 2 a partir de la información contenida en las observaciones de que
disponemos. Esta estimación se puede llevar a cabo mediante diversos
procedimientos. A continuación se analizan en detalle algunos de los métodos
posibles.
Interesa, en primer lugar, realizar una aproximaciónintuitiva a diferentes
criterios de ajuste. Para ello se utiliza la representación gráfica de las
observaciones ( X t , Yt ), con t = 1, 2,..., T. Si la relación lineal de dependencia
entre Y y X fuera exacta, las observaciones se situarían a lo largo de una recta
(véase la figura 1). En ese caso, las estimaciones más adecuadas de β1 y β 2 – de
hecho, los verdaderos valores – serían,respectivamente, la ordenada en el origen
y la pendiente de dicha recta.

Figura 1

Pero si la dependencia entre Y y X es estocástica, entonces, en general, las
observaciones no se alinearán a lo largo de una recta, sino que formarán una nube
de puntos, como aparece en la figura 2. En ese caso, podemos contemplar las
estimaciones de β1 y β 2 como la ordenada en el origen y la pendiente de una
ˆˆ
recta próxima a los puntos. Así, si designamos mediante β y β las estimaciones
1

2

de β1 y β 2 , respectivamente, la ordenada de la recta para el valor X t vendrá
dada por
ˆ ˆ ˆ
Yt = β1 + β 2 X t

(6)

ˆ
El problema que tenemos planteado es, pues, hallar unos estimadores β1 y
ˆ
ˆ
β 2 tales que la recta que pasa por los puntos ( X t , Yt ) se ajuste lo mejor posible a
lospuntos ( X t , Yt ). Se denomina error o residuo a la diferencia entre el valor
observado de la variable endógena y el valor ajustado, es decir,

I-2

ˆ ˆ
ˆ
ˆ
ut = Yt − Yt = Yt − β1 − β 2 X t

(7)

Teniendo en cuenta el concepto de residuo se analizan a continuación
diversos criterios de ajuste.

Figura 2

ˆ
ˆ
Un primer criterio consistiría en tomar como estimadores β1 y β 2aquellos valores que hagan la suma de todos los residuos tan próxima a cero como
sea posible. Con este criterio la expresión a minimizar sería la siguiente:
T

ˆ
∑u
t =1

(8)

t

El problema fundamental de este método de estimación radica en que los
residuos de distinto signo pueden compensarse. Tal situación puede observarse
gráficamente en la figura 3, en la que se representan tres...