Regresion lineal

FCE - UBA
Prof. Lic. Mónica Cantoni

Estadística para Administradores

Unidad 4 - Regresión lineal entre dos variables
Regresión y Correlación. Modelo lineal simple.
Introducción
Se conoce como análisis de regresión el estudio de las asociaciones cuantitativas entre un número de
variables. Aunque en muchas disciplinas se están realizando experimentos en forma estadística, la
precisión en lacomparación que en forma general se requiere, evita el empleo de estos diseños en muchas
situaciones. Investigar el efecto simultáneo de varios factores con base en las técnicas del análisis de
varianza requiere de la suposición de que los datos se han colectado en arreglos balanceados y que se
llevaron a efecto los procedimientos de aleatorización adecuados. Lo anterior es deseable si puede
cumplirse,pero muchas veces es impráctico. En la realidad a lo que se enfrenta el experimento es a un
conjunto de datos que de manera común, no espera que hayan sido observados bajo condiciones
estrictamente controladas y los que, salvo en ciertas ocasiones, no contienen ninguna réplica real que
permita una estimación apropiada del error experimental. Bajo estas condiciones el método más
apropiado es el demínimos cuadrados para el análisis de regresión, y no el análisis de la varianza.
El objetivo del análisis de regresión es estimar el valor de una variable aleatoria (la variable dependiente)
dado que el valor de una variable asociada (la variable independiente) es conocido. La variable
dependiente también se llama variable de respuesta o explicada, mientras que la variable independiente setambién llama variable de predicción o explicativa. La ecuación de regresión es la formula algebraica que
determina el valor estimado de la variable de respuesta.
Recta de regresión poblacional:
Si x es la variable explicativa e y la variable explicada, la recta de regresión es:

μ x = β 0 + β1 x = E ( y / x)
Y para el valor

x i se tiene –si se observó y i

Modelo de regresión poblacional

yi = β 0 +β1 x + ε i
Supuestos:
1.

La variable aleatoria

2.

La variable aleatoria

εi
εi

es estadísticamente independiente de los valores de x.
tiene distribución normal

3.

E (ε i ) = 0

4.

Para todo par

5.

La Var (ε i ) es finita y constante para todo i.

ε ε , ε j se tiene que son estadísticamente independientes; por lo tanto la

Cov(ε i ; ε j ) = 0

Dada una serie de valores maestrales de x e y seutiliza el método de mínimos cuadrados para encontrar la
recta que mejor ajuste (la mejor ecuación), la recta va a ser la que reduce al mínimo las desviaciones
cuadradas entre los valores estimados y real de la variable dependiente para los datos maestrales.
Una vez formulada la ecuación de regresión, puede servir para estimar el valor de la variable dependiente
dado el valor de la variableindependiente. Sin embargo esta estimación sólo debe realizarse dentro del
rango de valores de la variable independiente originalmente muestreada, ya que no existe base estadística
para suponer que la línea de regresión es adecuada fuera de estos límites.

FCE - UBA
Prof. Lic. Mónica Cantoni

Estadística para Administradores

Recta de regresión muestral

yˆ = b0 + b1 x
Modelo de regresión muestral

yˆ= b0 + b1 x + ε i
ε i = y i − yˆ i
Método de mínimos cuadrados

(

Min ∑ ei = Min ∑ y − βˆ0 − βˆ1 x
2

a ,b

a ,b

)

2

Función que se quiere minimizar para el modelo lineal:

(

)

(

)

2
φ βˆ0 , βˆ1 = Min ∑ y − βˆ0 − βˆ1 x
a ,b

Se busca determinar el a y b para el cual la sumatoria sea mínima:
Derivando la función que se quiere minimizar:

(

)

(

)

∂φ
= 2∑ y − βˆ0 − βˆ1 x (− 1) = 0
∂βˆ0∂φ
= 2∑ y − βˆ0 − βˆ1 x (− x ) = 0
ˆ
∂β1
queda:

[

]

∂φ
= 2 − ∑ y + ∑ βˆ0 + ∑ βˆ1 x = 0
∂βˆ0

[

]

∂φ
= 2 − ∑ yx + ∑ βˆ0 x + ∑ βˆ1 x 2 = 0
∂βˆ1

∑ βˆ

0

= βˆ0 + βˆ0 + K + βˆ0 = nβˆ0

∑ βˆ x = βˆ x
1

1 1

+ βˆ1 x2 + K + βˆ1 xn = βˆ1 ∑ x

Ecuaciones Normales

⎧⎪nβˆ0 + (∑ x )βˆ1 = ∑ y
⎨
2
⎪⎩(∑ x )βˆ0 + ∑ x βˆ1 = ∑ yx

(

)

Obtención de los estimadores
Método I: a partir de las ecuaciones...