REGRESION LINEAL

Una
de
las
aplicaciones
mas
importantes de la estadística implica la
estimación del valor medio de una
variable de respuesta y o la predicción
de algún valor futuro de y con base el
conocimiento de un conjunto de
variables independientes relacionadas,
x1, x2, . . . xk.

Los modelos que se emplean para
relacionar una variable dependiente y
con las variables independientes x1, x2, . .
. xk sedenominan modelos de regresión
o modelos estadísticos lineales porque
expresan el valor medio de y para
valores dados de x1, x2, . . . xk como una
función lineal de un conjunto de
parámetros desconocidos.

Los conceptos de análisis de regresión
se presentan empleando un modelo de
regresión muy sencillo, uno que
relaciona y con una sola variable x.
Aprenderemos a ajustar este modelo a
un conjunto dedatos mediante el
método de los mínimos cuadrados.

Examinaremos los diferentes tipos de
inferencias que pueden hacerse a partir
de un análisis de regresión.

Un modelo de regresión simple:
supuestos
Supongamos que se quiere determinar
la magnitud de la compresión que se
producirá en un tipo de material de 2
pulgadas de espesor cuando se someta
a diferentes cantidades de presión.

Un modelo deregresión simple:
supuestos
Se prueban cinco trozos experimentales
del material bajo diferentes presiones.
Los valores de x (en unidades de 10
libras por pulgada cuadrada) y las
magnitudes
de
compresión
y
resultantes (en unidades de 0.1 de
pulgada) se presentan en la tabla 1.

ESPÉCIMEN PRESIÓN COMPRESIÓN
X
Y
 
1
1
1
2
2
1
3
3
2
4
4
2
5
5
4

TABLA # 1

En la figura 1 se muestra una gráfica
delos datos, llamada diagrama de
dispersión. y
4

3

Figura 1.

2

1

0

1

2

3

4

X

y
4

3

2

1

0

1

2

3

4

X

y
4
3
2
1
0

1

2

3

4

X

y
4
3
2
1
0

1

2

3

4

5

Supongamos
que
creemos
que el
valor de y tiende a
aumentar de forma
conforme x
X lineal
aumenta

Entonces, podríamos escoger un modelo
que relacione a y con x trazando una
línea recta a través de los puntos de la
figura.

y4
3
2
1
0

1

2

3

4

5

X

Semejante modelo determinístico (uno
que no contempla errores de predicción)
podría ser adecuado si todos los puntos
de la figura quedaran sobre la línea
ajustada.

La solución es construir un modelo
probabilístico que relacione y con x; uno
que contemple la variación aleatoria de
los puntos de datos a los lados de una
línea recta.

Un tipo de modelo probabilístico,el
modelo de regresión lineal simple,
supone que el valor medio de y para un
valor dado de x se grafica como una
línea recta y que los puntos se desvían
de esta línea de medias en una cantidad
aleatoria (positiva o negativa) igual a ,
es decir:

y  0  1 x  

y  0  1 x  

y  0  1 x  

y  0  1 x  

y   0  1 x  
Valor medio de y
para una x dada

Error
aleatorioDonde 0 y 1 son parámetros
desconocidos
de
la
porción
determinística del modelo.

y   0  1 x  
Valor medio de y
para una x dada

Error
aleatorio

Si suponemos que los puntos se desvían
por encima y por debajo de la líneas de
medias, siendo algunas desviaciones
positivas, otras negativas, y con E() = 0,
entonces el valor medio de y es:
E ( y ) E (  0  1 x   ) ˆ0  ˆ1 x  E ( ) ˆ0 ˆ1 x

E ( y ) E (  0  1 x   ) ˆ0  ˆ1 x  E ( ) ˆ0  ˆ1 x

E ( y ) E (  0  1 x   ) ˆ0  ˆ1 x  E ( ) ˆ0  ˆ1 x

E ( y ) E (  0  1 x   ) ˆ0  ˆ1 x  E ( ) ˆ0  ˆ1 x

Por lo tanto, el valor medio de y para un
valor dado de x, representado por el
símbolo E(y), se grafica como una línea
recta con ordenada al origen igual a ˆ00 y
ˆ

pendiente igual a 11y
4

E ( y ) ˆ0  ˆ1 x

3
2

ˆ1 pendiente

1

ˆ0 ordenada al origen0

1

2

3

4

X

Modelo de regresión lineal simple
(probabilístico)
y   0  1 x  

Donde: y = variable dependiente
x = variable independiente
ˆx
E ( y ) 0ˆ+


E(y)=

x
es
el
componente
0
1 1
determinístico (la ecuación de una línea
recta)  = componente de error aleatorio
ˆ00 = punto en que la línea corta...