Modelo Regreción Lineal

Año 2011

10

Modelo de regresión lineal

La relación matemática determinística más simple entre dos variables x e y, es una relación lineal y = 0 + 1 x. El conjunto de pares (x; y) que veri…can esta relación, determinan una recta con pendiente 1 que corta al eje y en 0: En esta sección vamos a estudiar una relación lineal no determinística entre dos variables. Ejemplo 10.1 Consideremos lossiguientes datos que muestran la densidad óptica de cierta substancia (y) a diferentes niveles de concentración (x): x y 80 120 160 200 240 280 320 360 400 440 480 520 .08 .12 .18 .21 .28 .28 .38 .40 .42 .50 .52 .60

Si gra…camos estos valores
0,7 0,6 0,5 0,4 0,3 0,2 0,1 0 0 100 200 300 400 500 600

vemos que los puntos parecen estar bastante próximos a una recta, y podemos aceptar que larelación entre las variables es “aproximadamente lineal” Podemos . pensar que para cada valor de x, el valor de y es función lineal de x más un término aleatorio. 102

Año 2011

Para un conjunto de observaciones (x1 ; y1 ); (x2 ; y2 ); :::; (xn ; yn ) el modelo de regresión lineal simple asume que las de yi son valores observados de variables aleatorias Yi relacionadas con las xi de lasiguiente forma: Yi =
0

+

1 xi

+
i

i

(28)

donde 0 y 1 son parámetros …jos y los pendientes entre si, que cumplen

son variables aleatorias inde2

E( i ) = 0 ; var( i ) =

(29)

Esto signi…ca que para cada valor de la variable independiente o explicativa xi , la va-riable dependiente o variable respuesta Yi ; es una variable aleatoria independiente de las otras Yj , tal que:E(Yi ) =
0

+

1 xi

; var(Yi ) =

2

:

Conocer la ecuación (28) y 2 ; nos permitiría predecir, con un error de predicción que depende de 2 , el valor que puede tomar la variable Y , para determinado valor de x. Como en el ejemplo planteado, se tiene un conjunto de observaciones (x1 ; y1 ); (x2 ; y2 ); :::; (xn ; yn ), que parecen adaptarse al modelo lineal y en base a esos valores sedeben estimar los parámetros desconocidos 0 , 1 y 2 : En el ejemplo xi son las concentraciones, yi las densidades ópticas, y n = 12: Para estimar los parámetros 0 y cuadrados. Sean ri = y i y i = y i b Srr =
n X i=1 2 ri 1

usaremos el método de mínimos b 0 + b 1 xi (30)

(los residuos). Entonces el método consiste en hallar b0 ; b1 tales que =
n X i=1

yi

Calculando las derivadasrespecto de b0 y de b1 , e igualando ambas a cero, se obtiene un sistema de dos ecuaciones, al resolver el mismo se llega a la siguiente solución. b1 = Sxy ; Sxx b0 = y xb1

b 0 + b 1 xi

2

= min :

103

Año 2011

donde x e y son las medias de las xi y las yi ; y: Sxx = y Sxy =
n X i=1

(xi

x) ; Syy =

2

n X i=1 n X i=1

(yi

y)2 ;

n X i=1

(xi

x) (yi

y) =

xiyi

nx y:

La recta obtenida se llama recta de regresión estimada de y en x: En nuestro ejemplo, Sxx = 228800 , Syy = 0:30189 , Sxy = 261:4 y b = 0 0:0119 ; b1 = 0:0011 : 0:0119 + 0:0011x

de modo que la recta de regresión estimada será: y= b

La desviación s2 r

se estima con sr de…nido como X Srr 2 = ; con Srr = ri = Syy n 2 i=1
n

En nuestro ejemplo, sr = 0:0180:

Sxx b1 :

2El coe…ciente de determinación y el coe…ciente de correlación Una medida de la variablidad total de las observaciones yi es la expresión que ya vimos Syy ; en nuestro ejemplo Syy = 0:30189 La suma de cuadrados de los residuos: Srr puede considerarse como una medida de la variación de las yi que no es explicada por el modelo, obviamente Srr Syy . Entonces el cociente Srr =Syy sería la proporciónde la variabilidad total que no es explicada por el modelo, y 0 Srr =Syy 1 Es conveniente de…nir un número que represente la proporción de la variabilidad total de las yi que si es explicada por el modelo, este número es el coe…ciente de determinación: r2 = 1 104 Srr Syy

Año 2011

es evidente que también cumple: 0 r2 1, es una medida de la bondad 2 del ajuste del modelo, un valor de r = 1,...