Regrecion lineal

R. Caneo

Estadístico UCV – U de Chile Regresión Lineal Simple

ANALISIS DE REGRESION LINEAL SIMPLE

El termino regresión fue usado como concepto estadístico por Sir Francis Galton, quien efectuó un estudio sobre la herencia, acerca de la altura de los hijos de padres altos, observando que esta tendía a regresar o retroceder hasta la alturamedia de la población.

En el análisis de regresión se plantea un modelo, el cual relaciona funcionalmente variables conocidas experimentalmente versus una variable desconocida. Las variables conocidas experimentalmente se conocen como variables independiente o regresores ( notación : X ), mientras la variable desconocida se conoce por variable dependiente o respuesta. ( notación: Y).

Ejemplo:1.- La relación entre el número de horas de trabajo versus el número de
accidentes laborales.
2.- La relación entre el gasto en publicidad en un producto versus las ventas
producidas.
3.- La nota obtenida en un certamen versus las horas de estudio.

Los objetivos del análisis de regresión son:

1.- Medir la asociación entre X e Y.
2.- El modelo de regresión permiteobtener estimaciones y predicciones de la
variable dependiente dado datos de la(s) variable(s) independiente(s).

Obs. Antes de establecer un modelo de regresión es necesario asegurarse que tipo de relación se observa entre X e Y. Esto se puede hacer a través de un gráfico de dispersión y el calculo de R de Pearson. Si el análisis de regresión es lineal entonces se debería observar cualquierade los siguientes casos:

a.- R ( 1
b.- R ( -1

Sea el siguiente modelo de regresión lineal simple:

Yi = A + B Xi + Ei

Jorge A. García Vidal 76

Estadístico UCV – U de Chile Regresión Lineal Simple

Donde

Yi = es la i-ésima observación de lavariable dependiente
Xi = es la i-ésima observación de la variable independiente
A = constante desconocida ( parámetro ) en la relación de X con Y
B = constante desconocida ( parámetro ) en la relación de X con Y
Ei = error experimental en la relación de X con Y ( variable aleatoria )

ESTIMACION PUNTUAL DE LOS PARAMETROS

El método para estimar puntualmente los parámetros del modelo deregresión se conoce por “ método de los mínimos cuadrados de los errores “, y consiste en minimizar la suma de cuadrados de los errores del modelo de regresión

Es decir: [pic]
Sea (X1,Y1),(X2,Y2), ......,(Xn,Yn) una muestra aleatoria de “n” pares de datos de las variables ( X,Y).

Sea Yi = A + B Xi + Ei

Ei = Yi – ( A + B Xi ) / 2 /[pic]
[pic] = [pic]

Paraminimizar [pic] se debe aplicar derivadas parciales a esta función con respecto a las constantes : A y B.

1.- [pic][pic] = -2 [pic]

2.- [pic][pic] = -2 [pic]

Este sistema de ecuaciones es conocido por “ Sistema de Ecuaciones Normales”.

Jorge A. García Vidal 77

Estadístico UCV – U de ChileRegresión Lineal Simple

1.- ( Yi - n A - B ( Xi = 0

2.- ( XiYi - A (Xi - B ( Xi2 = 0

1.- ( Yi = n A + B ( Xi

2.- ( XiYi = A (Xi + B ( Xi2

Dividiendo la ecuación 1 por n se obtiene:

1.- Y = A + B X

donde Y es el promedio de los datos de Y, y X es el promedio de los datos de X.

Entonces elEstimador mínimo cuadrático de A es anotado por:

[pic] = Y - [pic] X y se interpreta como: el valor medio que toma la variable
dependiente, cuando la variable independiente es igual a
cero.
Luego al reemplazar A en la ecuación 2 , se obtiene:

2.- ( XiYi = ( Y - B X ) (Xi + B ( Xi2

Entonces el...