minimos cuadrados

REGRESION CON MINIMOS CUADRADOS


Cuando se desea encontrar o predecir valores intermedios de un Conjunto de Datos obtenidos en forma experimental o muestralmente (los cuales tienen implícitamente un error muy substancial), se recomienda el uso de los Métodos de Regresión para obtener una Función aproximada que ajuste adecuadamente el Comportamiento o la Tendencia general de los Datos, sincoincidir necesariamente con cada punto en particular.

Una Técnica a seguir para trazar la Función que ajuste a todos los puntos, podría ser a través del Método de Graficar los Puntos y, en forma arbitraria, trazar una Línea Recta que pasara por todos los puntos, lo cual es deficiente, ya que estaría sujeta al criterio del analista y cada analista podría trazar líneas diferentes.

Lorecomendable es obtener una Función por vía Matemática que Minimice las Diferencias entre los Datos y la misma Curva.

El ejemplo más simple de una aproximación con Mínimos Cuadrados, es el Ajuste de una Línea Recta a un conjunto de parejas de puntos o Datos observados. Expresado Matemáticamente: Y = a0 + a1X + E, en la cual a0 y a1, son los Coeficientes que representan la Intersección con el ejede las Abscisas y la Pendiente, respectivamente. "E" es el Error o "Residuo" entre el Modelo y las observaciones: E = Y - a0 - a1X .


PROCEDIMIENTO A SEGUIR PARA ENCONTRAR LA MEJOR LINEA RECTA.

1).- Sabiendo que hay un cierto margen de error al tratar de Ajustar una Curva (recta) a los puntos, una estrategia sería obtener la "Mejor" Línea Ajustada a los Puntos, donde se minimicen lasuma de los errores residuales
n n
=  (yi - a0 - a1Xi)
i=1 i=1
2).- Sin embargo, es un tipo de criterio inadecuado ya que en ciertos casos, los errores se cancelan; lo mismo sucedería si se trata de Minimizar la Suma de los Valores Absolutos de las Diferencias:
n n
 =   (yi - a0 - a1Xi) 
i=1 i=13).- Otro Método sería utilizar el criterio "MINIMAX", en el que se selecciona la Línea de tal forma que Minimice la Distancia Máxima a la que se encuentra un Punto de la Recta. Pero este Método no funciona para los casos en que se considere un punto externo que muestre un Error muy Grande.

4).- La estrategia que salva las limitaciones de los Métodos anteriores es la de: "Minimizar la Suma delos Cuadrados de los Residuos":
n n
Sr =2=  (yi - a0 - a1Xi)2
i=1 i=1
la principal ventaja de este Método es que Ajusta una Línea Única a un conjunto de Datos dados. De tal forma que debemos llegar a Fórmulas que determinen los Valores de 'a0' y 'a1'.

Derivando la Ecuación anterior respecto a cada uno de los Coeficientes generamos un Mínimo, eigualándolas a cero obtenemos:

Sr.
= - 2  (yi - a0 - a1xi)
a0

0 =  yi - a0 - a1xi

Sr
= -2  ((yi - a0 -a1xi)xi)
a1

0 =  yixi - a0xi - a1xi2

haciendo a0 = na0 y escribiendo las expresiones en forma de Ecuaciones Lineales Simultaneas con a0 y a1 como incognitas:

na0 + xia1 = yi ---------(I)

xia0 + xi2a1 = xiyi ---------(II)

las cuales se conocencomo Ecuaciones de Normalización, de las que al resolverlas simultáneamente, obtenemos:

nxiyi - xi yi
a1 = y substituyendo en (I):
nxi2 - ( xi)2

_ _
a0 = y - a1x


CUANTIFICACION DEL ERROR EN LA REGRESION LINEAL.

Cualquier Línea Recta diferente a la calculada anteriormente, generará una Suma Mayor de los Cuadrados de los Residuos. Por lotanto, la Línea es Unica y en términos del Criterio escogido, es "la Mejor" Línea que Ajusta a todos los Puntos.

Recordando que "La Suma del Cuadrado de los Residuos" se define como  (yi - a0 - a1Xi)2 que es muy similar a "La Suma del Cuadrado de los Residuos entre los Puntos y la Media": St =  (yi-Y)2, de las que la diferencia estriba en que mientras ésta última muestra los Residuos de...