Minimos Cuadraticos







Método de los Mínimos Cuadrados


















Introducción


El método de mínimos cuadrados tiene una larga historia que se remonta a los principios del siglo XIX. En Junio de 1801, Zach, un astrónomo que Gauss había conocido dos años antes, publicaba las posiciones orbitales del cuerpo celeste Ceres, un nuevo “pequeño planeta” descubierto por el astrónomo italiano G. Piazzi en esemismo año. Desafortunadamente, Piazzi sólo había podido observar 9 grados de su órbita antes de que este cuerpo desapareciese tras del sol. Zach publicó varias predicciones de su posición incluyendo una de Gauss que difería notablemente de las demás. Cuando Ceres fue redescubierto por Zach en Diciembre de 1801 estaba casi exactamente en donde Gauss había predicho.
Aunque todavía no había revelado sumétodo, Gauss había descubierto el método de mínimos cuadrados. En un trabajo brillante logró calcular la órbita de Ceres a partir de un número reducido de observaciones, de hecho, el método de Gauss requiere sólo un mínimo de 3 observaciones y todavía es, en esencia, el utilizado en la actualidad para calcular las órbitas.















El Método de Mínimos Cuadrados es una técnica de análisisnumérico enmarcada dentro de la optimización matemática, en la que, dados un conjunto de pares ordenados: variable independiente, variable dependiente, y una familia de funciones, se intenta encontrar la función continua, dentro de dicha familia, que mejor se aproxime a los datos (un "mejor ajuste"), de acuerdo con el criterio de mínimo error cuadrático.

La técnica de mínimos cuadrados se usacomúnmente en el ajuste de curvas. Muchos otros problemas de optimización pueden expresarse también en forma de mínimos cuadrados, minimizando la energía o maximizando la entropía.

El método más efectivo para determinar los parámetros a y b se conoce como técnica de mínimos cuadrados.
Consiste en someter el sistema a diferentes condiciones, fijando para ello distintos valores de la variableindependiente X, y anotando en cada caso el correspondiente valor medido para la variable dependiente Y. De este modo se dispone de una serie de puntos (X1,Y1), .... (Xn,Yn) que, representados gráficamente, deberían caer sobre una línea recta. Sin embargo, los errores experimentales siempre presentes hacen que no se hallen perfectamente alineados (ver Fig. 1). El método de mínimos cuadrados determina losvalores de los parámetros a y b de la recta que mejor se ajusta a los datos experimentales. Sin detallar el procedimiento, se dará aquí simplemente el resultado:

Donde n es el número de medidas y Σ representa la suma de todos los datos que se indican.
El procedimiento mas objetivo para ajustar una recta a un conjunto de datos presentados en un diagrama de dispersión se conoce como "el método delos mínimos cuadrados".
La recta resultante presenta dos características importantes:

1. Es nula la suma de las desviaciones verticales de los puntos a partir de la recta de ajuste
∑ (Yｰ - Y) = 0.

2. Es mínima la suma de los cuadrados de dichas desviaciones. Ninguna otra recta daría una suma menor de las desviaciones elevadas al cuadrado

∑ (Yｰ - Y)² → 0

El procedimiento consiste entoncesen minimizar los residuos al cuadrado Ci²












En el método de Mínimos Cuadrados deseamos minimizar la discrepancia entre los datos observados x[n] y la señal original s[n]. Esta señal se genera a través de un modelo que depende un conjunto de parámetros de interés agrupados en el vector θ. Aunque s[n] es completamente determinista la presencia de inexactitudes en el modelo o ruido en lossensores hace que las observemos una versión perturbada de ésta que denotamos por x[n]. A lo largo del tema preferiremos utilizar la notación vectorial por su mayor simplicidad y claridad a la hora de permitir visualizar los resultados.


La radical diferencia entre el método determinista y el método estocástico consiste en que ahora se consideran hipótesis probabilísticas sobre la función de...