Estadistica

Mínimos cuadrados
Mínimos cuadrados es una técnica de ANALISIS NUMERICOencuadrada dentro de la optimización matematica, en la que, dados un conjunto de pares ordenados: variable independiente,variable dependiente, y una familia de funciones, se intenta encontrar la funcion dentro de dicha familia, que mejor se aproxime a los datos (un "mejor ajuste"), de acuerdo con el criterio de minimoscuadrados

El resultado del ajuste de un conjunto de datos a una función cuadrática.
.
En su forma más simple, intenta minimizar la suma de cuadrados de las diferencias en las ordenadas (llamadasresiduos) entre los puntos generados por la función elegida y los correspondientes valores en los datos. Específicamente, se llama minimos cuadrados (LMS) cuando el número de datos medidos es 1 y se usa elmétodo de decenso por gradiente para minimizar el residuo cuadrado. Se puede demostrar que LMS minimiza el residuo cuadrado esperado, con el mínimo de operaciones (por iteración), pero requiere ungran número de iteraciones para converger.
Formulación formal del problema bidimensional
Sea un conjunto de n puntos en el plano real, y sea una base de m funciones linealmente independiente en unespacio de funciones. Queremos encontrar una función que sea combinación lineal de las funciones base, de modo que , esto es:

. En matemáticas, existen diversas formas de definir el error, sobre todocuando éste se refiere a un conjunto de puntos (y no sólo a uno), a una función, etc. Dicho error (el error "total" sobre el conjunto de puntos considerado) suele definirse con alguna de lassiguientes fórmulas:
Error Máximo:
Error Medio:
Error Cuadrático Medio:
La aproximación por mínimos cuadrados se basa en la minimización del error cuadrático medio o, equivalentemente, en laminimización del radicando de dicho error, el llamado error cuadrático, definido como:

Para alcanzar este objetivo, se utiliza el hecho que la función f debe poder describirse como una combinación lineal de...