Rodamiernto

Regresión lineal
En estadística la regresión lineal o ajuste lineal es un método matemático que modela la relación entre una variable dependiente Y, las variables independientes Xi y un término aleatorio ε. Este modelo puede ser expresado como:
[pic]
[pic]: Variable dependiente, explicada o regresando.
[pic]: Variables explicativas, independientes o regresores.
[pic]: Parámetros, miden lainfluencia que las variables explicativas tienen sobre el regresando.
donde [pic]es la intersección o término "constante", las [pic]son los parámetros respectivos a cada variable independiente, y [pic]es el número de parámetros independientes a tener en cuenta en la regresión. La regresión lineal puede ser contrastada con la regresión no lineal.
[pic]
[pic]
Ejemplo de una regresión lineal conuna variable dependiente y una variable independiente.
Mínimos cuadrados
Mínimos cuadrados es una técnica de análisis numérico encuadrada dentro de la optimización matemática, en la que, dados un conjunto de pares ordenados: (variable independiente, variable dependiente) y una familia de funciones, se intenta encontrar la función, dentro de dicha familia, que mejor se aproxime a los datos (un"mejor ajuste"), de acuerdo con el criterio de mínimo error cuadrático.
En su forma más simple, intenta minimizar la suma de cuadrados de las diferencias ordenadas (llamadas residuos) entre los puntos generados por la función y los correspondientes en los datos. Específicamente, se llama mínimos cuadrados promedio (LMS) cuando el número de datos medidos es 1 y se usa el método de descenso porgradiente para minimizar el residuo cuadrado. Se puede demostrar que LMS minimiza el residuo cuadrado esperado, con el mínimo de operaciones (por iteración), pero requiere un gran número de iteraciones para converger.
Desde un punto de vista estadístico, un requisito implícito para que funcione el método de mínimos cuadrados es que los errores de cada medida estén distribuidos de forma aleatoria. Elteorema de Gauss-Márkov prueba que los estimadores mínimos cuadráticos carecen de sesgo y que el muestreo de datos no tiene que ajustarse, por ejemplo, a una distribución normal. También es importante que los datos recogidos estén bien escogidos, para que permitan visibilidad en las variables que han de ser resueltas (para dar más peso a un dato en particular, véase mínimos cuadrados ponderados).
Latécnica de mínimos cuadrados se usa comúnmente en el ajuste de curvas. Muchos otros problemas de optimización pueden expresarse también en forma de mínimos cuadrados, minimizando la energía o maximizando la entropía.
[pic]
[pic]
El resultado del ajuste de un conjunto de datos a una función cuadrática.

Formulación formal del problema bidimensional

Sea [pic]un conjunto de n puntos en elplano real, y sea [pic]una base de m funciones linealmente independiente en un espacio de funciones. Queremos encontrar una función [pic]que sea combinación lineal de las funciones base, de modo que [pic], esto es:
[pic]
Por tanto, se trata de hallar los m coeficientes [pic]que hagan que la función aproximante [pic]dé la mejor aproximación para los puntos dados [pic]. El criterio de "mejoraproximación" puede variar, pero en general se basa en aquél que minimice una "acumulación" del error individual (en cada punto) sobre el conjunto total. En primer lugar, el error (con signo positivo o negativo) de la función [pic]en un solo punto, [pic], se define como:
[pic]
pero tratamos de medir y minimizar el error en todo el conjunto de la aproximación, [pic]. En matemáticas, existendiversas formas de definir el error, sobre todo cuando éste se refiere a un conjunto de puntos (y no sólo a uno), a una función, etc. Dicho error (el error "total" sobre el conjunto de puntos considerado) suele definirse con alguna de las siguientes fórmulas:
Error Máximo: [pic]
Error Medio: [pic]
Error Cuadrático Medio: [pic]
La aproximación mínimo cuadrada se basa en la...