Metodo de minimos cuadrados

Introducción al método de mínimos cuadrados

Interpolación y ajuste de curvas

En ocasiones se tienen una serie de datos y se desconoce la función que los ha generado y se desea saber cuál es ésta. Lo primero que se debe hacer es graficar los puntos según sea el caso, para conocer su comportamiento y de esta forma decidir cuál método es más apropiado utilizar con fines predictivos. Existenvarios métodos aquí nos dedicaremos únicamente a mínimos cuadrados.

Ajuste para una recta

La nube de puntos de una representación de datos en papel milimetrado nos permitía visualizar la relación entre dos variables x e y.

Al representar el diagrama de dispersión de los datos podemos encontrar las siguientes situaciones:

Distribuciones estadísticas para las que la nube de puntos sedispone de tal forma que existe una función matemática cuyos puntos son una parte de su representación gráfica.
Sin coincidir exactamente sus puntos con las de una gráfica de una función matemática, se aproximan a ella con mayor o menor intensidad.
La nube de puntos presenta un aspecto tal que no existe concentración de puntos hacia ninguna gráfica matemática, distribuyéndose de una forma uniforme enuna región del plano.

En el primer caso se dice que existe una dependencia funcional o exacta entre las variables x e y, es decir existe una función matemática tal que y = f(x). En el segundo caso se dice que existe una dependencia estadística o aproximadamente entre las dos variables, y(f(x). Y en el último caso diríamos que las variables son independientes.

Es el segundo caso del que seocupa la teoría de la regresión.

Las técnicas de regresión tienen por objeto modelizar, es decir, encontrar una función que aproxime lo máximo posible la relación de dependencia estadística entre variables y predecir los valores de una de ellas: y (variable dependiente) a partir de los de la otra (o las otras): x(variables(s) independiente(s)). La regresión es lineal cuando el modelo función deregresión seleccionado es una recta. En cualquier otro caso se dice regresión no lineal.

El procedimiento será:

1. Elegir un tipo de función o curva que creamos que mejor relaciona las dos variables; esto lo podemos hacer observando la nube de puntos.
2. Obtener la ecuación de la curva, de entre las infinitas de dicho tipo que hay en el plano, que mejor se adapte al conjunto de puntos. Elobjetivo de obtener esa ecuación será predecir el valor de la variable y dado un valor x0 de la variable x.
3. Obtener una medida del grado de esta asociación o correlación. Esto me dará la fiabilidad de las predicciones que haga con esta ecuación.

El segundo punto del procedimiento se conoce como el problema del ajuste y se pueden emplear diferente métodos matemáticos para ello, tenemos:Método de los mínimos cuadrados.
Método de los polinomios ortogonales.
Método de los momentos.
Método de la curva logística.

Ajuste de curvas por mínimos cuadrados

La regresión por mínimos cuadrados, es una técnica cuyo objetivo es derivar una curva que minimice la discrepancia entre los puntos y la curva. Algunas suposiciones estadísticas inherentes en los procedimientos por mínimoscuadrados lineales son:

1. Cada x tiene un valor fijo, no es aleatorio y es conocido sin error.

2. Los valores y son valores aleatorios independientes y todos tienen la misma varianza.

3. Los valores de y para una x dada deben ser normalmente distribuidos.

4. La regresión de y contra x no es la misma que la de x contra y.

Método de los mínimos cuadrados.

Dados los puntos (x1,y1),(x2,y2),...,(xn,yn), supongamos que hemos elegido una función y=f(x|a1,...,ar) que queremos ajustar a ese conjunto de puntos y en la que intervienen r parámetros (a1,...,ar). Consideramos la nube de puntos correspondiente:

[pic] [pic]

Para cada valor de x, (xi ) tenemos dos valores de y:

El valor observado en la muestra (o en la nube de puntos ) yi....