método de mínimos cuadrados

El Método de
Mínimos Cuadrados

Sergio A. Cruces Álvarez
UNIVERSIDAD DE SEVILLA

1

En esta segunda prueba se pretenden esbozar algunos de los
puntos más importantes del método de Mínimos Cuadrados junto
con ejemplos de su aplicación práctica.
Este tema se circunscribe en uno de los capítulos iniciales de un
curso de doctorado sobre Teoría de la Estimación Paramétrica y su
duraciónreal equivaldría a unas 5 horas lectivas.
Se presuponen en el alumno unos conocimientos básicos de
álgebra, cálculo vectorial y teoría de probabilidad.

1

Puntos a Tratar
1. Introducción.
2. Mínimos cuadrados determinista.
3. Mínimos cuadrados estocástico.
4. Conclusiones.
5. Referencias.

2

Los puntos que vamos a tratar en la exposición son:
1. La introducción al método deMínimos Cuadrados trata de
motivar al alumno presentando la particular historia que propició
su descubrimiento por parte de Gauss.
2. La versión determinista del método que responde a un problema
de aproximación. Una gran parte de la exposición se dedica a este
punto pues la simplicidad en la formulación del método
determinista de mínimos cuadrados lo hace ideal para presentar de
una formacoherente y concisa muchos conceptos y sus interrelaciones.
3. El método de Mínimos Cuadrados Estocástico responde a un
problema de estimación. Como este método posee una
complejidad ligeramente superior al anterior. Aquí no se presentan
conceptos nuevos sólo examinan unos pocos aunque, eso si, con
una mayor profundidad.
4. Se repasan las principales conclusiones
5. Se comentan algunasreferencias útiles para estudiar y
profundizar en el tema.

2

Introducción
El método de Mínimos Cuadrados tiene
una larga historia que se remonta a
principios del siglo XIX.

Ceres

Sol
Carl Friedrich Gauss
[1777- 1855]

Tierra

3

El método de mínimos cuadrados tiene una larga historia que se
remonta a los principios del siglo XIX. En Junio de 1801, Zach, un
astrónomo que Gausshabía conocido dos años antes, publicaba las
posiciones orbitales del cuerpo celeste Ceres, un nuevo “pequeño
planeta” descubierto por el astrónomo italiano G. Piazzi en ese
mismo año. Desafortunadamente, Piazzi sólo había podido
observar 9 grados de su órbita antes de que este cuerpo
desapareciese tras de el sol. Zach publicó varias predicciones de su
posición incluyendo una de Gauss que diferíanotablemente de las
demás. Cuando Ceres fue redescubierto por Zach en Diciembre de
1801 estaba casi exactamente en donde Gauss había predicho.
Aunque todavía no había revelado su método, Gauss había
descubierto el método de mínimos cuadrados. En un trabajo
brillante logró calcular la órbita de Ceres a partir de un número
reducido de observaciones, de hecho, el método de Gauss requiere
sóloun mínimo de 3 observaciones y todavía es, en esencia, el
utilizado en la actualidad para calcular las órbitas.

3

Puntos a Tratar
1. Introducción.
2. Mínimos cuadrados determinista.
2.1. Interpretación geométrica.
2.2. Aumentando el orden de la aproximación.
2.3. Aumentando el número de observaciones.
2.4. Mínimos cuadrados con restricciones.
2.5. Dependencia no lineal.
3. Mínimoscuadrados estocástico.
3.1. Teorema de Gauss-Markov.
3.2. Interpretación Geométrica.
3.3. Teorema de Aitken.
4. Conclusiones.
5. Referencias.
4

En este punto se describe la versión determinista del método de
Mínimos Cuadrados. El orden de presentación es el siguiente.
En primer lugar, se presentan “los personajes de la película”, es
decir, el modelo de generación de los datos juntocon las señales y
variables implicadas.
A continuación, se describe el criterio propuesto, su solución para
el caso de dependencia lineal con los parámetros y, una
interpretación geométrica de ésta que sirve para establecer el
fundamental principio de ortogonalidad.
Las soluciones recursivas del método se describen en base al
concepto de innovación (nueva información) para los casos de...