Investigacion de operaciones

MÍNIMOS CUADRADOS
Ö Hay

varias maneras de abordar el método de mínimos cuadrados. Aquí se aborda desde el punto de vista geométrico. Para ello se introducen tres conceptos básicos: Norma, Producto interno y Proyección Ortogonal. ¿Qué es una norma?

Ö Una

de las ideas geométricas más sencillas y útiles ha sido la idea de “tamaño”, “magnitud” o “distancia”, que al ser trasladada alcontexto de espacio vectorial se convierte en el concepto de norma.

Ö Producto

interno en Rn.- Siendo x,y dos vectores en Rn, el producto interno denotado es el escalar xyt, es decir: = xyt = x1y1+x2y2+...+xnyn

ð Observaciones: - Como puede verse, en Rn el producto interno es conmutativo, ya que xyt = xty = - Sin embargo en Cn el producto interno se define como =xy* por lo tanto =< x, y >
ÖNormas

de vectores en Rn.- Sea x un vector en Rn. Existen varias maneras de definir la norma de x, denotada yxy, sin embargo, el producto interno siempre induce una definición de norma, como sigue:
- Min. Cuad. 1 -

yxy = 1/2 ð Observaciones: - Como puede verse, La norma nunca es negativa y sólo es cero si x es el vector cero. - De acuerdo a la definición, la norma se calcula componente acomponente como yxy = x 2 + x 2 + ... + x 2 n 1 2 Que como puede verse corresponde a la longitud clásica de un vector en Rn
Ö Proyección

ortogonal.- Siendo x,y dos vectores en Rn, si buscamos la proyección ortogonal p del vector x sobre el y, esta proyección debe ser un múltiplo de y (por ser colineal con y) ver figura, es decir x=ky, (k escalar).
x
x-p
90°

y

p=ky

Este escalar es k=
Ö Ángulo

< x, y > . y y y2

entre dos vectores.- Por extensión al caso en R2 y R3 el ángulo entre dos vectores x, y en general se define como el escalar θ tal que: < x, y > cosθ= . y x yy y y
- Min. Cuad. 2 -

Ö Ortogonalidad.-

Dos vectores x, y se dicen ortogonales si = 0 y además se dicen ortonormales si son unitarios, es decir, yxy = yyy=1.

Ejemplo: Sean los vectores en R3:x=[1 1 0], y= [1 0 1]. Producto interno: =1x1+1x0+0x1=1 norma de x: yxy =(12+12+02)1/2= 2 norma de y: yyy =(12+02+12)1/2= 2 Ángulo θ = cos-1(1/2)=60° Proyección de x sobre y: p=(1/2)[1 0 1]=[ 1 , 0, 1 ] 2 2 Además como es de esperarse x-p es ortogonal a y (y por supuesto, también a p: x-p=[ 1 , 1, − 1 ] 2 2 = 1x0.5+0x1+1x(-0.5) = 0 = 0.5x0.5+0x1+0.5x(-0.5) = 0 Representación geométrica:
x2 x60°

1

p x1 1 y

1

x3

Ö Otras

normas.- Existen otras maneras de definir normas y productos internos en Rn que no se mencionarán aquí, sin embargo, una familia importante de normas son las normas lp definidas como sigue: y x yp = S x xi xp
i=1 n
1 p

Como puede verse la norma l2 también llamada norma Euclideana corresponde a la definida en la sección anterior.
- Min. Cuad. 3 -: En Matlab:
» % Se introducen los vectores del ejemplo anterior: » x=[1 1 0]; y=[1 0 1]; » % Se calcula el producto interno » x*y' ans = 1 » % Se calcula la norma l2 de x » norm(x) ans = 1.4142 » % Se calcula la norma l2 de y » norm(y) ans = 1.4142 » % Se calcula la norma l1 de x » norm(x,1) ans = 2 » % Se calcula la norma l∞ de x » norm(x,inf) ans = 1 » % Se calcula la proyección ortogonal dex sobre y » p=(x*y')/norm(y)^2*y p = 0.5000 0 0.5000 » % Se verifica que x-p es ortogonal a y » y*(x-p)' ans = 2.2204e-016 » % (resultado cero para la exactitud manejada) » % Se verifica que x-p es ortogonal a p » p*(x-p)' ans = 1.1102e-016

@Tarea: Repetir el ejercicio anterior para los vectores x=[1 -1 0], y=[1 1 1] Solución del sistema Ax=b
Ö La

condición para la solución exacta delsistema de n ecuaciones lineales con m incógnitas Ax=b donde A es una matriz n×m se expresa fácilmente diciendo que “b debe estar en el espacio columna de A”, dado que el producto Ax es una CL de columnas de A.
- Min. Cuad. 4 -

Ö Si

el vector b no cumple con la condición anterior el sistema Ax=b NO tiene solución exacta. Sin embargo queda la posibilidad de buscar una solución aproximada....