Visual Basic Con Sql

Introducción a la optimización no lineal
Oscar Alberto Mendoza Coba

1

25 de enero de 2012

1 Departamento

Iztapalapa, México

de Matemáticas Universidad Autónoma Metropolitana 09340,

2

Índice general
1. Modelos de optimización
7
1.1. Introducción . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.2. Algunos modelos de optimización . . . . . . . . . . . . . . . .13
1.3. Ejercicios . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
2. Optimización sin restricciones.
2.1. Un problema de mínimos cuadrados . . . . . . . . . . .
2.2. Condiciones de primer orden . . . . . . . . . . . . . . .
2.3. Condiciones de segundo orden . . . . . . . . . . . . . .
2.4. Funciones cuadráticas . . . . . . . . . . . . . . . . . . .
2.5. Mínimos globales . . .. . . . . . . . . . . . . . . . . .
2.5.1. Funciones coercivas . . . . . . . . . . . . . . . .
2.5.2. Funciones convexas . . . . . . . . . . . . . . . .
2.6. Características generales de los algoritmos de descenso
2.7. Tipo de convergencia . . . . . . . . . . . . . . . . . . .
2.8. Ejercicios . . . . . . . . . . . . . . . . . . . . . . . . .

.
.
.
.
.
.
.
.
.
.

.
.
.
.
..
.
.
.
.

.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.

23
23
25
27
28
35
35
38
40
41
43

3. Métodos de descenso
3.1. Introducción . . . . . . . . . . . . . . . . . . . . . . .
3.2. Búsqueda lineal . . . . . . . . . . . . . . . . . . . . .
3.2.1. Búsqueda lineal no exacta . . . . . . . . . . .
3.2.2. Algoritmo de Armijo . . . . . . . . . . . . . .
3.2.3.Interpolación cuadrática . . . . . . . . . . . .
3.3. Método de máximo descenso . . . . . . . . . . . . . .
3.3.1. Convergencia del método de máximo descenso
3.3.2. Aplicación al caso no lineal . . . . . . . . . . .
3.4. Método de Newton . . . . . . . . . . . . . . . . . . .
3.4.1. Algoritmo de Newton . . . . . . . . . . . . . .

.
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
..
.
.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.
.
.

47
47
51
52
53
54
55
57
60
62
62

3

.
.
.
.
.
.
.
.
.
.

4

ÍNDICE GENERAL
3.4.2. Caso cuadrático . . . . . . . . . . . . .
3.4.3. Caso general . . . . . . . . . . . . . . .
3.4.4. Ejemplos . . . . . . . . . . . . . . . . .
3.4.5. Modificaciones al método de Newton .
3.5. Método de gradienteconjugado . . . . . . . .
3.5.1. Algoritmo de Gradiente Conjugado . .
3.5.2. Algoritmo gradiente conjugado: caso no
3.6. Ejercicios . . . . . . . . . . . . . . . . . . . .

4. Mínimos cuadrados no-lineales
4.1. Ajuste no-lineal . . . . . . . . . .
4.2. Condiciones de primero y segundo
4.3. Método de Gauss-Newton . . . .
4.4. Caso de residuos grandes . . . . .
4.5. Ejercicios . . . . . . . . . .. . .

....
orden
....
....
....

5. Optimización con restricciones
5.1. Introducción . . . . . . . . . . . . . .
5.2. Restricciones de igualdad . . . . . . .
5.3. Caso de restricciones de desigualdad .
5.3.1. Funciones convexas . . . . . .
5.4. Ejercicios . . . . . . . . . . . . . . .

.
.
.
.
.

.
.
.
.
.

....
....
....
....
....
....
lineal
....

.
.
.
..
.
.
.

.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.

.
.
.
.
.
.
.
.

63
64
66
67
68
72
76
78

.
.
.
.
.

.
.
.
.
.

.
.
.
.
.

.
.
.
.
.

.
.
.
.
.

.
.
.
.
.

.
.
.
.
.

.
.
.
.
.

.
.
.
.
.

.
.
.
.
.

.
.
.
.
.

.
.
.
.
.

81
82
84
85
87
88

.
.
.
.
..
.
.
.
.

.
.
.
.
.

.
.
.
.
.

.
.
.
.
.

.
.
.
.
.

.
.
.
.
.

.
.
.
.
.

.
.
.
.
.

.
.
.
.
.

.
.
.
.
.

.
.
.
.
.

89
89
92
103
113
115

.
.
.
.
.
.
.

121
. 121
. 122
. 123
. 124
. 128
. 133
. 134

6. Método de gradiente proyectado
6.1. Método de Newton . . . . . . . . . . . . . . . .
6.1.1. Caso...