Avances Tecnógicos

Algoritmos Genéticos
Dr. Ricardo Pérez Aguila

Entrenamiento de una Red Neuronal de Retropropagación mediante Algoritmos Genéticos para la identificación de parámetros autorregresivos en una señal

Rolando Pedro Gabriel

Planteamiento del problema
Dado un modelo matemático para generar una serie de tiempo (Fig. 1) de M-ésimo orden de parámetros autorregresivos está dado por: = , + = 1,2,… , >

=

Donde:
M: orden del modelo. ak: k-ésimo parámetro autorregresivo, constante, k = 1, 2, … , M. ck: k-ésima muestra, constante de la serie de tiempo para t = k, k = 1, 2, … , M xk: muestra de la serie de tiempo en t = n. noise(n): ruido o perturbación a aplicar a la muestra de la serie de tiempo en t = n.

Figura 1. Señal generada por la ecuación anterior.

Objetivo: Entrenar unaRed Neuronal de Retropropagación (NNB) mediante Algoritmos Genéticos (AG), de tal manera que la red genere un conjunto de N puntos (señal) que se aproxime a la serie de tiempo generada por la ecuación anterior.

Datos de entrada para generar la señal (Fig. 1)

M=6 ak = { 5.10, 0.05, -0.34, -0.01, 0.01, 0.01 }; ck = { -1, 3, 6, -1, -4, -3 }; n = 100;

Solución mediante Algoritmos Genéticos(AG)
Individuos de la población Una población está compuesta por un conjunto de redes NNB, donde un individuo se representa como una red NNB (Fig. 3). Cabe mencionar que la población de redes NNB tienen la misma topología (Fig. 2).

Función de adaptación La función de adaptación se calcula mediante la siguiente fórmula: " != #
# % "

$% − '%

(

El objetivo del algoritmo genético esencontrar proponer una red NNB que minimice a E. Proceso de selección Calcular la adaptación de los individuos y ordenar del mejor al peor. • • • Opción 1: realizar cruzamiento sobre toda la población, sin preservar individuos. Opción 2: Seleccionar )′ individuos de la población para reproducirse, tales )′ individuos se reincorporan a la siguiente generación. Opción 3: Seleccionar )′ individuos paraclonación, tales )′ individuos se reincorporan a la siguiente generación.

Proceso de mutación
Sustituir por un valor aleatorio entre [ -1, 1 ] cada uno de los pesos de las neuronas dada una probabilidad de 0.1, de lo contrario no se realiza ningún cambio.

Experimento I: Proceso de selección (Opción 1)

Datos de entrada para el proceso genético
Tamaño de la población = 200 Numero deiteraciones = 2000

Datos de entrada para el proceso para la red de retropropagación
Neuronas en la capa de entrada = 6 Capas ocultas = 2 Neuronas en la capa oculta 1 = 3 Neuronas en la capa oculta 2 = 3 Neuronas en la capa de salida = 1 Rango de inicialización de pesos = [ -1, 1 ] Función de activación: Identidad Adaptación Final: 1.2396066575383238

Figura 4. Comportamiento de la señal originaly la obtenida por la red.

Figura 5. Promedio de adaptación del AG (Izquierda) y la topología de la red (Derecha).

4

Experimento I: Proceso de selección (Opción 1)

Datos de entrada para el proceso genético
Tamaño de la población = 500 Numero de iteraciones = 2000

Datos de entrada para el proceso para la red de retropropagación
Neuronas en la capa de entrada = 6 Capas ocultas = 3Neuronas en la capa oculta 1 = 2 Neuronas en la capa oculta 2 = 2 Neuronas en la capa oculta 3 = 2 Neuronas en la capa de salida = 1 Rango de inicialización de pesos = [ -1, 1 ] Función de activación: Identidad Adaptación Final: 0.9887720604232078

Figura 6. Comportamiento de la señal original y la obtenida por la red.

Figura 7. Promedio de adaptación del AG (Izquierda) y la topología de lared (Derecha).

5

Experimento I: Proceso de selección (Opción 1)

Datos de entrada para el proceso genético
Tamaño de la población = 100 Numero de iteraciones = 2000

Datos de entrada para el proceso para la red de retropropagación
Neuronas en la capa de entrada = 6 Capas ocultas = 1 Neuronas en la capa oculta 1 = 3 Neuronas en la capa de salida = 1 Rango de inicialización de pesos = [...