Redes neuronales

ENTRENAMIENTO DE REDES NEURONALES BASADO EN ALGORITMOS EVOLUTIVOS

TESIS DE GRADO EN INGENIERÍA INFORMÁTICA

FACULTAD DE INGENIERÍA UNIVERSIDAD DE BUENOS AIRES TESISTA: Sr. Luis Federico Bertona DIRECTORES: Prof. Dr. Ramón García Martínez Prof. M. Ing. Paola Britos Laboratorio de Sistemas Inteligentes NOVIEMBRE 2005

ENTRENAMIENTO DE REDES NEURONALES BASADO EN ALGORITMOS EVOLUTIVOSTESIS DE GRADO EN INGENIERÍA INFORMÁTICA

Laboratorio de Sistemas Inteligentes FACULTAD DE INGENIERÍA UNIVERSIDAD DE BUENOS AIRES

Sr. Luis Federico Bertona Tesista

Dr. Ramón García Martínez M. Ing. Paola Britos Directores

NOVIEMBRE 2005

Resumen
En este trabajo se estudia un método alternativo para el entrenamiento de redes neuronales con conexión hacia delante. Una vez determinadala topología de la red neuronal se utiliza un algoritmo genético para ajustar los pesos de la red neuronal. Se evalúan diferentes variantes de los operadores genéticos para el entrenamiento de las redes neuronales. Los resultados obtenidos por el algoritmo genético son contrastados con los resultados obtenidos por el algoritmo de retropropagación de errores. Palabras claves: Computaciónevolutiva, redes neuronales, algoritmos genéticos, entrenamiento, retropropagación.

Abstract
In this work an alternative method to train feedforward neural networks is studied. Once the topology of the neural network is determined, a genetic algorithm is used to adjust the neural network’s weights. Different variations of the genetic operators to train neural networks are evaluated. The resultsreached by the genetic algorithm are contrasted with the results reached by the Backpropagation Algorithm. Keywords: Evolutionary computation, neural networks, genetic algorithms, train, Backpropagation.

Entrenamiento de redes neuronales basado en algoritmos evolutivos

Índice de contenidos
Capítulo 1: Introducción..................................................................................... 1 1.2. Organización de esta tesis....................................................................... 2 Capítulo 2: Redes neuronales ............................................................................ 5 2.1. El modelo biológico.................................................................................. 5 2.2. Estructura de un sistema neuronal artificial............................................. 6 2.3. Modelo de neurona artificial..................................................................... 7 2.3.1. Entradas y salidas ............................................................................. 8 2.3.2. Pesos sinápticos ............................................................................... 8 2.3.3. Regla de propagación....................................................................... 8 2.3.4. Función de activación........................................................................ 9 2.3.5. Función de salida .............................................................................. 9 2.4. Arquitectura de una red neuronal .......................................................... 10 2.5.Aprendizaje............................................................................................ 10 2.5.1. Fase de entrenamiento. .................................................................. 10 2.5.2. Fase de operación........................................................................... 11 2.6. Redes neuronales con conexión hacia delante ..................................... 11 2.6.1.Perceptrón....................................................................................... 12 2.6.2. ADALINE / MADALINE.................................................................... 12 2.6.3. Perceptrón multicapa ...................................................................... 13 Capítulo 3: Entrenamiento de redes neuronales .............................................. 15 3.1. Métodos de gradiente...