Comparación sistemática entre los metodos de entrenamiento del perceptrón multicapa

(
Comparación Sistemática entre los Métodos de Entrenamiento del Perceptrón Multicapa
Álvaro Andrés Navarro Pérez Cod. 63654, profesor Pablo Andrés Muñoz Gutiérrez

Resumen— Este artículo se centra en la comparación de los diferentes métodos de entrenamiento del Perceptrón Multicapa para la clasificación de los caracteres manuscritos (números y letras). Se modificarán algunos parámetrosque son de relativa importancia para las redes multicapa como son el número de capas ocultas y la cantidad de neuronas por cada capa, así como la rata de aprendizaje y el momento que son característicos de todos los métodos. Al final se mostrarán unas tablas donde se identificarán los métodos que mejor rendimiento tengan.

Palabras claves—Algoritmo, entrenamiento, perceptrón multicapa,pruebas.

INTRODUCCIÓN

L
AS redes neuronales, o las redes neuronales artificiales son precisas para representar una tecnología que está apoyada en varias disciplinas: la neurociencia, matemáticas, física estadística, ciencia computacional y la ingeniería. Las redes neuronales encuentran aplicaciones en diversos campos como son el modelado, análisis de series de tiempo, reconocimiento depatrones, procesamiento de señales y el control por la virtud de un importante parámetro: la habilidad de aprender de los datos de entrada de forma supervisada o no supervisada [1].
Una propiedad importante que brindan las redes neuronales es que tienen el poder de Generalización el cual se refiere a que la red produzca una salida razonable para un conjunto de datos de entrada nunca antes visto en elentrenamiento. El uso de Redes Neuronales ofrece las siguientes propiedades útiles vistan en: la no linealidad, el mapeo de entrada – salida, la adaptatividad, la respuesta evidencial, la información contextual, la tolerancia a fallos, etc.
Hoy en día con el avance de la tecnología, se han creado herramientas computacionales capaces de simular el comportamiento de estas redes con un altoporcentaje de eficiencia sin olvidar que las limitaciones en procesamiento de debe a la capacidad de memoria de los ordenadores. Para la clasificación de patrones se ha comprobado una buena respuesta utilizando los distintos métodos de las redes multicapas como son: el gradiente descendente, con momentum, con rata de aprendizaje variable, conjugado, el Quasi-Newton, Levenberg-Marquartd entre otros.algoritmo utilizado en las redes multicapas

El primer algoritmo desarrollado para las redes multicapas fue el Backpropagation o algoritmo de propagación inversa cuya propiedad es que aprovecha la naturaleza paralela de las redes neuronales para reducir el tiempo requerido por un procesador secuencial para determinar la correspondencia entre unos patrones dados.
El Backpropagation es un tipode red de aprendizaje supervisado que emplea un ciclo propagación – adaptación de dos fases. Una vez aplicado un patrón a la entrada de la red como estímulo, éste se propaga desde la primera capa a través de las capas superiores, hasta generar una salida, como puede verse en la fig.1. La señal de salida se compara con la salida deseada y se calcula una señal de error para cada una de lassalidas.

[pic]
FIG.1 Estructura de la red multicapa

La regla de aprendizaje se basa en una generalización del algoritmo LMS o error mínimo cuadrático donde su principal objetivo es buscar por medio del gradiente la dirección donde se encuentra el mínimo global o mínimos locales de la superficie de error.
Las ecuaciones que representan la actualización de pesos y bias en cada una de las capasde la red están dadas por:

[pic]
De (1) se puede ver [pic]corresponde a los pesos de cada una de las entradas a las neuronas j de la capa oculta, [pic] es la rata de aprendizaje y [pic]es el error producido por las neuronas j de la capa oculta de igual forma para la capa de salida.

métodos utilizados en las redes multicapas

Debido a que al algoritmo de Backpropagation es de fácil...