Redes neuronales feedforward
Páginas: 35 (8549 palabras)
Publicado: 22 de mayo de 2011
2 REDES NEURONALES CON CONEXIONES HACIA ADELANTE
En este capítulo se presentan las redes con conexiones hacia adelante, las cuales se caracterizan por arquitecturas en niveles y conexiones estrictamente hacia delante entre las neuronas. Estas redes son todas buenos clasificadores y utilizan aprendizaje supervisado. Este grupo incluye el Perceptrón, las redes ADALINE y MADALINE y la red deretropropagación. Las tres primeras redes tienen un importante interés histórico y han abierto el camino para el desarrollo de otras redes neuronales. Por otro lado, la red de retropropagación es probablemente es una de las más utilizadas hoy en día y es la red sobre la que se basa este trabajo.
La figura 2.1 presenta un ejemplo de una red neuronal típica, conocida en la literatura como perceptrónmulti-capas.. La red consta de neuronas de procesamiento (círculos) y canales de flujo de información entre las neuronas llamadas interconexiones. Los rectángulos son neuronas que simplemente almacenan entradas a la red. Cada neurona de procesamiento posee una cantidad limitada de memoria y realiza un cálculo local que transforma las entradas en la salida. Este cálculo se denomina la función deactivación o función transferencial de la neurona. Las funciones transferenciales pueden ser lineales o no y consisten en ecuaciones algebraicas o diferenciales.
Figura 2.1: Ejemplo de un perceptrón con 3 capas de neuronas
En la red mostrada en la figura 2.1, hay 3 capas de neuronas: La capa de entrada, la escondida y la capa de salida. En algunas publicaciones la capa de entrada no se cuenta y desde este punto de vista la red de la figura 2.1 podrá considerarse de 2 capas. No obstante, nosotros adoptaremos la convención de que la capa de entrada se cuente como una más.
2.1 RETROPROPAGACIÓN En 1986, Rumelharth, Hinton y Williams (Rumelharth, 1986), basándose en los trabajos de otros investigadores (Werbos, 1974), (Parker, 1982) formalizaron un método para que una red neuronalaprendiera la asociación que existe entre los patrones de entrada a la misma y las clases correspondientes, utilizando más niveles de neuronas que los que utilizó Rosenblatt para desarrollar el Perceptrón. Este método conocido como el algoritmo de retropropagación (propagación del error hacia atrás), esta basado en la regla delta generalizada. De acuerdo con el estudio que realizamos, existen más de50 tipos de redes neuronales que han sido estudiadas y/o usadas en una gran diversidad de aplicaciones. Sin embargo, quizás la más extendida y utilizada para la identificación de procesos dinámicos y su control es la llamada red de retropropagación, que es la que expondremos a continuación.
Una red de retropropagación típica puede esquematizarse tal como se muestra en la figura 2.1. Elconcepto de retropropagación se refiere a un método de entrenamiento de la red y por extensión se le llama “red de retropropagación” a aquella que se entrena mediante dicho método. Es conveniente aclarar que el método o algoritmo de retropropagación no es el único existente en la actualidad, no obstante, puede afirmarse que este método y sus modificaciones han sido los más exitosos en la solución de unagran diversidad de problemas prácticos. Entre las aplicaciones de este tipo de red podemos citar: - Reconocimiento y síntesis de voz (Elman, 1987) - Reconocimiento de patrones visuales o imágenes (Rumelhart, 1986) - Análisis de señales de sonar (Gorman, 1988) - Aplicaciones en la defensa (Castelaz, 1988) - Diagnóstico médico (Bounds, 1988) - Control de columnas de destilación y otros procesos(Birky, 1990)
La red de retropropagación es un tipo de red neuronal que es capaz de desarrollar una aproximación tan fina como se quiera de cualquier función no-lineal y = f ( x) , a partir de un conjunto de pares de ejemplo x, y . Este método es una generalización de la ley de aprendizaje por el descenso más rápido presentada por (Widrow y Hoff, 1960) que analizaron una red neuronal de dos...
En este capítulo se presentan las redes con conexiones hacia adelante, las cuales se caracterizan por arquitecturas en niveles y conexiones estrictamente hacia delante entre las neuronas. Estas redes son todas buenos clasificadores y utilizan aprendizaje supervisado. Este grupo incluye el Perceptrón, las redes ADALINE y MADALINE y la red deretropropagación. Las tres primeras redes tienen un importante interés histórico y han abierto el camino para el desarrollo de otras redes neuronales. Por otro lado, la red de retropropagación es probablemente es una de las más utilizadas hoy en día y es la red sobre la que se basa este trabajo.
La figura 2.1 presenta un ejemplo de una red neuronal típica, conocida en la literatura como perceptrónmulti-capas.. La red consta de neuronas de procesamiento (círculos) y canales de flujo de información entre las neuronas llamadas interconexiones. Los rectángulos son neuronas que simplemente almacenan entradas a la red. Cada neurona de procesamiento posee una cantidad limitada de memoria y realiza un cálculo local que transforma las entradas en la salida. Este cálculo se denomina la función deactivación o función transferencial de la neurona. Las funciones transferenciales pueden ser lineales o no y consisten en ecuaciones algebraicas o diferenciales.
Figura 2.1: Ejemplo de un perceptrón con 3 capas de neuronas
En la red mostrada en la figura 2.1, hay 3 capas de neuronas: La capa de entrada, la escondida y la capa de salida. En algunas publicaciones la capa de entrada no se cuenta y desde este punto de vista la red de la figura 2.1 podrá considerarse de 2 capas. No obstante, nosotros adoptaremos la convención de que la capa de entrada se cuente como una más.
2.1 RETROPROPAGACIÓN En 1986, Rumelharth, Hinton y Williams (Rumelharth, 1986), basándose en los trabajos de otros investigadores (Werbos, 1974), (Parker, 1982) formalizaron un método para que una red neuronalaprendiera la asociación que existe entre los patrones de entrada a la misma y las clases correspondientes, utilizando más niveles de neuronas que los que utilizó Rosenblatt para desarrollar el Perceptrón. Este método conocido como el algoritmo de retropropagación (propagación del error hacia atrás), esta basado en la regla delta generalizada. De acuerdo con el estudio que realizamos, existen más de50 tipos de redes neuronales que han sido estudiadas y/o usadas en una gran diversidad de aplicaciones. Sin embargo, quizás la más extendida y utilizada para la identificación de procesos dinámicos y su control es la llamada red de retropropagación, que es la que expondremos a continuación.
Una red de retropropagación típica puede esquematizarse tal como se muestra en la figura 2.1. Elconcepto de retropropagación se refiere a un método de entrenamiento de la red y por extensión se le llama “red de retropropagación” a aquella que se entrena mediante dicho método. Es conveniente aclarar que el método o algoritmo de retropropagación no es el único existente en la actualidad, no obstante, puede afirmarse que este método y sus modificaciones han sido los más exitosos en la solución de unagran diversidad de problemas prácticos. Entre las aplicaciones de este tipo de red podemos citar: - Reconocimiento y síntesis de voz (Elman, 1987) - Reconocimiento de patrones visuales o imágenes (Rumelhart, 1986) - Análisis de señales de sonar (Gorman, 1988) - Aplicaciones en la defensa (Castelaz, 1988) - Diagnóstico médico (Bounds, 1988) - Control de columnas de destilación y otros procesos(Birky, 1990)
La red de retropropagación es un tipo de red neuronal que es capaz de desarrollar una aproximación tan fina como se quiera de cualquier función no-lineal y = f ( x) , a partir de un conjunto de pares de ejemplo x, y . Este método es una generalización de la ley de aprendizaje por el descenso más rápido presentada por (Widrow y Hoff, 1960) que analizaron una red neuronal de dos...
Leer documento completo
Regístrate para leer el documento completo.