Neuronas artificiales
Páginas: 5 (1230 palabras)
Publicado: 17 de marzo de 2011
#Titulo: Madaline
#Autor: Juan Carlos García Cotillo
#EI
% Introduccion.
Antes de hablar de Madaline debemos explicar lo que es un Adaline, y para ello primero hablaremos del perceptron. El perceptron es una estructura computacional basada en el modelo de McCulloc y Pitts, se trata de un nodo al que se conectan varias señales de entrada y genera una salida binaria, cada entrada posee unpeso sinaptico que multiplica el valor de entrada, todos los valores son procesados segun la funcion de red que simplemente los suma y el resultado pasa a una funcion de transferencia que origina un valor binario, el algoritmo de entrenamiento se suele basar en el LMS (Least-Mean-Squared Error o Minimo error cuadratico medio) que va reduciendo el error hasta un margen tolerable. La estructura delAdaline es muy similar a la del Perceptron salvo k incluye una entrada bias, la entrada bias es binaria y toma siempre el valor 1, 1 o -1 segun se active o no la entrada. Madaline(Many Adalines) consiste en varios Adalines interconectados mediante una estructura variable organizada en varias capas, al menos una capa de entrada y una de salida, pudiendo haber una o varias capas ocultas entra la deentrada y la de salida.
#Imagen: perceptron.jpg
#Imagen: Adaline.jpg
% ALGORITMO DE APRENDIZAJE MRII.
Este algoritmo, basado en LMS, permite entrenar de forma ordenada una red multicapa mediante un proceso casi aleatorio. Utiliza un método tipo prueba y fallo basado en un principio de mínima perturbación y a diferencia del LMS no puede ser resuelto matemáticamente.
El principio demínima perturbación establece que aquellos elemento del procesado que puedan modificar el error de salida y que sufran los cambios más pequeños en sus pesos deberían ser prioritarios a la hora de realizar el proceso de aprendizaje.
Podemos dividir el algoritmo en los siguientes pasos.
1. Se aplica un vector de entrada a la red MADALINE y se hace que se propague a los nodos de salida.
2. Secuenta el número de valores incorrectos resultantes en la capa de salida, es decir, los errores.
3. Aplicamos el siguiente proceso para cada nodo de la salida.
3.1. Seleccionamos la primera neurona que no haya sido seleccionada anteriormente cuya salida lineal es más próxima a cero. Esta será la neurona que puede cambiar su salida binaria con el menor cambio en sus pesos y, según el principiode mínima perturbación, debe tener prioridad en el proceso de aprendizaje como ya indicamos anteriormente.
3.2. Se cambian los pesos de dicha neurona de tal modo que cambie su salida binaria.
3.3. Se hace que se propague el vector de entradas desde las entradas hasta las salidas de la red de nuevo.
3.4. Damos por apto el cambio de pesos si éste da lugar a una reducción de error.
4.Repetimos el paso 3 para todas las capas, excepto la de salida.
5. Para cada nodo de la capa de salida.
5.1. Seleccionamos el par de neuronas no seleccionado con anterioridad cuyas salidas estén más próximas a cero.
5.2. Aplicamos una corrección de los a ambas neuronas para modificar el valor de la salida.
5.3. Hacemos que se propague hacia delante el vector de entradas, desde lasentradas hasta las salidas.
5.4. Se admite el cambio de pesos si reduce el error. En tal caso se restauran los pesos originales.
6. Repetimos el paso 5 para el resto de capas excepto para la capa de entrada.
Los pasos 5 y 6 se pueden repetir con grupos de tres, cuatro o más neuronas hasta conseguir un resultado óptimo.
% Extructura.
Existen ciertos patrones que se suelen seguir a la hora decrear una RNA, estos patrones ayudan a organizar la red y a hacer un seguimiento de su evolucion y entrenamiento.
Estos patrones organizan las redes en capas, suelen clasificarse en tres categorias, capa de entrada, capa oculta y capa de salida.
Capa de entrada, segun el diseño cada elemento de esta capa puede recibir una unica señal de entrada y transmitirla a uno o mas elementos de la...
#Autor: Juan Carlos García Cotillo
#EI
% Introduccion.
Antes de hablar de Madaline debemos explicar lo que es un Adaline, y para ello primero hablaremos del perceptron. El perceptron es una estructura computacional basada en el modelo de McCulloc y Pitts, se trata de un nodo al que se conectan varias señales de entrada y genera una salida binaria, cada entrada posee unpeso sinaptico que multiplica el valor de entrada, todos los valores son procesados segun la funcion de red que simplemente los suma y el resultado pasa a una funcion de transferencia que origina un valor binario, el algoritmo de entrenamiento se suele basar en el LMS (Least-Mean-Squared Error o Minimo error cuadratico medio) que va reduciendo el error hasta un margen tolerable. La estructura delAdaline es muy similar a la del Perceptron salvo k incluye una entrada bias, la entrada bias es binaria y toma siempre el valor 1, 1 o -1 segun se active o no la entrada. Madaline(Many Adalines) consiste en varios Adalines interconectados mediante una estructura variable organizada en varias capas, al menos una capa de entrada y una de salida, pudiendo haber una o varias capas ocultas entra la deentrada y la de salida.
#Imagen: perceptron.jpg
#Imagen: Adaline.jpg
% ALGORITMO DE APRENDIZAJE MRII.
Este algoritmo, basado en LMS, permite entrenar de forma ordenada una red multicapa mediante un proceso casi aleatorio. Utiliza un método tipo prueba y fallo basado en un principio de mínima perturbación y a diferencia del LMS no puede ser resuelto matemáticamente.
El principio demínima perturbación establece que aquellos elemento del procesado que puedan modificar el error de salida y que sufran los cambios más pequeños en sus pesos deberían ser prioritarios a la hora de realizar el proceso de aprendizaje.
Podemos dividir el algoritmo en los siguientes pasos.
1. Se aplica un vector de entrada a la red MADALINE y se hace que se propague a los nodos de salida.
2. Secuenta el número de valores incorrectos resultantes en la capa de salida, es decir, los errores.
3. Aplicamos el siguiente proceso para cada nodo de la salida.
3.1. Seleccionamos la primera neurona que no haya sido seleccionada anteriormente cuya salida lineal es más próxima a cero. Esta será la neurona que puede cambiar su salida binaria con el menor cambio en sus pesos y, según el principiode mínima perturbación, debe tener prioridad en el proceso de aprendizaje como ya indicamos anteriormente.
3.2. Se cambian los pesos de dicha neurona de tal modo que cambie su salida binaria.
3.3. Se hace que se propague el vector de entradas desde las entradas hasta las salidas de la red de nuevo.
3.4. Damos por apto el cambio de pesos si éste da lugar a una reducción de error.
4.Repetimos el paso 3 para todas las capas, excepto la de salida.
5. Para cada nodo de la capa de salida.
5.1. Seleccionamos el par de neuronas no seleccionado con anterioridad cuyas salidas estén más próximas a cero.
5.2. Aplicamos una corrección de los a ambas neuronas para modificar el valor de la salida.
5.3. Hacemos que se propague hacia delante el vector de entradas, desde lasentradas hasta las salidas.
5.4. Se admite el cambio de pesos si reduce el error. En tal caso se restauran los pesos originales.
6. Repetimos el paso 5 para el resto de capas excepto para la capa de entrada.
Los pasos 5 y 6 se pueden repetir con grupos de tres, cuatro o más neuronas hasta conseguir un resultado óptimo.
% Extructura.
Existen ciertos patrones que se suelen seguir a la hora decrear una RNA, estos patrones ayudan a organizar la red y a hacer un seguimiento de su evolucion y entrenamiento.
Estos patrones organizan las redes en capas, suelen clasificarse en tres categorias, capa de entrada, capa oculta y capa de salida.
Capa de entrada, segun el diseño cada elemento de esta capa puede recibir una unica señal de entrada y transmitirla a uno o mas elementos de la...
Leer documento completo
Regístrate para leer el documento completo.