Redes neuronales

REDES NEURONALES ARTIFICIALES: TEORIA, APLICACIONES E IMPLEMENTACIONES. [Este capítulo presenta un caso único en el sentido de que las fuentes fueron restringidas. El contenido se basa primordialmente de el manual del módulo de Redes Neuronales de MATLAB].

Capítulo 3: Redes Lineales. Las redes que veremos en este capítulo varian con las del capítulo anterior en que tienen una función deactivación lineal. Esto permite que las salidas puedan tener un valor continuo en lugar de bivalente como en el caso del perceptron. Otro elemento importante es que la regla de aprendizaje respectiva (la regla Widrow-Hoff, regla de mínimos cuadrados o regla delta) ajusta los pesos (y elementos de tendencia -biases-) proporcionalmente a el valor del error, no solo cuando se detecta su presencia. En estecapítulo se van a atacar basicamente dos problemas. En primer lugar, queremos diseñar una red lineal que, al ser presentada con un conjunto dado de entradas, dé como salidas los vectores deseados correspondientes. Para cada vector de entrada se calculará el vector de salida. La diferencia entre el vector de salida y el vector de salida deseado es el error. Se estarán buscando velores para lospesos y elementos de tendencia tales que la suma de los cuadrados de los errores se minimise o este bajo un nivel de tolerancia pre-establecido. Los sistemas lineales tienen un mínimo único en el espacio del error, por lo tanto el problema de entrenamiento no es tan grave. En la mayoría de los casos los valores de convergencia se pueden calcular directamente de las entradas y salidas deseadas. Haycasos en los que se dan problemas numéricos que dificultan esta tarea. Afortunadamente, existen herramientas (el algoritmo Widrow-Hoff) con las que siempre se puede encontrar un error mínimo para el problema. El segundo problema es la necesidad común de entrenar una red dinámicamente, es decir, que el sistema responda de manera continua a cambios en el ambiente de operación. A este tipo de sistemasse le conoce como adaptivo. Este problema puede ser resuelto gracias a que el tiempo de entrenamiento es generalmente suficientemente corto para permitir entrenamiento a cada paso basándose en vectores de entrada y deseados nuevos.

1

Un trabajo pionero en ésta área se debe a Widrow y Hoff, quienes nombraron sus sistemas adaptivos lineales ADELINE. Estas redes con usualmente utilizadas enprocesamiento de señales, control y sistemas de predicción. Una referencia basica en ésta área es: [B. Widrow and S.D. Sterns, Adaptive Signal Processing, New York. Prentice-Hall 1985.]

Una neurona con dos entradas y función de activación lineal se muestra en la figura 3.1. Tal como al final del capítulo anterior, el término de tendencia (bias) se utiliza como variable extra de ajuste para obtenerla respuesta deseada de la red. El valor del término de tendencia se obtiene como si fuera un peso más, tal como se vió en el capítulo pasado

Fig. 3. 1 Esquema de una red lineal.

Una neurona lineal se puede entrenar para aprender funciones lineales o puede ser utilizada para encontrar una aproximación lineal a una función no lineal. Una red lineal, por supuesto, no puede ejecutar unacomputación no lineal. Arquitectura de la red. Es posible diseñar un red lineal con varias neuronas del tipo de la que se muestra en la fig. 3.1. A este tipo de red se le ha llamado también MADELINE, por ser Muchas ADELINE. La regla de entrenamiento Widrow-Hoff, sólo puede entrenar redes de una sola capa de procesamiento, sin embargo ésto no es una desventaja muy grande. Se puede demostrar (inclusovislumbrar) que una red

2

lineal de varias capas siempre tiene un equivalente de una sola capa. De hecho lo único que se lograría con capas multiples sería una operación de multiplicación a los resultados de una sola capa, lo que implica multiplicar por cierto factor los resultados de la capa única. La figura 3.2 muestra una red lineal de multiples neuronas. Ahora se adopta la notación que...