Redes neuronales

Tema 8. Redes Neuronales
Pedro Larra˜aga, I˜aki Inza, Abdelmalik Moujahid n n Departamento de Ciencias de la Computaci´n e Inteligencia Artificial o Universidad del Pa´s Vasco–Euskal Herriko Unibertsitatea ı

8.1 Introducci´n o En este tema vamos a introducir el paradigma de redes neuronales artificiales, muy popular dentro de la Inteligencia Computacional. El enfoque que se va a seguir en laintroducci´n del paradigma es fundamentalmente como una herramienta para resolver o problemas de clasificaci´n supervisada. En ning´n momento tratamos de plantear un o u modelo del sistema nervioso de los seres vivos. A lo largo del tema se comienza en la Secci´n 8.2, introduciendo de manera muy o resumida aquellos aspectos mas relevantes de un sistema neuronal artificial, tales como neurona,dendrita, ax´n, sinapsis, funci´n de activaci´n, finaliz´ndose la secci´n o o o a o con la exposici´n de distintos tipos de arquitecturas de redes neuronales. En la Secci´n o o 8.3 se presenta el modelo de red neuronal mas simple, el denominado asociador lineal, incluy´ndose en la secci´n algunas ideas relacionadas con el aprendizaje Hebbiano. e o La Secci´n 8.4 presenta el perceptr´n simple junto con elalgoritmo de aprendizaje o o de pesos propuesto por Rosenblatt (1962) para este modelo de red neuronal. La Secci´n 8.5 introduce la denominada adalina junto con la regla de actualizaci´n de pesos o o propuesta para la misma por Widrow y Hoff (1960). El modelo perceptr´n multicapa o al igual que el algoritmo de retropropagaci´n de error propuesto para el mismo por o vez primera por Werboz (1974) sedesarrollan en la Secci´n 8.6. o 8.2 Sistema Neuronal Artificial Introducci´n biol´gica: o o • 1888 Ram´n y Cajal demuestra que el sistema nervioso est´ compuesto por o a una red de c´lulas individuales, las neuronas, ampliamente interconectadas e entre s´ ı. La informaci´n fluye desde las dendritas hacia el ax´n atravesando el soma. o o • Neurona: 100 · 106 neuronas en el cerebro. ◦ cuerpo celular osoma (de 10 a 80 micras de longitud) ◦ del soma surge un denso arbol de ramificaciones (´rbol dendr´ ´ a ıtico) formado por las dendritas ◦ del soma parte una fibra tubular denominada ax´n (longitud de 100 o micras hasta un metro) ◦ el ax´n se ramifica en su extremo final para conectar con otras neuronas o • Neuronas como procesadores de informaci´n sencillos. De manera simplista: o

1

◦ lasdendritas constituyen el canal de entrada de la informaci´n o ◦ el soma es el organo de c´mputo ´ o ◦ el ax´n corresponde al canal de salida, y a la vez env´ informaci´n a o ıa o otras neuronas. Cada neurona recibe informaci´n de aproximadamente o 10,000 neuronas y env´ impulsos a cientos de ellas ıa ◦ algunas neuronas reciben la informaci´n directamente del exterior o • El cerebro se modela duranteel desarrollo de un ser vivo. Algunas cualidades del ser humano no son innatas, sino adquiridas por la influencia de la informaci´n que del medio externo se proporciona a sus sensores. o Diferentes maneras de modelar el sistema nervioso: ◦ ◦ ◦ ◦ establecimiento de nuevas conexiones ruptura de conexiones modelado de las intensidades sin´pticas (uniones entre neuronas) a muerte o reproducci´nneuronal o

Sistemas artificiales que van a copiar la estructura de las redes neuronales biol´gicas con el fin de alcanzar una funcionalidad similar. o Tres conceptos clave a emular: • procesamiento paralelo, derivado de que los miles de millones de neuronas que intervienen, por ejemplo en el proceso de ver, est´n operando en paralelo a sobre la totalidad de la imagen • memoria distribuida, mientras queen un computador la informaci´n est´ en o a posiciones de memoria bien definidas, en las redes neuronales biol´gicas o dicha informaci´n est´ distribuida por la sinapsis de la red, existiendo una o a redundancia en el almacenamiento, para evitar la p´rdida de informaci´n en e o caso de que una sinapsis resulte da˜ada. n • adaptabilidad al entorno, por medio de la informaci´n de las sinapsis. Por...