Redes Neuronales

2.

2.1.

Marco Te´rico
o

Redes Neuronales Artificiales

Las Redes Neuronales Artificiales (RNA) es un paradigma de computaci´n iniciado
o
formalmente en 1943, por el neurofisi´logo Warren McCulloch y el matem´tico Walo
a
ter Pitts en su articulo ”A Logical Calculus of the Ideas Immanent in Nervous Activity”(McCulloch [22]), donde proponen el primer modelo computacional de un sistemaneuronal basado en circuitos el´ctricos. El modelo estaba conformado por simples
e
unidades binarias que pod´ recibir dos tipos de est´
ıan
ımulos de otras unidades o del
exterior. Con este modelo, se inicio la idea de una nueva forma de evaluar funciones
computables. Hoy en d´ existen muchas definiciones de lo que es una RNA, algunas de
ıa
ellas son:
... una red neuronal es un sistemacompuesto por m´ltiples elementos simu
ples de procesamiento, operando paralelamente y cuya funci´n esta determio
nada por la estructura de la red, la conectividad y el procesamiento realizado
en los elementos de computaci´n o nodos.
o
DARPA Neural Network Study (1988, AFCEA International Press, p. 60)
Una red neuronal es un procesador distribuido paralelo que tiene una natural
propensi´n paraalmacenar conocimiento experimental y habilitarlo para se
o
usado. Imita al cerebro en 2 aspectos:
i. El conocimiento es adquirido por la red por medio de un proceso de
aprendizaje.
ii. Los pesos de conexi´n entre neuronas conocidos como pesos sin´pticos,
o
a
son usados para almacenar conocimiento.
Haykin, S.[12]
Una red neuronal es un circuito compuesto por un gran n´mero de elemenutos simples de procesamiento basados en neuronas. Cada elemento opera

2.1 Redes Neuronales Artificiales

solo con informaci´n local. Adem´s cada elemento opera asincr´nicamente;
o
a
o
por lo que no existe un reloj general del sistema.
Zurada, J.M. [43]
La unidades que conforman las RNA en su forma m´s fundamenta reciben el nombre
a
de Perceptrones (figura 2.1) (Minsky [23]) que hacen elpapel de las neuronas en las
Redes Neuronales Biol´gicas (RNB) (figura 2.2)
o

Figura 2.1: Neurona Artificial (Perceptron)

Figura 2.2: Neurona Biologica
La definici´n matem´tica propuesta por McCulloch y Pitts del perceptr´n es como
o
a
o
sigue:
n

y = g(

wi xi )
i=1

22

2.1 Redes Neuronales Artificiales

Donde xi es el estimulo i, wi es el peso de ese estimulo i, g es lafunci´n de activaci´n
o
o
que podr´ estar dada por (2.1),(2.2) o (2.3):
ıa
1 x+t>0
0 x+t≤0

g(x) =

g(x) =

1
(1 +

g(x) =

e−2s(x+t) )

e2(s(x+t))−1
e2(s(x+t))+1

(2.1)

(2.2)

(2.3)

Donde t es el valor de activaci´n de la funci´n y s es la inclinaci´n. Com´nmente las
o
o
o
u
redes neuronales est´n organizadas por capas que pueden ser (1) de entrada, (2) internasa
o escondidas y (3) de salida. Basado en el tipo de conexiones existen dos principales
tipos:
i. FeedFordward. En estas las se˜ales viajan de entrada a salida y las capas internas
n
son actualizadas antes que las de salida.
ii. Recurrentes. En estas existen conexiones entre capas y sus capas anteriores, y en
algunos casos entre perceptrones y ellos mismos.
Basado en el tipo de aprendizajede las RNA, existen dos categor´
ıas:
i. De aprendizaje supervisado. En este tipo de aprendizaje, los pesos de la red son
modificados con base al error encontrado entre el resultado de la red y el resultado
esperado.
ii. De aprendizaje no supervisado. Aqu´ la red actualiza sus pesos con base al patron
ı
de entrada unicamente (Ej: Mapas de Kohonen [18]).
´
En el aprendizaje supervisado, lared actualiza los pesos con el fin de disminuir la
diferencia entre la salida actual y su salida esperada, uno de los algoritmos m´s usados
a
para este tipo de aprendizaje es el de retropropagaci´n.
o
23

2.1 Redes Neuronales Artificiales

Algoritmo de Retropropagaci´n (Backpropagation) Este algoritmo se hizo famoso
o
con el articulo de Rumelhart, Hinton, y McClelland en 1986 [39],...