electronik

Fundaci´n Universitaria Los Libertadores
o
Facultad de Ingenier´ Ingenieria Electr´nica
ıa,
o
Inteligencia Computacional

Entrenamiento de Redes Neuronales
1

Objetivos

1.1

Objetivo General

Construir y entrenar una red neuronal b´sica para tareas de reconocimiento de patrones.
a

1.2

Objetivos Espec´
ıficos

§ Crear una arquitectura de red neuronal basada en redesfeedforward para reconocimiento de
patrones
§ Hacer uso de las instrucciones del Toolbox de MATLAB para entrenamiento de redes neuronales
§ Crear un conjunto de datos de entrenamiento adecuado para la red
§ Analizar las diversas formas de entrenamiento de la red fij´ndose en la velocidad de aprendizaje1 ,
a
complejidad de la tarea para la red, y dem´s.
a
§ Variar par´metros de la red como n´merode capas, n´mero de neuronas por capa, interconexi´n
a
u
u
o
de capas, entre otros anotando las diferencias obtenidas.

2

Introducci´n
o

En este documento se presenta un ejemplo completamente resuelto de la creaci´n y entrenamiento de
o
redes neuronales para clasificaci´n de patrones. La primera parte del documento establece el concepto
o
b´sico de lo que es el modelo de una redneuronal dejando al lector interesado el trabajo de profundizar
a
sobre dichos conceptos, consultando la bibliograf´ al final del documento por ejemplo.
ıa
Luego de esto se plantea el problema a resolver por la red, el cual el el reconocimiento de d´
ıgitos
entre el 0 y el 9 y el cual est´ basado en un ejemplo resuelto en Matlab acerca de reconocimiento de
a
caracteres, la diferencia coneste radica en la forma en como se crea la red, y la versatilidad que le
permite al estudiante al momento de experimentar con los par´metros de na red neuronal.
a
Finalmente se dejan unos ejercicios para incitar la curiosidad del estudiante en cuanto al estudio de
este tipo de redes neuronales. Cabe aclarar que las instrucciones del Toolbox son tomadas del Release
R2013b de MATLAB, paraversiones anteriores o posteriores del Toolbox, dir´
ıjase a la documentaci´n
o
sobre el mismo; pese a esto, la forma de dise˜o es independiente del Toolbox, ´ste solo hace las veces
n
e
de herramienta de implementaci´n.
o

3

Dise˜ o de una red neuronal b´sica
n
a

La arquitectura de la red es la mostrada en la figura 1 a continuaci´n. En la misma se tiene, siguiendo a
o
[3], que p = [p1, p2 , . . . , pR ] ∈ RR es el vector de datos de entrada, y es un vector de R componentes,
W es la llamada matriz de pesos cuyas entradas son n´meros en intervalo [0, 1] y representan la
u
intensidad de la entrada asociada a dicho peso. En una red neuronal compuesta de capas de varias
neuronas existen tantas filas de W como neuronas en dicha capa, y las columnas representan los pesos
paracada neurona. Adicional a esto, a cada neurona le es asociado un valor de umbral denominado
valor bias, luego una capa de S neuronas posee un vector de bias b = [b1 , b2 , . . . , bS ].
1 V´se
e

en la literatura como tasa de aprendizaje, convergencia de redes neuronales.

1

Figura 1: Arquitectura de una red neuronal. Fuente: [8]
Expresado matem´ticamente se tiene entonces que:
a






n1
n2
.
.
.
nS






S×1



ω1,1
 ω2,1

= .
 .
.
ωS,1

ω1,2
ω2,2
.
.
.
ωS,2

n = Wp + b


. . . ω1,R

. . . ω2,R 



. 
..
. 

.
.
. . . ωS,R S×R

(1)
p1
p2
.
.
.
pR












+


R×1

b1
b2
.
.
.
bS







(2)

S×1

Finalmente, el vector n es evaluado en lafunci´n de activaci´n de la neurona (o de la capa de neuronas
o
o
seg´n sea el caso) y el resultado es la salida Ann de la capa de la red. Es decir, Ann = fAN N (n).
u
Como se mencionaba en clase, dentro de las funciones de activaci´n de la red se encuentran la funci´n
o
o
lineal, la funci´n escal´n unitario, la funci´n rampa unitaria, la funci´n sigmoide, la funci´n tangenete
o
o
o
o...