09

Comparación del Desempeño de Funciones de
Activación en Redes Feedforward para
aproximar Funciones de Datos con y sin Ruido
Comparison of the Activation Functions
Performance in Neural Networks Feedforward
to approximate Data Functions with and without
Noise
Luis Llano, MSc.(c)1, Andrés Hoyos, Est.2, Francisco Arias, Est.2, Juan Velásquez, PhD.(c)3
1
Interconexión Eléctrica S.A. E.S.P. (ISA),Colombia
2
GIDIA: Grupo de Investigación y Desarrollo en Inteligencia Artificial
3
Grupo de Finanzas Computacionales
Escuela de Ingeniería de Sistemas, Facultad de Minas
Universidad Nacional de Colombia Sede Medellín
lellano@isa.com.co, afhoyos@unalmed.edu.co, fjarias@unalmed.edu.co, jdvelasq@unalmed.edu.co
Recibido para revisión 26 de Marzo de 2007, aceptado 15 de Junio de 2007, versión final 31 dejulio de 2007

Resumen—Las redes neuronales en muchos casos han dado
buenos resultados en la aproximación de funciones en muchas
aplicaciones, aun así existen muchos problemas que no se han
podido resolver. La selección de funciones de activación se realiza
de acuerdo con el problema y a criterio del investigador, en
ocasiones por ensayo y error. Comúnmente, la función de
activación logística hasido la más frecuentemente usada
trayendo buenos resultados. En la literatura no existe un criterio
estándar para la selección de estas funciones de activación en las
redes neuronales, ni tampoco existe una exhaustiva investigación
en este tema. Es por esta razón que el objetivo principal de este
articulo es obtener un criterio de selección para tres funciones de
activación en una red neuronalfeedforward con una capa oculta,
comparando su desempeño con múltiples neuronas, para
aproximar las funciones objetivo propuestas en [4] las cuales
fueron diseñadas para evaluar la capacidad de regresión de
modelos de redes neuronales.
Palabras Clave—Aproximación de Funciones, Función de
Activación, Red Neuronal Feedforward.
Abstract—The neural networks in many cases have given good
results in theapproach of functions in many applications, even so
exist many problems that have not been able to solve. The
selection of activation functions is made in agreement with the
problem and to criterion of the investigator, sometimes by test
and error. Commonly, the function of logistic activation has been
more frequently used bringing good results. In Literature a

standard criterion for the selectionof these functions of
activation in the neuronal networks does not exist, nor exists
either an exhaustive investigation in this subject. It is therefore
that the primary target of this I articulate is to obtain a
criterion of selection for three functions of activation in a neural
network feedforward with an hidden layer, comparing his
performance with multiple neurons, to approximate the proposefunctions objective in [4] which were designed to evaluate the
capacity of regression of models of neuronal networks.
Keywords—Approach
Functions,
Feedforward Neural Network.

Activation

Function,

I. INTRODUCCIÓN

L

AS redes neuronales perceptrón multicapa han sido
ampliamente utilizadas debido a su simplicidad y buenos
resultados, aunque en ocasiones fallan en proveer una
adecuada solución,debido a una mala arquitectura,
insuficiente número de neuronas o simplemente un número
insuficientes de ciclos de entrenamiento [7].
El desempeño del entrenamiento de una red neuronal
depende del algoritmo de aprendizaje utilizado, del número de
capas ocultas, del número de neuronas en cada capa oculta, de
la conectividad o arquitectura de la red y también del tipo de

Revista Avances en Sistemas eInformática, Vol.4 No. 2, Septiembre de 2007, Medellín, ISSN 1657-7663
Edición Especial: II Congreso Colombiano de Computación – CCC2007

80

Revista Avances en Sistemas e Informática, Vol.4 No. 2, Septiembre de 2007
Edición Especial: II Congreso Colombiano de Computación - CCC 2007

función de activación que se elija para cada neurona.
Las actividades de entrenamiento y generalización,...