Las Redes Nueronales como aproximadores de funciones

LAS REDES DE NEURONAS COMO
APROXIMADORES DE FUNCIONES
FUNCIONES DE BASE RADIAL

APROXIMACIÓN DE FUNCIONES
• Funciones obtenidas por datos empíricos
• Funciones matemáticas de gran complejidad
• Se aproximan mediante polinomios
algebraicos o trigonométricos
P ( x) = a0 + a1 x + ... + an x n

• Se aproximan mediante otras funciones
(wavelets o funciones de Base Radial)

APROXIMACIÓNDE FUNCIONES
Dada una serie de patrones x y una serie de respuestas
deseadas d, el sistema encuentra los pesos w para
ajustarse a las especificaciones

APROXIMACIÓN DE FUNCIONES
Las redes de neuronas son aproximadores paramétricos de
funciones no lineales.
Se puede demostrar que
• Son aproximadores universales
• Son aproximadores eficientes
• Pueden ser implementados como máquinas que“aprenden”

APROXIMACIÓN DE FUNCIONES
Sea f(x) la función que queremos aproximar por una
combinación lineal de funciones ϕi(x). La aproximación
será:
N
ˆ
f ( x, w) =

i =1

wiϕ i ( x)

APROXIMACIÓN DE FUNCIONES
Si podemos encontrar coeficientes wi que hagan el error
arbitrariamente pequeño, diremos que el conjunto {ϕi}
tiene la propiedad de aproximador universal de la clasede funciones f.
Está claro que hay tres componentes básicos en la
aproximación:

• La elección de funciones elementales ϕi
• El cálculo de los pesos wi
• La selección del número de funciones ϕi

APROXIMACIÓN DE FUNCIONES
Si las funciones ϕi son ortogonales entre si, podemos
considerar el subespacio generado por ellas y considerar
la aproximación como la proyección ortogonal de lafunción sobre dicho subespacio.

APROXIMACIÓN DE FUNCIONES
Ejemplos de funciones elementales son:

•
•
•
•

sinc dada por sen(at)/at
Series de Fourier
Wavelets
Funciones de Base Radial

APROXIMACIÓN DE FUNCIONES
sinc dada por sen(at)/at

APROXIMACIÓN DE FUNCIONES
Series de Fourier

APROXIMACIÓN DE FUNCIONES
Wavelets

APROXIMACIÓN DE FUNCIONES
Funciones de Base RadialAproximación matemática de funciones
• Polinomios
– Polinomio de Taylor
– Polinomios interpoladores
– Polinomios de Chebychev

• Series de Fourier
• Wavelets
• Funciones de Base Radial

POLINOMIOS
POLINOMIO DE TAYLOR
•Se utilizan para aproximar funciones continuas y derivables en
el entorno de un punto.
•Se necesita conocer el valor de la función y de sus derivadas.
En el caso defunciones de variable real el polinomio de Taylor
tiene la forma:
f ' ' (a)
f k (a)
Pk ( x ) = f (a ) + f ' (a )( x − a ) +
( x − a)k
( x − a ) + ... +
k!
2!

POLINOMIOS
POLINOMIOS INTERPOLADORES
•Utilizan exclusivamente los valores de la función en varios
puntos (su número depende del grado del polinomio).
•Se pueden utilizar para funciones obtenidas de datos empíricos.
Paraaproximar la función en el intervalo [x0 , xk] por el
k
polinomio Pk ( x) = a0 + a1 x + ... + ak x
elegimos k-1 puntos interiores x1 , ..., xk-1 tales que conozcamos
los valores de la función en los k+1 puntos: y0 , ..., yk y
buscamos los coeficientes de modo que el valor del polinomio
coincida con el valor de la función en dichos puntos.

POLINOMIOS
POLINOMIOS INTERPOLADORES
Los coeficientesserían entonces las soluciones del sistema:
k
ì y0 = a0 + a1 x0 + ... + ak x0
í
k
yk = a0 + a1 xk + ... + ak xk
î

En lugar de resolver el sistema, construyamos el polinomio que
verifica: Q0(x0)=1, Q0(xi)=0, i=1...k.. Este polinomio tendrá la
forma:
Q0 ( x) =

( x − x1 )...( x − xk )
( x0 − x1 )...( x0 − xk )

POLINOMIOS
POLINOMIOS INTERPOLADORES
Análogamente definimos lospolinomios Qi(x) :
Qi ( x) =

( x − x0 )...( x − xi −1 )( x − xi +1 )...( x − xk )
( xi − x0 )...( xi − xi −1 )( xi − xi +1 )...( xi − xk )

Por tanto el polinomio interpolador buscado tendrá la forma:
Pk ( x ) = y0Q0 + y1Q1 + ... + yk Qk =

( x − x0 )...( x − xi −1 )( x − xi +1 )...( x − xk )
yk
=
i =0 ( xi − x0 )...( xi − xi −1 )( xi − xi +1 )...( xi − xk )
k

que se conoce como...