Perceptron

El Perceptrón Características del Perceptrón Aprendizaje (Entrenamiento)

Perceptrones
Décima sesión

Hugo Franco, PhD

27 de marzo de 2010

Hugo Franco, PhD

Perceptrones

El Perceptrón

El Perceptrón Características del Perceptrón Aprendizaje (Entrenamiento)

Modelo de Neurona Articial, Perceptrón
Perceptrón: Modelo de

neurona articial simple

Los datos se presentancomo vectores de entrada x = {x } al array de elementos de entrada Éste se alimenta a la neurona mediante conexiones ponderadas, una por cada entrada, w ≡ {w } La salida v es función φ de la combinación lineal de las entradas con los pesos de las conexiones Se introduce un sesgo θ para modular el valor de φ
j j

Hugo Franco, PhD

Perceptrones

El Perceptrón Características del PerceptrónAprendizaje (Entrenamiento)

Representación Matemática del Perceptrón
El perceptrón se comporta como una función binaria cuyo valor depende de la combinación lineal (sesgada en una cantidad asociado a la conexión de la entrada correspondiente (w

θ)

de un

vector de entrada x, ponderado cada componente con un peso

= {wi }m ).
la salida del

Esto es, si x perceptrón

= [x1 , x2 , .. . , xm ] v , dado un sesgo θ ,
v

T

y w es

= [w1 , w2 , . . . , wm ],

= φ (w · x + θ)

m

= φ

i =0

w x

i i +θ

donde m es el número de entradas del perceptrón

Hugo Franco, PhD

Perceptrones

El Perceptrón Características del Perceptrón Aprendizaje (Entrenamiento)

Funciones de Activación Típicas del Perceptrón
( (
Paso Unitario:

f (a ) =

0 si a ≤ 0 1si a > 0

Signo:

φ(a) =

−1

1

si a ≤ 0 si a > 0

f

1

0

a

Hugo Franco, PhD

Perceptrones

El Perceptrón Características del Perceptrón Aprendizaje (Entrenamiento)

Signicado matemático de los componentes
Ejemplo: dos nodos de entrada, se dene un plano 2D (derecha) Los pesos para las diferentes entradas denen un vector w normal a un hiperplano en

Rm

(líneaen el caso 2D) que separa los elementos de entrada en clases El sesgo el origen Las dos posibles salidas ({0, 1} o

θ

dene una distancia

del hiperplano de división desde

{−1, 1}

dependiendo de la

denición de

φ)

determinan a

qué clase pertenece cada patrón de entrada (t upla)
Hugo Franco, PhD Perceptrones

Características del Perceptrón

El PerceptrónCaracterísticas del Perceptrón Aprendizaje (Entrenamiento)

Clasicación
Funcionalidad principal del perceptrón Por su capacidad de separar un espacio de una dimensionalidad dada en dos partes a través de un hiperplano, el perceptrón suele utilizarse como clasicador

Problema de Almacenamiento del Perceptrón Dada una dicotomía
D

= {zµ ∈ Rn , S µ ∈ {−1, +1}}µ=1,2,...,P
tal que v

encontrar w∈ Rn , θ ∈ R

µ

= φ(w · zµ + θ) = S µ ∀µ.

Equivale

al planteamiento formal del problema de entrenamiento. Los pares

{zµ , S µ }

se conocen como patrones de entrenamiento

Hugo Franco, PhD

Perceptrones

El Perceptrón Características del Perceptrón Aprendizaje (Entrenamiento)

Separabilidad Lineal
Dado que el comportamiento del perceptrón (entrenado) corresponde a unsistema lineal de primer orden en clasicados mediante un perceptrón

Rn ,

sólo patrones

consistentes en dos clases separables linealmente pueden ser

y

y

x

x

Hugo Franco, PhD

Perceptrones

El Perceptrón Características del Perceptrón Aprendizaje (Entrenamiento)

Ejemplo: limitaciones en funciones binarias

Caso concreto: función XOR,

tabla de verdad 0 0 1 1 0 1 0 1Aunque se trata de una función simple (usualmente dos entradas) y valores binarios (óptima para clasicación), no es posible separar linealmente las dos clases implícitas en su denición

Hugo Franco, PhD

Perceptrones

Aprendizaje (Entrenamiento)

El Perceptrón Características del Perceptrón Aprendizaje (Entrenamiento)

El Aprendizaje en los Modelos de Redes Neuronales...