Discriminante

Información Para la Toma de Decisiones. Año: 2011 Prof. María Laura Zingaretti Unidad VII:Análisis de Discriminante. Primera Parte

1

Introducción

El problema de discriminación o clasi…cación aparece en muchas áreas de actividades humanas que van desde la diagnosis médica hasta los sistemas de concesión de créditos que utilizan los bancos o el reconocimiento de falsas obras de arte. Elproblema estadístico es el siguiente: tenemos un conjunto amplio de elementos que provienen de dos o más poblaciones diferentes en cada elemento se ha observado una variable aleatoria p-dimensional (x) (el conjunto de todas las variables intervinientes), cuya distribución se conoce en cada una de las poblaciones. Se desea clasi…car un nuevo elemento, con valores de las variables conocidas, en una delas poblaciones anteriores. La primera aplicación de este análisis consistió en clasi…car los restos de un cráneo descubierto en una excavación como humano, utilizando la distribución de medidas físicas para los cráneos humanso y los de antropoides. La técnica de Análisis Discriminante recibe el nombre de Clasi…cación Supervisada, para indicar que conocemos una muestra de elementos bienclasi…cados que sirve de pauta o modelo para la clasi…cación de las siguientes observaciones: a través del análisis discriminante es posible derivar una regla para asignar nuevos elementos a los grupos. Existen varios enfoques para el problema: el primero de ellos se debe a Fisher y está basado en la normalidad multivariante de las variables consideradas. Siempre que las variables sean continuas, esfrecuente que aunque los datos originales no sean normales, se pueden efectuar transformaciones para que lo sean. Sin embargo, cuando las variables no son continuas o cuando hay mezclas de variables continuas y discretas, se debe utilizar otro

1

enfoque para resolver el problema.

2
2.1

Clasi…cación entre dos poblaciones
El problema

Supongamos que el objetivo es clasi…car elementos en dospoblaciones. Sea X una variable aleatoria continua, y sean las funciones de densidad f1 y f2 de ambas poblaciones conocidas. Sea x0 un nuevo elemento con valores conocidos de cada una de las p variables de alguna de estas poblaciones. Supongamos que
1

y

2

son las probabilidades a priori de que el ele1

mento provenga de una o de la otra población:

+

2

= 1, por lo tanto
1x0 tiene una distribución mezclada, esto es tenemos una probabilidad de que provenga de f1 y una probabilidad consecuencia: f (x) =
1 f1 (x) 2

de que provenga de f2 , en

+

2 f2 (x)

Una vez observado el elemento x0 , es posible calcular las probabilidades a posteriori de que el elemento haya sido generado por una de las dos poblaciones: P (i=x0 ); i = 1; 2:Para ello debemos utilizar elteorema de Bayes. P (1=x0 ) =
P (x0 =1) 1 P (x0 =1) 1 +P (x0 =2)
2

P (x0 =1)=f1 (x0 ); en consecuencia: ~ P (1=x0 ) =
f1 (x0 ) 1 f1 (x0 ) 1 +f2 (x0 )
2

;

Para la segunda población: P (2=x0 ) =
f2 (x0 ) 2 f1 (x0 ) 1 +f2 (x0 )
2

Clasi…caremos x0 en la población más probable a posteriori. Esto es: si P (2=x0 ) > P (1=x0 ); clasi…camos a x0 en la población 2
f2 (x0 ) 2 f1 (x0 ) 1+f2 (x0 ) f1 (x0 ) 1 f1 (x0 ) 1 +f2 (x0 ) 2 ) f2 (x0 ) 2 > f1 (x0 ) 1 equivalentemente, si f2 (x0 ) > 1 clasi…camos a x0 en el grupo f1 (x0 ) 2
2

>

o

2

clasi…camos a x0 en la población 1
f2 (x0 ) 2 f1 (x0 ) 1 +f2 (x0 )
2

<

f1 (x0 ) 1 f1 (x0 ) 1 +f2 (x0 )

2

) f2 (x0 )

2

< f1 (x0 )

1

2

o equivalentemente,

f2 (x0 ) f1 (x0 )

<

1 2

clasi…camos a x0en el grupo 1
1

Si las probabilidades a priori son iguales:

=

2,

entonces clasi…care-

mos a x0 en la población 2 si f2 (x0 ) > f1 (x0 ), en tanto que clasi…caremos x0 en la población 1 si f2 (x0 ) < f1 (x0 ):

2.2

Costos

Debido a que estamos clasi…cando, basándonos en probabilidades a priori y en el teorema de Bayes, podríamos estar cometiendo errores al clasi…car, esto...