Clasificador Bayesiano

4

LABORATORIO DE SISTEMAS INTELIGENTES www.fi.uba.ar/laboratorios/lsi

ANÁLISIS DE CLASIFICADORES BAYESIANOS
por M.Ing. Enrique Fernández

1. Introducción Una red bayesiana es un grafo acíclico dirigido en el que cada nodo representa una variable y cada arco una dependencia probabilística, son utilizadas para proveer: una forma compacta de representar el conocimiento, y métodos flexiblesde razonamiento. El obtener una red, bayesiana a partir de datos, es un proceso de aprendizaje que se divide en dos etapas: el aprendizaje estructural y el aprendizaje paramétrico. En este trabajo se describirá el funcionamiento de tres algoritmos de Clasificadores, Naïve Bayes, TAN y KDB. Se mostrará además como, a través del programa Elvira, se puede llegar a obtener una red Bayesiana con estosclasificadores. Dicha red variará dependiendo del algoritmo clasificador aplicado, y de la combinación de este con algún algoritmo de inducción de árboles de decisión. Por último se mostrará una comparación que permita analizar las diferencias entre los distintos clasificadores y la influencia que en ellos genera los algoritmos generadores de árboles de decisión. 1.1. Definición de conceptos1.1.1. Aprendizaje automático El aprendizaje puede ser definido como "cualquier proceso a través del cual un sistema mejora su eficiencia" [Felgaer, P. et al, 2003]. La habilidad de aprender es considerada como una característica central de los "sistemas inteligentes" [GarcíaMartínez, 1997; García Martínez et al, 2003; Fritz et al., 1989; García-Martínez, 1993; García-Martínez, 1995; García-Martínez &Borrajo, 2000], y es por esto que se ha invertido esfuerzo y dedicación en la investigación y el desarrollo de esta área. El desarrollo de los sistemas basados en conocimientos motivó la investigación en el área del aprendizaje con el fin de automatizar el proceso de adquisición de conocimientos el cual se considera uno de los problemas principales en la construcción de estos sistemas. Un aspectoimportante en el aprendizaje inductivo es el de obtener un modelo que represente el dominio de conocimiento y que sea accesible para el usuario, en particular, resulta importante obtener la información de dependencia entre las variables involucradas en el fenómeno, en los sistemas donde se desea predecir el comportamiento de algunas variables desconocidas basados en otras conocidas; unarepresentación del conocimiento que es capaz de capturar esta información sobre las dependencias entre las variables son las redes bayesianas [Ramoni & Sebastiani, 1999; Felgaer, P. et al, 2003].

4

LABORATORIO DE SISTEMAS INTELIGENTES www.fi.uba.ar/laboratorios/lsi

1.1.2. Minería de datos Se denomina Minería de Datos [Servente, & García-Martínez, 2002; Perichinsky & García-Martínez, 2000;Perichinsky et al., 2000; Perichinsky et al., 2001; Perichinsky et al., 2003; Felgaer, P. et al, 2003] al conjunto de técnicas y herramientas aplicadas al proceso no trivial de extraer y presentar conocimiento implícito, previamente desconocido, potencialmente útil y humanamente comprensible, a partir de grandes conjuntos de datos, con objeto de predecir de forma automatizada tendencias y comportamientos;y describir de forma automatizada modelos previamente desconocidos [Piatetski-Shapiro et al., 1991; Chen et al., 1996; Mannila, 1997; Felgaer, P. et al, 2003]. El término Minería de Datos Inteligente [Evangelos & Han, 1996; Michalskí et al., 1998; Felgaer, P. et al, 2003] refiere específicamente a la aplicación de métodos de aprendizaje automático [Michalski et al., 1983; Holsheimer & Siebes,1991; Felgaer, P. et al, 2003], para descubrir y enumerar patrones presentes en los datos, para estos, se desarrollaron un gran número de métodos de análisis de datos basados en la estadística [Michalski et aL, 1982; Felgaer, P. et al, 2003]. En la medida en que se incrementaba la cantidad de información almacenada en las bases de datos, estos métodos empezaron a enfrentar problemas de eficiencia y...