Clasificador bayesiano

Clasificador Bayesiano
Introducción

Naïve–Bayes es una técnica de clasificación descriptiva y predictiva basada en la teoría de la probabilidad del análisis de T. Bayes, esta teoría supone untamaño de la muestra asintóticamente infinito e independencia estadística entre variables independientes, refiriéndose en nuestro caso a los atributos, no a la clase.

Con estas condiciones, se puedecalcular las distribuciones de probabilidad de cada clase para establecer la relación entre los atributos (variables independientes) y la clase (variable dependiente).

Concretamente, dado elejemplo e = (e1; : : : ; em), donde ek es el valor observado para el
j-ésimo atributo, la probabilidad a posteriori de que ocurra la clase Ci viene dada por la regla de Bayes:

Donde P(Ci) es laproporción de la clase Ci en el conjunto de datos; e igualmente, P(ek|Ci) se estima a partir de la proporción de ejemplos con valor ek cuya clase es Ci. Como podemos deducir, el cálculo de P(ek|Ci)obliga a que los valores ek sean discretos, por lo que si existe algún atributo continuo, éste debe ser discretado previamente.

Algoritmo Clasificador Naive Bayes

* Calculo de tabla deprobabilidades de frecuencia
* Identificar el caso a evaluar
* Para cada valor del domino de la clase, se calcula la probabilidad de la clase para cada caso:
* P(Clase) ΠiP(atributo/Clase)
*Seleccionar el caso con mayor probabilidad
* Asignar la clase mayor al caso calculado

Análisis comparativo
Comparación de método de implementación
| K-NN | ID3 | Naive Bayes |
Método |Iterativo | Recursivo | Iterativo |
| | | |
| | | |

Comparación de clasificación
Los algoritmos K-NN en su versión más básica y Naive Bayes son algoritmos que siempre clasifican unejemplo dado, en el caso de KNN siempre existirán vecinos cercanos y el análisis se hace sobre éstos, en el caso de Naive Bayes tiene una clasificación desde la primera comparación y el proceso...