Algoritmos De Agrupamiento
Páginas: 3 (682 palabras)
Publicado: 21 de septiembre de 2011
Universidad Autónoma del Estado de México
Unidad Académica Profesional “Nezahualcoyotl”
Práctica 3 Algoritmo Naïve Bayes Análisis y comparación con el Algoritmo IDE3
Algoritmos deAgrupamiento
1. Funcionamiento del Algoritmo Naïve Bayes
Es un calsificador probabilistico basado en el Teorema de Bayes.
La idea de usar el teorema de Bayes en cualquier problema de aprendizajeautomático es que podemos estimar las probabilidades a posteriori de cualquier hipotesis consiste en el conjunto de datos de entrenamiento para asi escoger la hipotesis más probable.
Dado un ejemplo Xrepresentado por k valores el clasificador Naïve Bayes se basa en encontrar la hipótesis más probable que describa a ese ejemplo. Si la descripción de este ejempl viene dada por los valores .
Lahipotesis más probable será aquella que cumpla:
es decir la probabilidad de que conocidos los valores que describen a ese ejemplo, éste pertenezcan a la clase ʋj (dónde ʋj es el valor de la funciónde clasificación ƒ(x) en el conjunto del conjunt finito ʋ. Por el teorema de Bayes.
Podemos estimar P(ʋj) contando las veces que aparece el ejemplo ʋj en el conjunto de entrenamiento ydividéndolo por el número total de ejemplos que forman este conjunto. Para estimar el término P(a1, ...an|ʋj), es decir, las veces en que para cada categoría aparecen los valores del ejemplo x, debo recorrertodo el conjunto de entrenamiento. Este cálculo resulta impracticable para un número sucientemente grande de ejemplos por lo que se hace necesario siplicar la expresión. Para ello se recurre a lahipótesis de independencia condicional con el objeto de poder factorizar la probabilidad.
La hiptesis sería Los valores aj que describen un atributo de un ejemplo cualquiera x son independientes entresí conocido el valor de la categoría a la que pertenecen. Así la probabilidad de observar la conjunción de atributos aj dada una categoría a la que pertenecen es justamente el producto de las...
Unidad Académica Profesional “Nezahualcoyotl”
Práctica 3 Algoritmo Naïve Bayes Análisis y comparación con el Algoritmo IDE3
Algoritmos deAgrupamiento
1. Funcionamiento del Algoritmo Naïve Bayes
Es un calsificador probabilistico basado en el Teorema de Bayes.
La idea de usar el teorema de Bayes en cualquier problema de aprendizajeautomático es que podemos estimar las probabilidades a posteriori de cualquier hipotesis consiste en el conjunto de datos de entrenamiento para asi escoger la hipotesis más probable.
Dado un ejemplo Xrepresentado por k valores el clasificador Naïve Bayes se basa en encontrar la hipótesis más probable que describa a ese ejemplo. Si la descripción de este ejempl viene dada por los valores .
Lahipotesis más probable será aquella que cumpla:
es decir la probabilidad de que conocidos los valores que describen a ese ejemplo, éste pertenezcan a la clase ʋj (dónde ʋj es el valor de la funciónde clasificación ƒ(x) en el conjunto del conjunt finito ʋ. Por el teorema de Bayes.
Podemos estimar P(ʋj) contando las veces que aparece el ejemplo ʋj en el conjunto de entrenamiento ydividéndolo por el número total de ejemplos que forman este conjunto. Para estimar el término P(a1, ...an|ʋj), es decir, las veces en que para cada categoría aparecen los valores del ejemplo x, debo recorrertodo el conjunto de entrenamiento. Este cálculo resulta impracticable para un número sucientemente grande de ejemplos por lo que se hace necesario siplicar la expresión. Para ello se recurre a lahipótesis de independencia condicional con el objeto de poder factorizar la probabilidad.
La hiptesis sería Los valores aj que describen un atributo de un ejemplo cualquiera x son independientes entresí conocido el valor de la categoría a la que pertenecen. Así la probabilidad de observar la conjunción de atributos aj dada una categoría a la que pertenecen es justamente el producto de las...
Leer documento completo
Regístrate para leer el documento completo.