redes bayecianas

Chapter 1

Redes Bayesianas
Luis Enrique Sucar
INAOE
Sta. Mar´a Tonantzintla, Puebla, 72840, M´xico
ı
e
Correo electrnico: esucar@inaoep.mx

1.1

Introducci´n
o

Las redes bayesianas modelan un fen´meno mediante un conjunto de variables
o
y las relaciones de dependencia entre ellas. Dado este modelo, se puede hacer
inferencia bayesiana; es decir, estimar la probabilidadposterior de las variables
no conocidas, en base a las variables conocidas. Estos modelos pueden tener
diversas aplicaciones, para clasificaci´n, predicci´n, diagn´stico, etc. Adem´s,
o
o
o
a
pueden dar informaci´n interesante en cuanto a cmo se relacionan las variables
o
del dominio, las cuales pueden ser interpretadas en ocasiones como relaciones
de causa–efecto.
Incialmente, estos modeloseran construidos ’a mano’ basados en un conocimiento
experto, pero en los ultimos a˜os se han desarrollado diversas t´cnicas para
´
n
e
aprender a partir de datos, tanto la estructura como los par´metros asociados
a
al modelo. Tambi´n es posible el combinar conocimiento experto con los datos
e
para aprender el modelo.
A continuaci´n, veremos una introducci´n general a redes bayesianas y loso
o
principales m´todos de inferencia. Despu´s, introducimos una estructura partice
e
ular, los clasificadores bayesianos, y veremos cmo aprenderlos de datos. Porteriormente tratamos el tema de aprendizaje en general de redes bayesianas, tanto
param´trico como estructural. Concluimos hablando de la redes bayesianas
e
din´micas y cmo se pueden aprender estas estructuras. Al final se danreferena
cias y lecturas adicionales para cada tema.
1

2

CHAPTER 1. REDES BAYESIANAS

1.2

Redes bayesianas

Las redes bayesianas son una representaci´n gr´fica de dependencias para rao
a
zonamiento probabilstico, en la cual los nodos representan variables aleatorias
y los arcos representan relaciones de dependencia directa entre las variables.
La Figura 1.1 muestra un ejemplohipot´tico de una red bayesiana (RB) que
e
representa cierto conocimiento sobre medicina. En este caso, los nodos representan enfermedades, s´
ıntomas y factores que causan algunas enfermedades.
La variable a la que apunta un arco es dependiente de la que est´ en el oria
gen de ´ste, por ejemplo f iebre depende de tif oidea y gripe en la red de la
e
Figura 1.1. La topolog´ o estructura de la rednos da informaci´n sobre las
ıa
o
dependencias probabil´
ısticas entre las variables. La red tambi´n representa las
e
independencias condicionales de una variable (o conjunto de variables) dada(s)
otra(s) variable(s). Por ejemplo, en la red de la Figura 1.1, reacciones es cond.
indep. de C, G, F, D dado tif oidea. (Donde: C es comida, T es tifoidea, G es
gripe, R es reacciones, F es fiebrey D es Dolor). Esto es:
P (R|C, T, G, F, D) = P (R|T )

(1.1)

Esto se representa gr´ficamente por el nodo T separando al nodo R del resto de
a
las variables.

Figure 1.1: Ejemplo de una red bayesiana. Los nodos representan variables
aleatorias y los arcos relaciones de dependencia.
En una RB todas la relaciones de independencia condicional representadas en
el grafo corresponden arelaciones de independencia en la distribuci´n de probo
abilidad. Dichas independencias simplifican la representaci´n del conocimiento
o
(menos par´metros) y el razonamiento (propagaci´n de las probabilidades). Una
a
o
red bayesiana representa en forma gr´fica las dependencias e independencias ena
tre variables aleatorias, en particular las independencias condicionales. Lo anterior se representacon la siguiente notaci´n, para el caso de X independiente
o
de Y dado Z:
• Independencia en la distribuci´n: P (X|Y, Z) = P (X|Z).
o
• Independencia en el grafo: I < X | Z | Y >.

1.2. REDES BAYESIANAS

3

La independencia condicional se verifica mediante el criterio de separaci´n-D.
o
Antes de definir formalmente la separaci´n-D, es necesario distinguir tres tipos
o
de nodos de...