Ejemplo id3

Árboles de Decisión: Algoritmo ID3

Algoritmo ID3: Un ejemplo de aplicación (I)
Ejemplos de entrenamiento y concepto a aprender:

Administrar tratamiento “T0”
Paciente 1 2 3 4 5 6 7 8 9 10 1112 13 14 Presión Aterial Alta Alta Normal Baja Baja Baja Normal Alta Alta Baja Alta Normal Normal Baja Urea en sangre Alta Alta Alta Normal Baja Baja Baja Normal Baja Normal Normal Normal Alta NormalGota Sí Sí Sí Sí No No No Sí No No No Sí No Sí

Hipotiroidismo Administrar Tratamiento No No Sí No No Sí No Sí No Sí Sí No Sí Sí No No No Sí No Sí Sí Sí Sí Sí No Sí Sí No

Árboles de Decisión:Algoritmo ID3

Algoritmo ID3: Un ejemplo de aplicación (II)
Elección del atributo de ganancia máxima
Presión Arterial (PA) Alta
[2+,3-] E=0.971

Gota (G) Sí
[3+,2-] E=0.971 [3+,4-] E=0.985Normal
[4+,0-] E=0

Baja

No
[6+,1-] E=0.592

G ( S , " PA" ) = 0.940 − (5 / 14) ⋅ 0.971 − (4 / 14) ⋅ 0 − (5 / 14) ⋅ 0.971 = 0.246

G ( S , "G" ) = 0.940 − (7 / 14) ⋅ 0.985 − (7 / 14) ⋅ 0.592 =0.151

Urea en Sangre (US) Alta
[2+,2-] E=1

Hipotiroidismo (H) Sí
[3+,1-] E=0.811 [3+,3-] E=1

Normal
[4+,2-] E=0.918

Baja

No
[6+,2-] E=0.811

G ( S , "US " ) = 0 .940 − ( 4 / 14 )⋅ 1 − ( 6 / 14 ) ⋅ 0 .918 − ( 4 / 14 Enrique J. Carmona Suárez ) ⋅ 0 .811 = 0 .029

G ( S , " H " ) = 0 . 940 − ( 6 / 14 ) ⋅ 1 −Dpto./Inteligencia Artificial, .UNED (8 14 ) ⋅ 0 .811 = 0 048Árboles de Decisión: Algoritmo ID3

Algoritmo ID3: Un ejemplo de aplicación (III)
Presión Arterial? Alta
Pcte Urea Gota Hipot. "T0" [2+,3-] 1 Alta Sí No No 2 Alta Sí Sí No 8 Normal Sí No No 9 Baja No NoSí 11 Normal No Sí Sí
[4+,0-]

Normal

Baja

Pcte Urea Gota Hipot. "T0" [3+,2-] 4 Normal Sí No Sí 5 Baja No No Sí 6 Baja No Sí No 10 Normal No No Sí 14 Normal Sí Sí No

Sí

Árboles deDecisión: Algoritmo ID3

Ejemplo ID3: ¿Aplicar Tratamiento “T0”? (II)
2 2 1 G ( S , "U " ) = E[(2+,3−]) − E[(0+,2−]) − E[(1+,1−]) − E[(1+,0−]) = 0.571 5 5 5 3 2 G ( S , "G" ) = E[(2+,3−]) −...