información y codificacion

GUIA: TEORIA DE LA INFORMACIÓN Y CODIFICACIÓN

 

1. En una fuente discreta  (DMS)  tiene un alfabeto de 5 símbolos con sus probabilidades como se muestra

 

símbolo

S0

S1

S2

S3S4

probabilidad

0.55

0.15

0.15

0.10

0.05

 

Calcule y presente dos códigos de Huffman para esta fuente. Encuentre la longitud y la eficiencia de cada uno de ellos.

 2. Consideremos la fuente se desea formar  una secuencia de fuentes reducidas antes de codificar la fuente en un código cuaternario

( código de cuatro símbolos). Se añaden dos falsos símbolos. Laspalabras del alfabeto fuente son respectivamente: 2, 3, 00,01, 02, 03, 11, 12, 13, 100, 101, 102, 103

a. Obtenga  un código compacto cuaternario

b. Calcule la entropía.  NOTA: Utilice la entropíapara un código compacto r-ario 

c. Calcule el rendimiento y la redundancia del código.

 

3.    Dada la tabla

S

S1

S2

S3

S4

S5

S6

S7

P( si )

0.4

0.2

0.10.1

0.1

0.05

0.05

a. Encontrar un código compacto de la fuente con X = { 0,1,2 }

b. Calcular H( S ) y H3( S )

 

4. Una DMS con alfabeto de 8 letras estadísticamenteindependientes,  con probabilidades 0.25, 0.20, 0.15, 0.12, 0.10, 0.08, 0.05 y 0.05.

a. Use la codificación de Huffman para determinar un código binario en la fuente de salida.

b. Determine la longitud median de los digitos binarios por letra de la fuente.

c. Determine la entropía de la fuente y compare con n.

d. Suponga que 2 letras al mismo tiempo son codificadas en una secuencia binaria.Encuentre la longitud mínima de cada nueva secuencia codificada.

 

5. Una DMS con un alfabeto  está dado estadísticamente por la siguiente tabla

 

Si

PROBABILIDAD

CÓDIGO 1

CÓDIGO 2CÓDIGO 3

CÓDIGO 4

CÓDIGO 5

S0

0.10

000

0

0

0

00

S1

0.10

010

00

01

10

01

S2

0.15

011

000

011

110

10

S3

0.20

101

001...