Examenes Codificaci N

Departamental I
1. Diga que es la teoría de información, que conceptos maneja y que menciona su teorema fundamental.

2. Diga cómo se entiende la medida de la información y con qué ecuación larepresentamos.

3. Como definiremos a una fuente de memoria nula y como se calcula la información media que suministra.

4. A que se le da el nombre de entropía de la fuente, con que se le representa ypor medio de que se calcula.

5. De un vocabulario de 10,000 palabras, se han elegido entre ellas, 1000 palabras completamente al azar, cuál será la probabilidad de esta secuencia de mil palabra yla cantidad de información en bits contenida en las mismas
Problemas:
1. Consideremos una fuente . Con probabilidad de . Calcular la entropía de la fuente .

2. Consideremos una fuente . En suextensión de segundo orden con probabilidades de . Encontrar los símbolos de , la secuencia correspondiente a , la probabilidad de y la entropía de la fuente de segundo orden.









Departamental II1. Definir lo que es un código bloque y cuando se dice que es no singular.

2. Cuando un código bloque es univoco decodificable y cuando también es instantáneo.

3. Por medio de que definimos lalongitud media de un código.

4. Que nos dice el teorema de codificación sin ruido y que ecuación lo representa.
Problemas:
1. Una fuente tiene 6 salidas posibles cuyas posibilidades se especifican enla siguiente tabla, la cual también define los códigos y . Encontrar:

a) ¿Cuál de los códigos es unívocamente decodificable?
b) ¿Cuál es instantáneo por su longitud?
c) Calcular la longitud mediade todos los códigos unívocos.
Salida

A
B
C
D
E
F
S1
1/2
000
0
0
0
0
000
S2
1/4
001
01
10
10
10
100
S3
1/16
010
011
110
110
1100
101
S4
1/16
011
0111
1110
1110
1101
110
S5
1/16
100
01111
111101011
1110
111
S6
1/16
101
011111
111110
1101
1111
001


2. Se tiene una fuente de información con los siguientes códigos binarios . Determinar si las longitudes de las palabras forman un código...