Derecho

INSTITUTOPOLITECNICO NACIONAL
ESCUELA SUPERIOR DE INGENIERIA MECANICA Y ELECTRICA
“UNIDAD CULHUACAN”
FECHA: 11/09/2010
TRABAJO
PROBLEMARIO 1ER DEPARTAMENTAL
TEORIA DE LA INFORMACION Y CODIFICACION

7CV2
1. Un mensaje ocurre con una probabilidad de 0.3. Determine la información asociada con el mensaje en bits, nats y hartleys.
a) I = log10 10.3 = 0.5228 hartleys
b) I = log210.3 = 1.7369 bits
c) I = ln 10.3 = 1.2039 nats

2. Un alfabeto consiste de 6 letras A,B,C,D,E,F con probabilidades respectivas 0.3,0.2,0.2,0.1,0.15,0.05. Encuentre la información media asociada con la transmisión de una letra.
S= 0.3, 0.2, 0.2, 0.1, 0.15, 0.05
Hs=0.3log210.3+20.2log210.2+0.1log210.1+0.15log210.15+0.05log210.05=2.4086 bits

3. Una fuente con un ancho de banda de4000Hz es muestreado en un rango de Nyquist de 8000 muestras/s. Asumiendo que el resultado de la secuencia puede ser aproximadamente modelado por un DMS con alfabeto S=-2,-1,0,1,2 con probabilidades respectivas 0.5,0.25,0.125,0.0625,0.0625. Determine la entropía de la fuente y su rango en bits/s.
Hs=2log212+4log214+8log218+216log2116=1.875 bits/simbolo
C=4log28001=51.86 bps

4. Asuma que lavelocidad normal de palabra es de 300 palabras/min. Así como la palabra promedio contiene 6 caracteres y son estadísticamente independientes. Calcule el rango de la información en bits/s. Considere 8 bits por cada carácter.
Hs=68=48 bits
R=rHs
R=300 pal/min48 bits=240 bps

5. Una imagen en blanco y negro puede estar compuesto de un gran número de elementos de imagen y cada elemento de imagentiene un nivel de gris. Cada elemento de imagen es cuadrado de 10-4 m por lado. Cada imagen puede tomar 8 valores de calidad y son estadísticamente independientes. ¿Cuanta información está en un cuadrado de una dimensión de lado de 10-2 m?.
ilog21Pi=10000log28=30000 bits

6. Una imagen de televisión contiene 211000 elementos de imagen. Suponga que puede ser considerado como una señaldigital con 8 niveles de brillantez para cada elemento, donde cada nivel de brillantez es igualmente probable.
a. ¿Qué cantidad de información tiene la imagen?
Is= log28=3 bits
b. ¿Cuál es el rango de transmisión (bits/s) si 30 imágenes separadas (frames) son transmitidas por segundo?
R=rHs
Hs=303=90 simbolos
R=211000(90)=18990000 bits
c. El lenguaje arábigo consiste cerca de 50000palabras equiprobables, ¿cuál es la información contenida en un mensaje típico de 1000 palabras?
Is= (log250000)(1000)=15609.640 bits

7. Encuentre el rango en bits/s que requiere una señal de T.V. de alta resolución en blanco y negro para transmitir en un rango de 32 imágenes/s. Cada imagen tiene 2x10-6 elementos (pixeles) y 16 diferentes niveles de brillantez. Todos los elementos de imagen sonindependientes y todos los niveles son igualmente probables de ocurrir.
r= 32imageness
Elementos= 2x10-6 y 16 niveles de brillantez

Calculando:

I= log216=4
H(s)= 12x10-6=42x10-6= 8x10-6
R= rH(s) = (32)(8x10-6) = 2.56x10-4bitss

8. Encuentre el rango de bit requerido de 100 combinaciones posibles de brillantez de color con una probabilidad de ocurrencia de 0.003 cada una, 300combinaciones con una probabilidad de ocurrencia de 0.001 y 624 combinaciones con una probabilidad de ocurrencia de 0.00064.

9. Un código es compuesto por puntos y guiones. Suponga que el guión es 3 veces mas grande que el punto y tiene un tercio de probabilidad de ocurrencia.
a. Calcule la información y su promedio de que ocurra un punto y un guión.
b. Suponga que la longitud de unpunto es igual a su información. Encuentre la longitud media de la palabra código.
c. ¿Cuál es la eficiencia de las palabras código?
d. Considere una fuente de extensión 3. Encuentre la entropía de la fuente extendida y compare con la entropía de la fuente original.
10. Una DMS con alfabeto de 8 letras estadísticamente independientes, Si=1,2,…,8 con probabilidades 0.25, 0.20, 0.15,...