Diseño en redes

PARCIAL CUESTIONARIO
 
1- Al despertar ponemos la radio y escuchamos noticias que no nos llaman la atención. ¿Por qué decimos que no había información?
Aparte de no tener todo el contexto de lanoticia y no saber el tema del que están hablando, lo cual no hace parte de nuestro interés, en otras ocasiones se debe a nuestro cerebro no se encuentra lo bastante concentrado para asumirinicialmente este tipo de ejercicio.
2- Justifique la definición logarítmica de cantidad de información, es decir la razón de que Ci = - log (Pi).
“Tomando la siguiente ecuación decimos que Ci es igual a menoslogaritmo multiplicado por (Pi)”.
Logaritmo: p(Xi) = 1  Ci = 0
Signo: p(Xi) < 1  Log p(Xi) va a ser negativo
Base: Fenómeno binario


3- se usa el logaritmo en base 2 porque se considera quela información se va a representar mediante código binario (se quiere representar con bits). Si para representar la información se usaran valores en una base  entonces sería conveniente utilizar ellogaritmo en base.

4- Caso n estados equiprobables:

Para este caso el número mínimo e inteligente de preguntas que hay que hacer para pasar de la incertidumbre a la certeza está determinado por:Ci= Log2 N=a; entonces necesitamos
Caso n estados no Equiprobables
Por lo tanto el número mínimo e inteligente de preguntas que hay que hacer para determinar este proceso es:
Ci = Log(Li / if) =Log Li – Log If

5- Por definición de entropía
H(X) = -p(Xi)Log2 p(Xi)
Entonces como siempre va a existir una probabilidad P(Xi) siempre será mayor que cero P(Xi)>0; entonces H(X) será mayor quecero.
Se anula si y solo si uno de los estados de las variables es igual a la unidad si cualquiera de los estados P(Xi) = 1 entonces los demás estados tendrán que ser cero para que se cumpla con lapropiedad de probabilidad que:
N
Pi = 1
I= 1

6- Si no usamos un codificador optimo, es necesario el siguiente proceso
Ci = Log2N = Log 2256 = Log 228=8* Log22=8
Por lo que se necesitan 8 bits...