Teoria matematica de la comunicacion

TEORIA MATEMATICA DE LA COMUNICACIÓN
En 1949 Claude Shannon, un ingeniero de la Bell Telephone da a conocer su “teoría matemática de la comunicación”, modelo cuya ambición es subsumir bajo su férula todo tipo de procesos comunicativos, ya sea entre máquinas, hombres o animales y que demuestra ser singularmente exitoso en las décadas siguientes. Shannon, como muchos de los ingenieros de la época,está particularmente interesado en construir un modelo teórico que posibilite el máximo aprovechamiento con un mínimo costo en las trasmisiones telegráficas y telefónicas. Su teoría de la comunicación, en consecuencia, es una teoría de la trasmisión. ¿Y qué se trasmite? Pues información.
El modelo de Shannon es sumamente conocido, tan es así que es lo primero que se nos viene a la mente cuandopensamos en la comunicación:

El concepto de información de Shannon debe tomarse cuidadosamente, por las particularidades que le imprime, que lo desvinculan del sentido que pueda tener el mensaje. “Es sorprendente pero cierto que, desde el punto de vista actual, dos mensajes, uno muy denso en significado y otro totalmente sin sentido, pueden ser equivalentes en cuanto a información. En realidad,en esta nueva teoría la palabra información se refiere no tanto a lo que decimos como a lo que podríamos decir. O sea que la información es una medida de nuestra libertad de elección cuando seleccionamos un mensaje”
Cómo medir la cantidad de información de un mensaje? La información depende de la cantidad de posibilidades de elección de mensajes diferentes o desde otro punto de vista de lasposibilidades de predicción de cuál será el mensaje escogido. Supongamos un sistema de dos posibilidades, por ejemplo las dos caras de una moneda. Habiendo sólo dos alternativas posibles, tengo un 50 % de posibilidades de acierto (o de predicción). Partiendo de una situación de incertidumbre (dado que no conozco a priori si la moneda caerá sobre su cara o sobre su ceca), el mensaje emitido posee unvalor de información de un bit (de binary digit o señal binaria), ya que se requiere una sola disyunción entre dos posibilidades para acceder al mensaje final.
Es fácil deducir que mientras más posibilidades de elección se tengan en la situación inicial, el mensaje contendrá un valor de información mayor, ya que será mucho más difícil predecirlo con anterioridad. Dado que cualquier elección de unelemento entre un repertorio finito puede traducirse en una serie de disyunciones binarias, la cantidad de información se medirá por bits.
Por ejemplo, para un sistema que cuenta con ocho eventualidades, las alternativas de elección son:

Para elegir un mensaje determinado, pongamos por caso el 5, necesito realizar tres disyunciones binarias: primero entre el grupo B1 y el B2, luego entre lossubgrupos C3 y C4, por último entre el mensaje 5 y el 6.
Mientras mayor sea el repertorio de mensajes posibles, mayor será la cantidad de pasos (disyunciones binarias) que separen cada elemento de la situación inicial (representada en nuestro esquema por la letra A).
Más generalmente podemos afirmar que:
i = lg2 n
En donde n es la cantidad total de elementos del repertorio e i el valor de lainformación contenida por cada mensaje.
Como vemos, la teoría matemática de la comunicación posibilita medir el valor informativo de cualquier mensaje en relación al esfuerzo requerido para su trasmisión, desvinculándolo de manera absoluta del sentido que pueda tener el mensaje.
Shannon demostró que si colocamos todas las letras del alfabeto en igual cantidad en una caja y las sacamos al azar, elmensaje resultante carece de sentido, pero va cobrándolo en la medida en que respetamos las proporciones inherentes a un lenguaje determinado. Es decir que se aproxima más a tener sentido si colocamos las letras en igual proporción a cómo aparecen, por ejemplo, en el castellano; más aún si colocamos pares de letras en igual proporción a su aparición en el lenguaje real y aún mejor si los...