Teoria de la informacion

TEORIA DE LA INFORMACION
Henry Luis Rojas Quintero
Henryluis_1989@hotmail.com
Universidad de Pamplona, Facultad de Ingenierías y Arquitectura,
Departamento de Ingeniería Eléctrica, Electrónica, Sistemas y Telecomunicaciones, Programa de: Ingeniería Electrónica
Pamplona, Norte de Santander, Colombia
AGOSTO-2011

RESUMEN
A partir de la acelerada difusión y especialización queexperimentan los medios de comunicación en el procesamiento y transmisión de información durante la primera mitad de nuestro siglo, se desarrolla el primer modelo científico del proceso de comunicación conocido como la Teoría de la Información o Teoría Matemática de la Comunicación. Específicamente, se desarrolla en el área de la telegrafía donde surge la necesidad de determinar, con la máxima precisión, lacapacidad de los diferentes sistemas de comunicación para transmitir información.
Keywords: información, transmisión, recepción, comunicación, precisión, ancho de banda, frecuencia, capacidad, velocidad.

1. INTRODUCCION
El objetivo de un sistema de comunicación en su sentido amplio es la transmisión eficiente de información de un punto denominado ORIGEN, a otro punto denominadoDESTINO. Los análisis de señales y circuitos nos permiten presentar una serie de elementos y sistemas electrónicos que realizan dicho objetivo con eficiencia y seguridad. La teoría de la información nos proporciona una serie de conceptos y formulaciones desde el punto de vista matemático, que permiten en última instancia plantear alternativas para el manejo inteligente del proceso de comunicación.
Lateoría de la información nos resuelve desde el punto de vista de la ingeniería situaciones como:
* ¿Cuál es el contenido real de información de un mensaje?
* Si los mensajes se codifican para su almacenamiento y transmisión, cómo selecciono o diseño un código óptimo para ello?
* Cuál es la capacidad máxima, que un medio ó canal específico de comunicación tiene para transmitirinformación?

El concepto de comunicación en el contexto de la Teoría de la Información es empleado en un sentido muy amplio en el que "quedan incluidos todos los procedimientos mediante los cuales una mente puede influir en otra". De esta manera, se consideran todas las formas que el hombre utiliza para transmitir sus ideas: la palabra hablada, escrita o transmitida (teléfono, radio, telégrafo, etc.),los gestos, la música, las imágenes, los movimientos, etc.

2. TEORIA DE LA INFORMACION
Puede definirse alternativamente la teoría de la información, como el campo de la cibernética que se ocupa de la descripción y evaluación matemática de los métodos de transmisión, conservación, extracción, clasificación y medida de la información. El estudio de la teoría de la información debe permitir:conocer las técnicas de cifrado, corrección y detección de errores y procesos de eliminación de redundancia en una información.
3.1. CONCEPTOS BÁSICOS DE LA TEORÍA DE LA INFORMACIÓN
Fuentes de Información: Una fuente de información es un objeto, que produce a su salida un evento; dicha salida es seleccionada aleatoriamente de acuerdo a una probabilidad de distribución. En un sistema decomunicación, es un elemento que produce mensajes, y éstos pueden ser análogos o discretos. Una fuente discreta está formada por un conjunto finito de símbolos. Las fuentes de información pueden clasificarse en fuentes con memoria y fuentes sin memoria. Una fuente sin memoria puede especificarse por: la lista de símbolos, la probabilidad de ocurrencia de los símbolos, y la rata de generación de lossímbolos de la fuente.
Contenido de Información de Fuentes discretas sin memoria.
La cantidad de información de un mensaje, es inversamente proporcional a la probabilidad de ocurrencia. Si un evento es conocido, la información aportada es cero, de hecho su probabilidad de ocurrencia es uno. La probabilidad de un mensaje siempre estará en un valor entre cero y uno. La información contenida en...