Teoría de la información

UNIVERSIDAD NACIONAL DE INGENIERÍA CICLO: 2009- II
FIIS - INGENIERÍA DE SISTEMAS Fecha: 11-12-09

TEORÍA GENERAL DE SISTEMAS
ST 103 – V

TRABAJO DE INVESTIGACION

TEORÍA DE LA INFORMACIÓN



Profesor: Ing. Jorge Daniel Llanos Panduro

Alumno: VILLAVICENCIO CÁRDENAS HANS ARTURO

Código: 20081135C

Láminaso ayuda gráfica _____
Presentación, claridad y estilo _____
Contenido y progresividad _____
Enfoque de Sistemas _____
Calidad y certeza en respuestas _____

TGS Ing. J. Daniel Llanos P.
ÍNDICE

1. INTRODUCCIÓN………………………………………………………………………….3
2. CONCEPTOS GENERALES Y GLOSARIO……………………………………………..5
3. ANTECEDENTES………………………………………………………………………..73.1. Andrei A. Markov…………………………………………………………………..7
3.2. Ralph V.L. Hartley………………………………………………………………....7
3.3. Alan Turing…………………………………………………………………………..8
3.4. John von Neumann………………………………………………………………...8
4. HISTORIA O DESARROLLO CRONOLÓGICO……………………………………..10
5. DESCRIPCIÓN ESPECIALIZADA……………………………………………………...13
5.1. ESQUE MA DE LA COMUNICACIÓN……………………………………....15
5.2. FUENTE DEINFORMACIÓN………………………………………………………...16
5.2.1. Clasificación de Fuentes…………………………………………..16
5.3. MENSAJE……………………………………………………………………………….17
5.4. CÓDIGO………………………………………………………………...………………17
5.4.1. Distintos tipo de códigos, Códigos decodificables…...…18
5.4.2. Códigos prefijos……………………………………………………….20
5.5. iNFORMACIÓN………………………………………………………………………...20
5.6. Entropía……………………………………………………………………………...23
5.6.1.Entropía de una fuente…………………………………………….23
5.7. Rata de Información………………………………………………………....…26
5.8. canal……………………………………………………………………...…………..26
5.9. Ejemplo ilustrativo……………………………………………………………..27
5.9.1. El clima en una cuidad……………………………………………..27

5.10. Matriz del Canal…………………………………………………………….….29

5.11. Capacidad del Canal……………………………………………………….….…..30
5.12. CODIFICACIÓN DE LAFUENTE…………………………………………..………30
5.13. CODIFICACIÓN DEL CANAL……………………………………………………….31
5.14. COMPRESIÓN DE DATOS………………………………………………………….33
5.9. Ruido…………………………………………………………………………………..35
5.10. Redundancia……………………………………………………………..……….36
5.11. EL APORTE DE WEAVER 37
6. RESUMEN 41
7. MAPA CONCEPTUAL .43
8. CONCLUSIONES 44
9. BIBLIOGRAFÍA 46INTRODUCCIÓN
Hace ya mucho tiempo que la información es almacenada en forma digital, sin embargo hubo un periodo durante el cual las computadoras aún estaban en sus primeros pasos, y donde los únicos medios de almacenamiento conocidos eran los libros. Entonces ¿cuándo fue que aparecieron grandes cantidades de información de todo tipo viajando distancias continentales alrededor del mundo?
Todoempezó con trabajos de grandes pensadores que precedieron a los inicios de esta era llamada “era de la información”, pero no se podría dejar de mencionar el trabajo final de un matemático e ingeniero eléctrico estadounidense, me refiero a Claude Elwood Shannon, se dedicó a elaborar una teoría sobre cómo tratar a la información, almacenarla en forma digital, además de establecer un sistema generalde la comunicación o transmisión de esta información, y más concretamente dedicada a la medición y la optimización de los recursos usados en el proceso de transmisión como el tiempo de transmisión, número de dígitos necesarios, capacidad del canal, compresión del mensaje.
Y poco después de este planteamiento, Warren Weaver aporta significativamente a esta teoría no sólo hablando acerca de lasbondades de este modelo, sino de sus numerosas aplicaciones y utilizaciones en diversos campos. Sus aportes dan alcances más allá de solamente el nivel técnico tratado por Shannon dotándola de un carácter universal, de amplia aplicación que prácticamente eleva esta importante teoría al nivel de paradigma.
En este trabajo se tratará fundamentos básicos de la teoría de la información...