Entropía De Idiomas
Páginas: 3 (645 palabras)
Publicado: 22 de noviembre de 2012
Instituto Politécnico Nacional
Unidad Profesional Interdisciplinaria en Ingeniería y Tecnologías Avanzadas
Práctica I – Entropía de idiomas
Teoría de la Información
Introducción
Laentropía es una medida de incertidumbre asociada a una variable aleatoria. Quiere decir que los cambios en los símbolos de un lenguaje con respecto a su probabilidad de aparición determina cuántainformación escencial está siendo transmitida.
Desarrollo
Textos analizados:
* Inglés: Moonchild, Aleister Crowley
* Francés: Les bijoux indiscrets. Denis Diderot
a) Diez caracteres deaparición más frecuente.
Inglés | Francés |
Letra | Frecuencia | Letra | Frecuencia |
e | 0.12702 | e | 0.16628 |
t | 0.09056 | a | 0.08122 |
a | 0.08167 | s | 0.07948 |
o | 0.07507 |i | 0.07534 |
i | 0.06966 | t | 0.07244 |
n | 0.06749 | n | 0.07095 |
s | 0.06327 | r | 0.06553 |
h | 0.06094 | u | 0.06369 |
r | 0.05987 | l | 0.05456 |
d | 0.04253 | o | 0.05387 |b) La entropía (información media que recibimos con cada símbolo) para una fuente sin memoria se calcula con la siguiente fórmula:
HS=Psilog261si
Inglés | Francés |
si | P(si) |log26(1/P(si)) | H(si) | si | P(si) | log26(1/P(si)) | H(si) |
e | 0.12279 | 0.643706288 | 0.081763573 | a | 0.08122 | 0.7705707 | 0.062586 |
t | 0.05290 | 0.902181684 | 0.081701573 | b | 0.00901 |1.4454514 | 0.013024 |
a | 0.00920 | 1.438903066 | 0.117515213 | c | 0.03345 | 1.0428492 | 0.034883 |
o | 0.02558 | 1.125188105 | 0.084467871 | d | 0.03669 | 1.014473 | 0.037221 |
i | 0.04703 |0.938277352 | 0.0653604 | e | 0.16628 | 0.5506535 | 0.091563 |
n | 0.02129 | 1.181494887 | 0.07973909 | f | 0.01066 | 1.3938374 | 0.014858 |
s | 0.05915 | 0.867892581 | 0.054911564 | g | 0.00866 |1.457612 | 0.012623 |
h | 0.06506 | 0.838663349 | 0.051108144 | h | 0.00737 | 1.5071185 | 0.011107 |
r | 0.10607 | 0.688645885 | 0.041229229 | i | 0.07534 | 0.7936364 | 0.059793 |
d | 0.06516 |...
Unidad Profesional Interdisciplinaria en Ingeniería y Tecnologías Avanzadas
Práctica I – Entropía de idiomas
Teoría de la Información
Introducción
Laentropía es una medida de incertidumbre asociada a una variable aleatoria. Quiere decir que los cambios en los símbolos de un lenguaje con respecto a su probabilidad de aparición determina cuántainformación escencial está siendo transmitida.
Desarrollo
Textos analizados:
* Inglés: Moonchild, Aleister Crowley
* Francés: Les bijoux indiscrets. Denis Diderot
a) Diez caracteres deaparición más frecuente.
Inglés | Francés |
Letra | Frecuencia | Letra | Frecuencia |
e | 0.12702 | e | 0.16628 |
t | 0.09056 | a | 0.08122 |
a | 0.08167 | s | 0.07948 |
o | 0.07507 |i | 0.07534 |
i | 0.06966 | t | 0.07244 |
n | 0.06749 | n | 0.07095 |
s | 0.06327 | r | 0.06553 |
h | 0.06094 | u | 0.06369 |
r | 0.05987 | l | 0.05456 |
d | 0.04253 | o | 0.05387 |b) La entropía (información media que recibimos con cada símbolo) para una fuente sin memoria se calcula con la siguiente fórmula:
HS=Psilog261si
Inglés | Francés |
si | P(si) |log26(1/P(si)) | H(si) | si | P(si) | log26(1/P(si)) | H(si) |
e | 0.12279 | 0.643706288 | 0.081763573 | a | 0.08122 | 0.7705707 | 0.062586 |
t | 0.05290 | 0.902181684 | 0.081701573 | b | 0.00901 |1.4454514 | 0.013024 |
a | 0.00920 | 1.438903066 | 0.117515213 | c | 0.03345 | 1.0428492 | 0.034883 |
o | 0.02558 | 1.125188105 | 0.084467871 | d | 0.03669 | 1.014473 | 0.037221 |
i | 0.04703 |0.938277352 | 0.0653604 | e | 0.16628 | 0.5506535 | 0.091563 |
n | 0.02129 | 1.181494887 | 0.07973909 | f | 0.01066 | 1.3938374 | 0.014858 |
s | 0.05915 | 0.867892581 | 0.054911564 | g | 0.00866 |1.457612 | 0.012623 |
h | 0.06506 | 0.838663349 | 0.051108144 | h | 0.00737 | 1.5071185 | 0.011107 |
r | 0.10607 | 0.688645885 | 0.041229229 | i | 0.07534 | 0.7936364 | 0.059793 |
d | 0.06516 |...
Leer documento completo
Regístrate para leer el documento completo.