Introduccion a la teoria de la nformacion

INTRODUCCIÓN A LA TEORIA DE LA INFORMACIÓN

Lectura para la materia de Ciencia y Tecnología de la Comunicación y la Información II

Docente: Jimmy Alexander León

1. INFORMACIÓN Y SUS FUENTES

La teoría de la información, tiene su origen en el estudio de la comunicación eléctrica y no en el de la mecánica estadística,  algunas de las más importantes tienen su origen en los primeros orígenes de la comunicación eléctrica.

Durante un viaje trasatlántico en 1832, Samuel F. B. Morse, comenzó a trabajar en la primera forma verdaderamente lograda del telégrafo eléctrico. Tal como Morse lo hizo,  su telégrafo era mucho más complicado que el que se conoce ahora, aquel dibujaba sobre una cinta de papel, las líneas cortas y largas cuya sucesión representaba no las letras de una palabra, sino números asignados a palabras de un diccionario o libro código, que Morse completó en 1837. Esto era una forma eficiente pero incómoda de lo que se llamará codificar.

Traducir un mensaje en señales eléctricas,  éste es el verdadero objetivo de la teoría de la información.

Las dificultades que Morse encontró, con su hilo subterráneo, siguen siendo un problema importante. Circuitos diferentes que conduzcan igualmente una corriente estable, no son igualmente adecuados para una comunicación eléctrica. Si se envían puntos y rayas demasiado de prisa, en un circuito subterráneo o submarino, estos puntos y rayas llegan juntos al extremo receptor. Como lo indica la figura 2.1.

[pic 1]

Figura 2.1 Pulso a través de un circuito

Así como se ve en la figura 2.2, cuando se transmite una señal clara y distinta, puede suceder que se reciba una señal con elevaciones y caídas de corriente, que resulte difícil de interpretar.

[pic 2]

Figura 1.2 Señal afectada durante la transmisión.

Naturalmente, se hace puntos, espacios y rayas lo bastante largos, la corriente en el extremo alejado seguirá mejor a la corriente del extremo transmisor, pero esto disminuirá la velocidad de transmisión. Es claro que hay una velocidad límite de transmisión de puntos y rayas, asociada de algún modo con un circuito de transmisión dado.

Teniendo en cuenta esta limitación de la velocidad, se hicieron  varias cosas para aumentar el número de letras que se podían transmitir por un circuito dado, en un período dado de tiempo.

Thomas Edison inventó el sistema “cuádruplex”, que permite que un solo hilo transporte simultáneamente hasta dos mensajes en un sentido y dos en el contrario. Creaba así “líneas” suplementarias que no habían sido tendidas físicamente.  Este sistema usaba cuatro intensidades de voltaje diferentes; +3, +1, -3  y -1.

Obviamente, la cantidad de información que es posible enviar por un circuito, depende no sólo de cuán rápidamente es posible transmitir símbolos sucesivos por el circuito, sino también de cuántos símbolos diferentes están disponibles para ser elegidos.

Este uso de múltiples símbolos, puede conducir a dificultades. Se ha observado que los puntos y rayas transmitidos por un cable submarino largo, tienden a extenderse y a solaparse. Una identificación sencilla de un 1 ó 0, es más fácil y más segura, que una identificación complicada entre +3, -3 +1 y -1. Desde muy pronto se aplicaron las matemáticas a estos problemas.

Los métodos matemáticos que usaron, fueron una extensión del trabajo que un físico y matemático francés. Joseph Fourier, realizó en el siglo XIX, en relación con el flujo del calor. Este trabajo había sido aplicado al estudio de la vibración y fue una herramienta natural para el análisis del comportamiento de corrientes eléctricas que cambian con el tiempo de un modo complicado. El análisis de Fourier es una poderosa herramienta para el análisis de los problemas de transmisión, que proporciona a los matemáticos e ingenieros una asombrosa variedad de resultados, que no pueden ser obtenidos de otro modo.

Durante y después de la guerra el matemático Claude E. Shannon, se interesó en el problema de la comunicación. Shannon comenzó por considerar las ventajas relativas de los muchos, nuevos e ingeniosos sistemas de comunicación y buscó algún método básico de comparar sus méritos. En el mismo año (1948) en el que Wiener publicó su cibernética, que trata de la comunicación y el control, publicó Shannon, un artículo en dos partes que se considera como el fundamento de la TEORÍA DE LA INFORMACION.

1.1. MEDIDA DE INFORMACIÓN

...