INFORMATION THEORY
| Titolo corso in inglese | INFORMATION THEORY |
| Anno Accademico | 2011/2012 |
| Codice Insegnamento | CM0184 |
| Crediti formativi universitari | 6 |
| Livello laurea | Laurea Magistrale dm270 |
| Settore scientifico disciplinare | INF/01 |
| Periodo | I Semestre |
| Anno corso | 1 |
| Sede | VENEZIA |
Docenti
Corsi di laurea e percorsi
Programma
Obiettivi Formativi
Il corso intende fornire un'introduzione ai concetti e ai risultati fondamentali della teoria dell'informazione e alle sue principali applicazioni nel campo dell'informatica.
Prerequisiti
E' necessario avere familiarità con i concetti fondamentali dell'analisi matematica e del calcolo delle probabilità.
Contenuti
Introduzione: Informazione e incertezza. Ridondanza e codifica di sorgente. Rumore e codifica di canale.
Codifica di sorgente: Codici univocamente decodificabili. Teorema di Sardinas-Patterson. Codici istantanei. Diseguaglianze di Kraft e McMillan. Codici di Huffman.
Entropia: Informazione, entropia e codifica di sorgente. Il primo teorema di Shannon.
Canali: Il BSC e altri canali notevoli. Informazione mutua. Capacità di canale. Regole di decisione. Il secondo teorema di Shannon.
Testi di riferimento
T. M. Cover and J. A. Thomas. Elements of Information Theory. Wiley, New York, 1991.
G. A. Jones and J. M. Jones. Information and Coding Theory. Springer, London, 2000.
Modalità di verifica dell'apprendimento
scritto
Metodi didattici
Lavagna.
Lingua di insegnamento
Italiano (Inglese nel caso di presenza di studenti stranieri)
