Lehrveranstaltungsankündigung
INFORMATIONS- UND
KODIERUNGSTHEORIE
UNTERTITEL INFORMATIONSTHEORIE
Vorlesung und Übung

NOTWENDIGE VORKENNTNISSE

Grundkenntnisse, wie sie in den Algebra- und Analysisvorlesungen des 1. Studienjahres oder den Mathematikvorlesungen für Informatiker vermittelt werden.

INHALT DER LEHRVERANSTALTUNG

Das grundlegende Problem der Datenübertragung ist, Nachrichten schnell über fehleranfällige Kanäle zu transportieren. Dazu gehören:

• Effizientes Codieren der Nachricht (Datenkompression),
• Sicheres und schnelles Übertragen der Nachricht durch einen fehleranfälligen Kanal.

Die Informationstheorie liefert eine mathematische Beschreibung dieses Problems. Ihre Sätze [Shannon, 1948] liefern theoretische Grenzen der Datenkompression und Algorithmen, mit denen diese Grenzen erreicht werden können, und geben die maximale Übertragungsrate durch einen fehleranfälligen Kanal an.

Inhalt der Vorlesung:

• Messen von Information.
• Quellencodierung, Beweis des ``Noiseless Coding Theorems''.
• Konsequenzen der Shannon'schen Sätze zur Quellcodierung für die maximal erreichbare Kompressionsrate von Daten.
• Übertragungskanäle und Kanalcodierung, obere Schranken für die Informationsmenge, die über einen fehleranfälligen Kanal transportiert werden kann.
• Beweis von Shannons Kanalcodierungssatz, der angibt, dass man auch durch einen fehleranfälligen Kanal Daten mit beliebig großer Sicherheit übertragen kann, ohne dabei die Datenübertragungsrate zu klein werden zu lassen.
• Erreichbare Übertragungsfehlerraten bei vorgegebener Übetragungsrate und Kanalfehlerrate.
• Praktische Verfahren der Kanalkodierung; lineare Codes.

LITERATUR/SKRIPTUM

Grundlage der Vorlesung sind die Kapitel 1-5 des Buches [Ash, 1990], sowie [MacKay, 2003] und [Cover and Thomas, 2006].

Bibliography

Ash, 1990

Ash, R. B. (1990).
Information theory.
Dover Publications Inc., New York.
Corrected reprint of the 1965 original.

Cover and Thomas, 2006

Cover, T. M. and Thomas, J. A. (2006).
Elements of information theory.
Wiley-Interscience [John Wiley & Sons], Hoboken, NJ, second edition.

MacKay, 2003

MacKay, D. J. C. (2003).
Information theory, inference and learning algorithms.
Cambridge University Press, New York.
The book can be viewed at http://www.inference.phy.cam.ac.uk/mackay/itprnn/book.html.

Shannon, 1948

Shannon, C. E. (1948).
A mathematical theory of communication.
Bell System Tech. J., 27:379-423, 623-656.

ÜBUNGSMODUS

Die Übungen bestehen aus:

• Vorrechnen von Übungsbeispielen,
• wahlweise: Implementieren und Untersuchen von Algorithmen am Computer.

ANMELDUNG

Bitte geben Sie unter http://www.kusss.jku.at Ihre Daten bekannt.

About this document ...

Lehrveranstaltungsankündigung
INFORMATIONS- UND
KODIERUNGSTHEORIE
UNTERTITEL INFORMATIONSTHEORIE
Vorlesung und Übung

This document was generated using the LaTeX2HTML translator Version 2002-2-1 (1.71)

Copyright © 1993, 1994, 1995, 1996, Nikos Drakos, Computer Based Learning Unit, University of Leeds.
Copyright © 1997, 1998, 1999, Ross Moore, Mathematics Department, Macquarie University, Sydney.

The command line arguments were:
latex2html -split 3 info08-ank

The translation was initiated by Erhard Aichinger on 2008-10-02