INFORMATIONSTHEORIE UND KODIERUNG

NUMMER: n.n
KÜRZEL: itc
MODULBEAUFTRAGTE:R: Prof. Dr. Michael Walter
DOZENT:IN: Inhaber*in der Professur „Quanteninformation“ (in Besetzung)
FAKULTÄT: Fakultät für Informatik
SPRACHE: Englisch
SWS: 4
CREDITS: 5
ANGEBOTEN IM: jedes Wintersemester

PRÜFUNGEN

FORM: Schriftliche Modulabschlussprüfung
TERMIN: Siehe Prüfungsamt.

LERNFORM

Hörsaalvorlesung mit Medienunterstützung, Tutorien als seminaristischer
Unterricht, praktische Übungen, zusätzlich Selbststudium mit ergänzend
bereitgestellten Materialien und Aufgaben

LERNZIELE

Nach dem erfolgreichen Abschluss des Moduls
- erstehen die Studierenden die Grundbegriffe der Informationstheorie und können diese anwenden
- kennen die Studierende abstrakte informationstheoretische Modelle,
Konzepte und Methoden zur Analyse theoretischer Grenzen einer
zuverlässigen kodierten Informationsübertragung
- kennen die Studierenden informationstheoretische Beschreibung und Kenngrößen der Quellenmodelle, des Übertragungskanals und der
Leitungscodierungen. Sie verstehen Optimalcodierungen und
fehlerkorrigierende Codierungsverfahren
werden die Studierenden in die Lage versetzt, Codes hinsichtlich Redundanz,
Störsicherheit und Chiffrierung zu bewerten und zu synthetisieren.
- können die Studierenden die Effizienz der Redundanzreduktion für bekannte
Standardverfahren in modernen Informationsübertragungssystemen
analysieren
- erwerben die Studierenden die Fähigkeit, neue Verfahren der
Codierungstechnik zu verstehen, zu bewerten und zu synthetisieren

INHALT

Die Lehrveranstaltung gibt eine Einführung in die Grundlagen der Shannonschen
Informationstheorie. Ziel ist es, wesentliche informationstheoretische Resultate zur
maximal möglichen verlustlosen und verlustbehafteten Komprimierung von Daten
und zur maximalen Geschwindigkeit einer zuverlässigen Datenübertragung
herzuleiten. Dafür werden zunächst die für die analytischen Betrachtungen
benötigten Hilfsmittel (Entropie, Transinformation, Kapazität, etc.) eingeführt und
deren Eigenschaften analysiert. Ziel der Lehrveranstaltung ist es, sowohl mit den
Theoretischen Grundlagen der Informationstheorie vertraut zu machen als auch
den praktischen Einsatz der Theorie anhand ausgewählter Beispiele zu zeigen
Die Inhaltstruktur ist wie folgt:
- Grundlagen der Informationstheorie (Selbstinformation, Entropie,
Transinformation, Quellencodierungstheorem, Kanalcodierungstheorem,
Kanalkapazität verschiedener Kanäle)
- Grundlegende Algorithmen der Quellencodierung (Huffman Code, Lempel Ziv
Algorithmus)
- Grundlagen der Kanalcodierung (grundlegende Parameter, Decodierung,
Fehler-wahrscheinlichkeit)
- Blockcodes, LDPC-Codes, Faltungscodes und Turbo Codes
- Codierte Modulation

VORAUSSETZUNGEN CREDITS

Bestandene Modulabschlussprüfung

EMPFOHLENE VORKENNTNISSE

Inhalte der Grundlagenmodule in Mathematik (Inhalt der Module Mathematik
1 – Grundlagen, Mathematik 2 – Algorithmische Mathematik und
Mathematik 3 – Anwendungen) und Informatik (Inhalte der Module
Informatik 1 – Programmieren und Informatik 3 – Theoretische Informatik

LITERATUR

1. R. G. Gallager: „Information Theory and Reliable Communication”, Springer
Verlag
2. T. Cover, J. Thomas: “Elements of Information Theory”, Wiley
3. R. Roth: „Introduction to Coding Theory“, Cambridge University Press
4. T. Richardson, R. Urbanke: ”Modern Coding Theory”, Cambridge University
Press

AKTUELLE INFORMATIONEN

5/165
(Im Studiengang werden Module im Umfang von 165 CP benotet und 15 CP nicht
benotet)

SONSTIGE INFORMATIONEN

Aktuelle Informationen wie Vorlesungstermine, Räume oder aktuelle Dozent*innen
und Übungsleiter*innen sind im Vorlesungsverzeichnis der Ruhr-Universität
https://vvz.rub.de/ und im eCampus https://www.rub.de/ecampus/ecampuswebclient/ zu finden