Exponat 03 · Shannons Informationstheorie und Hammings Prüfstellen
Nachrichten und Übertragungsfehler unterscheiden
Shannon beschreibt 1948 die statistische Auswahl aus möglichen Nachrichten. Hamming zeigt, wie zusätzliche Prüfstellen Fehler erkennbar machen. Bedeutung, Kanalbedingungen und Fehlerkontrolle sind dabei verschiedene Fragen.
3 Minuten Haupttext · Stand: 8. September 2026
Bild vergrößern ↗Auf einen Blick
Wie lassen sich die Auswahl einer Nachricht und ihre zuverlässige Übertragung untersuchen, ohne ihren Sinn zu bewerten?
- Statistische Information misst keine Wahrheit oder Bedeutung einer Nachricht.
- Zusätzliche Prüfstellen können Übertragungsfehler sichtbar machen, beanspruchen aber selbst Platz.
- Ein Fehlernachweis ist noch keine sichere Bestimmung der fehlerhaften Stelle.
- Zeitliche Einordnung
- 1948 und 1950
- Orte und Regionen
- Bell Telephone Laboratories, USA
- Historisch Beteiligte
- Claude Shannon und Richard Hamming; John Tukey für die Bezeichnung Bit
Die Auswahl ist eine andere Frage als der Sinn
Welche von mehreren möglichen Nachrichten wird gesendet? Shannon macht diese Auswahl 1948 zum Gegenstand einer mathematischen Theorie. Dabei werden mögliche Nachrichten und ihre Wahrscheinlichkeiten betrachtet. Die Bedeutung des Gesagten gehört nicht zu derselben technischen Messaufgabe. Die Abgrenzung der Kommunikationstheorie
Zwei gleich lange Texte können deshalb statistisch unterschiedlich viel neue Auswahl enthalten. Stark vorhersehbare Folgen sind anders zu behandeln als gleich lange Folgen mit vielen unerwarteten Möglichkeiten. Daraus folgt keine Rangfolge ihrer Schönheit, Wahrheit oder gesellschaftlichen Bedeutung. Diese anderen Bewertungen brauchen andere Kriterien.
Quelle, Kanal und Empfänger auseinanderhalten
Shannon unterscheidet die Nachrichtenquelle, ihre technische Umsetzung, den Kanal und die Rückgewinnung auf der Empfangsseite. Eine Störung kann unterwegs eingreifen. Die Quelle und der Übertragungsweg stellen damit unterschiedliche Bedingungen an ein Verfahren. Die Teile des Kommunikationsmodells
Eine Quelle kann viele verschiedene Nachrichten hervorbringen, während ein Kanal nur bestimmte Signalfolgen pro Zeit zuverlässig unterscheidbar macht. Für einen sinnvollen Vergleich müssen deshalb die Möglichkeiten, Wahrscheinlichkeiten und Zeitbezüge benannt sein. Eine bloße Zeichenanzahl beschreibt noch nicht sämtliche Bedingungen der Übertragung.
Kapazität gilt unter Modellbedingungen
Die Theorie verbindet eine begrenzte Kanalkapazität mit geeigneter Kodierung. Unter den Voraussetzungen des Modells lässt sich die Fehlerwahrscheinlichkeit bei passenden Übertragungsraten beliebig klein machen. Das ist eine Aussage über erreichbare Zuverlässigkeit unter bestimmten Bedingungen. Kapazität und geeignete Kodierung
Sie behauptet weder, dass jede beliebige kurze Nachricht exakt fehlerfrei ankommt, noch dass die Wahl eines Codes keinen Aufwand verursacht. Die Beschreibung eines möglichen Grenzverhaltens und die Konstruktion eines konkreten brauchbaren Verfahrens sind verschiedene Aufgaben. Hammings Arbeit greift eine solche konkrete Fehlerfrage auf.
Eine zusätzliche Stelle prüft eine Eigenschaft
Hamming untersucht 1950 Codes, die Fehler erkennen und unter passenden Voraussetzungen korrigieren können. Ein einfacher Einstieg ist eine zusätzliche Paritätsstelle. Sie ergänzt eine Bitfolge so, dass die Anzahl ihrer Einsen insgesamt gerade ist. Prüfstellen und Fehlererkennung
Als eigenes Beispiel ergibt 101 mit angehängter Null die Folge 1010 mit zwei Einsen. Wird genau ein Bit verändert, ist die Anzahl anschließend ungerade: Die Prüfbedingung schlägt an. Das Beispiel ist eine eigens gewählte Denkstütze, kein aus Shannons Aufsatz übernommener Versuch oder historischer Messdatensatz.
Erkennen ist noch nicht lokalisieren
Die einfache Paritätsprüfung sagt noch nicht, welche Stelle verändert wurde. Zwei Bitänderungen können die gerade Anzahl sogar wiederherstellen und so unbemerkt bleiben. Hamming verbindet deshalb mehrere gezielt überlappende Prüfungen, deren gemeinsame Ergebnisse zusätzliche Unterscheidungen ermöglichen. Überlappende Prüfungen
Bei seinem Code mit sieben Positionen können drei Prüfungen eine Fehlerstelle bestimmen, wenn höchstens ein Fehler vorliegt. Diese Voraussetzung gehört zur Aussage. Ein zusätzliches Gesamtparitätsbit im erweiterten Code ermöglicht die Unterscheidung von Einzelfehlerkorrektur und Doppelfehlererkennung. Kein solcher Satz bedeutet Schutz gegen jede denkbare Störung.
Die zusätzliche Ordnung hat einen Preis
Prüfstellen beanspruchen Übertragungs- oder Speicherplatz. Ihr Nutzen entsteht daraus, dass nicht jede beliebige empfangene Folge als gleichberechtigte Nachricht gelten muss. Bestimmte Abweichungen von der vorgesehenen Ordnung werden dadurch erkennbar. Redundanz und die Aufgabe des Codes
Nimm zwei getrennte Fragen mit: Wie viel statistische Auswahl beschreibt die Quelle, und welche zusätzliche Ordnung macht Störungen unterscheidbar? Die erste bewertet keinen Sinn. Die zweite beseitigt weder alle Risiken noch alle Kosten. Zusammen ermöglichen sie eine präzisere Beurteilung von Kommunikation als die einfache Forderung nach immer mehr Zeichen pro Sekunde.
Grenzen des Wissens
Was offen bleibt
Die Aussagen gelten unter den jeweiligen Modellannahmen. Beliebig kleine Fehlerwahrscheinlichkeit bei geeigneter Kodierung ist keine Garantie exakt fehlerfreier beliebiger endlicher Nachrichten. Ein einfacher Paritätsvergleich lokalisiert einen Fehler nicht und kann zwei Änderungen übersehen.
Begriffe verstehen
Information in Bit
Statistisches Maß für die Auswahl aus möglichen Nachrichten unter festgelegten Wahrscheinlichkeiten.
Kanal
Übertragungsweg mit bestimmten Möglichkeiten, Beschränkungen und gegebenenfalls Störungen.
← Zur TextstelleRedundanz
Zusätzliche, durch andere Teile mitbestimmte Information, die etwa zur Fehlerkontrolle dienen kann.
Parität
Eigenschaft einer Anzahl, gerade oder ungerade zu sein; bei Bitfolgen als einfache Prüfbedingung nutzbar.
Quellen und Nachweise
Die Quellen sind den Aussagen im Text zugeordnet. Originalstudien, Sammlungstexte und eigene Einordnung erfüllen unterschiedliche Aufgaben. Einige Fachtexte sind beim Verlag nur teilweise frei zugänglich.
- Statistische Auswahl und Übertragungsbedingungen
Claude E. Shannon: A Mathematical Theory of Communication. Bell System Technical Journal 27, 1948; korrigierter gemeinsamer Nachdruck.
Wahrscheinlichkeiten und Kanalbedingungen, keine Messung von Sinn oder Wahrheit. Beliebig kleine Fehlerwahrscheinlichkeit nicht mit absoluter Fehlerfreiheit endlicher Nachrichten gleichgesetzt.
← Zur Textstelle 1: Die Auswahl ist eine andere Frage als der Sinn← Zur Textstelle 2: Quelle, Kanal und Empfänger auseinanderhalten← Zur Textstelle 3: Kapazität gilt unter Modellbedingungen - Fehler erkennen und unter Voraussetzungen lokalisieren
Richard W. Hamming: Error Detecting and Error Correcting Codes. Bell System Technical Journal 29, April 1950, S. 147–160.
Parität und überlappende Prüfungen mit jeweiliger Fehlerannahme. Das kleine Beispiel 1010 ist eine eigene Erklärung, kein historischer Messdatensatz.
← Zur Textstelle 1: Eine zusätzliche Stelle prüft eine Eigenschaft← Zur Textstelle 2: Erkennen ist noch nicht lokalisieren← Zur Textstelle 3: Die zusätzliche Ordnung hat einen Preis
Redaktion: Benjamin Metzig. Text und Quellen am 8. September 2026 geprüft. Generative KI diente als Werkzeug für Text und Bild.
Hinweis oder Korrektur an die Redaktion

