Zum Museumsinhalt

Exponat 03 · Shannons Informationstheorie und Hammings Prüfstellen

Nachrichten und Übertragungsfehler unterscheiden

Shannon beschreibt 1948 die statistische Auswahl aus möglichen Nachrichten. Hamming zeigt, wie zusätzliche Prüfstellen Fehler erkennbar machen. Bedeutung, Kanalbedingungen und Fehlerkontrolle sind dabei verschiedene Fragen.

3 Minuten Haupttext · Stand: 8. September 2026

Buntstiftzeichnung zweier Viererfolgen: oben zwei gefüllte Felder, unten nach einer Änderung drei; im Hintergrund Radio und Kopfhörer.Bild vergrößern ↗
Eigenes Paritätsbeispiel: Gefüllte Kreise stehen für Einsen. Oben 1010, unten 1110 nach einer Änderung. Der Vergleich zeigt den Paritätswechsel, keine Fehlerlokalisierung durch die einzelne Prüfbedingung.

Auf einen Blick

Wie lassen sich die Auswahl einer Nachricht und ihre zuverlässige Übertragung untersuchen, ohne ihren Sinn zu bewerten?

  • Statistische Information misst keine Wahrheit oder Bedeutung einer Nachricht.
  • Zusätzliche Prüfstellen können Übertragungsfehler sichtbar machen, beanspruchen aber selbst Platz.
  • Ein Fehlernachweis ist noch keine sichere Bestimmung der fehlerhaften Stelle.
Zeitliche Einordnung
1948 und 1950
Orte und Regionen
Bell Telephone Laboratories, USA
Historisch Beteiligte
Claude Shannon und Richard Hamming; John Tukey für die Bezeichnung Bit

Die Auswahl ist eine andere Frage als der Sinn

Welche von mehreren möglichen Nachrichten wird gesendet? Shannon macht diese Auswahl 1948 zum Gegenstand einer mathematischen Theorie. Dabei werden mögliche Nachrichten und ihre Wahrscheinlichkeiten betrachtet. Die Bedeutung des Gesagten gehört nicht zu derselben technischen Messaufgabe. Die Abgrenzung der Kommunikationstheorie

Zwei gleich lange Texte können deshalb statistisch unterschiedlich viel neue Auswahl enthalten. Stark vorhersehbare Folgen sind anders zu behandeln als gleich lange Folgen mit vielen unerwarteten Möglichkeiten. Daraus folgt keine Rangfolge ihrer Schönheit, Wahrheit oder gesellschaftlichen Bedeutung. Diese anderen Bewertungen brauchen andere Kriterien.

Quelle, Kanal und Empfänger auseinanderhalten

Shannon unterscheidet die Nachrichtenquelle, ihre technische Umsetzung, den Kanal und die Rückgewinnung auf der Empfangsseite. Eine Störung kann unterwegs eingreifen. Die Quelle und der Übertragungsweg stellen damit unterschiedliche Bedingungen an ein Verfahren. Die Teile des Kommunikationsmodells

Eine Quelle kann viele verschiedene Nachrichten hervorbringen, während ein Kanal nur bestimmte Signalfolgen pro Zeit zuverlässig unterscheidbar macht. Für einen sinnvollen Vergleich müssen deshalb die Möglichkeiten, Wahrscheinlichkeiten und Zeitbezüge benannt sein. Eine bloße Zeichenanzahl beschreibt noch nicht sämtliche Bedingungen der Übertragung.

Kapazität gilt unter Modellbedingungen

Die Theorie verbindet eine begrenzte Kanalkapazität mit geeigneter Kodierung. Unter den Voraussetzungen des Modells lässt sich die Fehlerwahrscheinlichkeit bei passenden Übertragungsraten beliebig klein machen. Das ist eine Aussage über erreichbare Zuverlässigkeit unter bestimmten Bedingungen. Kapazität und geeignete Kodierung

Sie behauptet weder, dass jede beliebige kurze Nachricht exakt fehlerfrei ankommt, noch dass die Wahl eines Codes keinen Aufwand verursacht. Die Beschreibung eines möglichen Grenzverhaltens und die Konstruktion eines konkreten brauchbaren Verfahrens sind verschiedene Aufgaben. Hammings Arbeit greift eine solche konkrete Fehlerfrage auf.

Eine zusätzliche Stelle prüft eine Eigenschaft

Hamming untersucht 1950 Codes, die Fehler erkennen und unter passenden Voraussetzungen korrigieren können. Ein einfacher Einstieg ist eine zusätzliche Paritätsstelle. Sie ergänzt eine Bitfolge so, dass die Anzahl ihrer Einsen insgesamt gerade ist. Prüfstellen und Fehlererkennung

Als eigenes Beispiel ergibt 101 mit angehängter Null die Folge 1010 mit zwei Einsen. Wird genau ein Bit verändert, ist die Anzahl anschließend ungerade: Die Prüfbedingung schlägt an. Das Beispiel ist eine eigens gewählte Denkstütze, kein aus Shannons Aufsatz übernommener Versuch oder historischer Messdatensatz.

Erkennen ist noch nicht lokalisieren

Die einfache Paritätsprüfung sagt noch nicht, welche Stelle verändert wurde. Zwei Bitänderungen können die gerade Anzahl sogar wiederherstellen und so unbemerkt bleiben. Hamming verbindet deshalb mehrere gezielt überlappende Prüfungen, deren gemeinsame Ergebnisse zusätzliche Unterscheidungen ermöglichen. Überlappende Prüfungen

Bei seinem Code mit sieben Positionen können drei Prüfungen eine Fehlerstelle bestimmen, wenn höchstens ein Fehler vorliegt. Diese Voraussetzung gehört zur Aussage. Ein zusätzliches Gesamtparitätsbit im erweiterten Code ermöglicht die Unterscheidung von Einzelfehlerkorrektur und Doppelfehlererkennung. Kein solcher Satz bedeutet Schutz gegen jede denkbare Störung.

Die zusätzliche Ordnung hat einen Preis

Prüfstellen beanspruchen Übertragungs- oder Speicherplatz. Ihr Nutzen entsteht daraus, dass nicht jede beliebige empfangene Folge als gleichberechtigte Nachricht gelten muss. Bestimmte Abweichungen von der vorgesehenen Ordnung werden dadurch erkennbar. Redundanz und die Aufgabe des Codes

Nimm zwei getrennte Fragen mit: Wie viel statistische Auswahl beschreibt die Quelle, und welche zusätzliche Ordnung macht Störungen unterscheidbar? Die erste bewertet keinen Sinn. Die zweite beseitigt weder alle Risiken noch alle Kosten. Zusammen ermöglichen sie eine präzisere Beurteilung von Kommunikation als die einfache Forderung nach immer mehr Zeichen pro Sekunde.

Grenzen des Wissens

Was offen bleibt

Die Aussagen gelten unter den jeweiligen Modellannahmen. Beliebig kleine Fehlerwahrscheinlichkeit bei geeigneter Kodierung ist keine Garantie exakt fehlerfreier beliebiger endlicher Nachrichten. Ein einfacher Paritätsvergleich lokalisiert einen Fehler nicht und kann zwei Änderungen übersehen.

Begriffe verstehen

Information in Bit

Statistisches Maß für die Auswahl aus möglichen Nachrichten unter festgelegten Wahrscheinlichkeiten.

Kanal

Übertragungsweg mit bestimmten Möglichkeiten, Beschränkungen und gegebenenfalls Störungen.

← Zur Textstelle
Redundanz

Zusätzliche, durch andere Teile mitbestimmte Information, die etwa zur Fehlerkontrolle dienen kann.

Parität

Eigenschaft einer Anzahl, gerade oder ungerade zu sein; bei Bitfolgen als einfache Prüfbedingung nutzbar.

Quellen und Nachweise

Die Quellen sind den Aussagen im Text zugeordnet. Originalstudien, Sammlungstexte und eigene Einordnung erfüllen unterschiedliche Aufgaben. Einige Fachtexte sind beim Verlag nur teilweise frei zugänglich.

  1. Statistische Auswahl und Übertragungsbedingungen

    Claude E. Shannon: A Mathematical Theory of Communication. Bell System Technical Journal 27, 1948; korrigierter gemeinsamer Nachdruck.

    Wahrscheinlichkeiten und Kanalbedingungen, keine Messung von Sinn oder Wahrheit. Beliebig kleine Fehlerwahrscheinlichkeit nicht mit absoluter Fehlerfreiheit endlicher Nachrichten gleichgesetzt.

    ← Zur Textstelle 1: Die Auswahl ist eine andere Frage als der Sinn← Zur Textstelle 2: Quelle, Kanal und Empfänger auseinanderhalten← Zur Textstelle 3: Kapazität gilt unter Modellbedingungen
  2. Fehler erkennen und unter Voraussetzungen lokalisieren

    Richard W. Hamming: Error Detecting and Error Correcting Codes. Bell System Technical Journal 29, April 1950, S. 147–160.

    Parität und überlappende Prüfungen mit jeweiliger Fehlerannahme. Das kleine Beispiel 1010 ist eine eigene Erklärung, kein historischer Messdatensatz.

    ← Zur Textstelle 1: Eine zusätzliche Stelle prüft eine Eigenschaft← Zur Textstelle 2: Erkennen ist noch nicht lokalisieren← Zur Textstelle 3: Die zusätzliche Ordnung hat einen Preis

Redaktion: Benjamin Metzig. Text und Quellen am 8. September 2026 geprüft. Generative KI diente als Werkzeug für Text und Bild.

Hinweis oder Korrektur an die Redaktion

Zusammenhänge entdecken

Bildansicht

100 %

Mit + Details vergrößern. Das vergrößerte Bild lässt sich mit dem Finger, der Maus oder den Pfeiltasten verschieben.

Bilddatei in voller Größe öffnen ↗