4 Informationstheorie (S. 47-48)

Helmut Löffler
Die von Claude E. Shannon im Jahr 1948 veröffentlichte Publikation „A mathematical theory of communication" /4.9/ gilt als Basiswerk der modernen Informationstheorie.

Zentraler Begriff der Informationstheorie ist die Information, ihre Definition und quantitative Bewertung.

Aus Kapitel 1 ist bekannt: Information ist neues Wissen über einen Sachverhalt oder Tatbestand (?1.1). Information ist transportabel. Mithilfe von Trägern, den Signalen (?2), kann Information in Form von Nachrichten von Informationsquellen zu Informationssenken übertragen werden. Von fundamentaler Bedeutung ist hierbei, dass die in der Empfangsnachricht enthaltene Information trotz der Störungen auf dem Übertragungsweg mit der Originalnachricht übereinstimmt.

4.1 Aspekte der Information
Die in einer Nachricht enthaltene Information kann nach drei wesentlichen Gesichtspunkten analysiert und bewertet werden. Erstens lässt sich untersuchen, ob die empfangene Information strukturell aus Informationselementen besteht, die überhaupt verständlich bzw. auswertbar sind. Die Information ist zweitens hinsichtlich ihres Bedeutungsinhaltes analysierbar und drittens nach dem praktischen Wert, den sie zum Empfangszeitpunkt für den Empfänger besitzt.

Aspekte der Information: Gesichtspunkte, nach denen Informationen untersucht werden können. Diese Gesichtspunkte der Information heißen syntaktischer, semantischer und pragmatischer Aspekt.

Syntaktischer Aspekt
Unter der Syntax versteht man die orthografischen und grammatischen Regeln einer Sprache. Der syntaktische Aspekt einer Information bezieht sich auf die richtige Reihenfolge und das Vorhandensein erlaubter Einzelelemente der Information. Dass sich jede Information aus Elementen zusammensetzt, ist uns intuitiv bekannt: Ein gesprochenes oder geschriebenes Wort oder ein Satz, mit dem wir etwas mitteilen wollen, besteht aus einer Anordnung von Buchstaben und Symbolen. Die Buchstaben und Symbole sind die elementaren Komponenten, aus denen sich Informationen zusammensetzen. Im Weiteren wird für diese Informationselemente der Begriff Zeichen benutzt.

Der syntaktische Aspekt einer Information umfasst die Gesamtheit der Beziehungen zwischen den Zeichen. Hierzu gehören insbesondere die wechselseitige Anordnung, die Anzahl und die Auswertbarkeit. In der Nachrichtentechnik kommt es in erster Linie darauf an, dass die von einer Nachrichtenquelle ausgesandte Information unverfälscht, ohne syntaktische Fehler, zum Empfänger gelangt. Die mathematische Theorie des syntaktischen Aspekts der Information ist gut entwickelt. Dies trifft noch nicht auf die beiden anderen Informationsaspekte zu.

Semantischer Aspekt
Die Semantik ist die Bedeutungslehre. In Kybernetik und Nachrichtentechnik versteht man darunter den Sinn und Inhalt, den eine Information verkörpert.

Der semantische Aspekt einer Information umfasst die Bedeutung bzw. Bedeutungsinhalte von Zeichen, Zeichenketten und Zeichenanordnungen.

Pragmatischer Aspekt
Pragmatischer Aspekt einer Information: Zusammenhang, der zwischen Zeichen bzw. Zeichenanordnungen besteht, die eine Information darstellen, und zwischen den Systemen, welche die Information nutzen. Eine wichtige Seite des pragmatischen Aspekts ist der praktische Wert, den eine Information zum Empfangszeitpunkt für den Informationsempfänger bzw. -anwender besitzt. Typisches Merkmal für den pragmatischen Wert von Information ist beispielsweise die Zeitabhängigkeit in der industriellen Prozesskontrolle und -überwachung. Der pragmatische Wert der Information über eine möglicherweise bevorstehende Havarie oder Gefahrensituation ist sehr groß, wenn die betreffende Nachricht rechtzeitig eintrifft, und nicht vorhanden, wenn die Information über ein bevorstehendes Ereignis erst nach dessen Stattfinden ankommt.

4.2 Statistische Informationstheorie

Gegenstand der (hier behandelten) Informationstheorie ist nur der syntaktische Aspekt. Es interessieren nur Anzahl und Auswertbarkeit von Zeichen und Zeichenanordnungen.