Information und Kommunikation

Entropie (Informationstechnisch)

Die statistische Mechanik und die Thermodynamik haben den Entropiebegriff für sich als die Zunahme der Unordnung eines Systems definiert. Über das Gedankenexperiment des sortierenden Dämons haben wir bereits kennen gelernt, dass der Aufwand für die Informationsbeschaffung ebenfalls mit dem Begriff der Entropie in Verbindung gebracht wird.

Claude Elwood Shannon hat denselben Begriff in die Informationstheorie eingeführt. In seiner Arbeit „A Mathematical Theory of Communication“ verleiht er der Informationstheorie wesentliche Impulse. Mit seinen Grundlagen hat er für die Entwicklung der Computertechnik und der damit verbundenen Software die Fundamente gelegt. Die enge Verbindung zu seinem Doktorvater Vanevar Bush weist auf den indirekten Einfluss hin, den er auf die Entwicklung der modernen Kommunikationsnetze und vor allem auch des Internets hatte.

Shannon definierte die Entropie als die Wahrscheinlichkeit, mit der ein Symbol des Alphabets in einem Text auftritt. Ein damit zusammenhängender Begriff ist die Redundanz eines Textes (oder eines Informationsflusses). Die Definition ist leichter zu verstehen, wenn man die Grenzwerte betrachtet.

Sendet eine Nachrichtenquelle immer dieselbe Information, dann ist die Entropie = 0, denn die Wahrscheinlichkeit für das Auftreten einer Information ist = 1. Man kann sicher sein, dass die Information kommt. Es besteht keine Unsicherheit über die Information der nächsten Nachricht.

Sendet eine Informationsquelle keine Nachricht, dann ist die Entropie ebenfalls = 0, denn dies trägt überhaupt nicht zur Verbesserung der Information beim Empfänger bei. Eine Kommunikation findet nicht statt.

Zwischen den Extremen „gar keine Information“ und „immer dieselbe Information“ bewegt sich der Wert der Entropie. Ist die Wahrscheinlichkeit für eine Information gleich verteilt, d.h. jedes Ereignis tritt mit der gleichen Wahrscheinlichkeit ein, dann ist die Entropie am höchsten. Die Unordnung in der Nachrichtenfolge ist am größten. Bei einer Gleichverteilung der Buchstaben (oder der Worte) lässt sich keine Ordnung ausmachen. Es gibt also keine gerichtete Kommunikation und die Unordnung des Informationsflusses ist maximal – das weiße Rauschen, die gleichverteilten Punkte. In dem Fall ist der Informationsgehalt einer geordneten Nachricht besonders hoch.

PPT Entropie

Ähnliches gilt für die Thermodynamik. Ein geschlossenes System gleicht alle Konzentrationen oder geordneten Teilgebiete im Laufe der Zeit aus. Die Temperaturen gleichen sich an, die Geschwindigkeiten der Moleküle synchronisieren sich, Farben einer Flüssigkeit fließen ineinander in ein Einheitsgrau.

Ein geschlossenes System neigt dazu, die Wahrscheinlichkeiten des Auftretens auszugleichen; es geht also von einer größeren Ordnung in eine Unordnung über. Im Sinne der statistischen Mechanik wird es niemals selbständig einen unwahrscheinlicheren Zustand einnehmen. Der unwahrscheinlichere Zustand ist der mit einer größeren Ordnung. Im informationstheoretischen Sinne erreicht man den Zustand der größeren Ordnung nur, indem man dem System negative Entropie zuführt. Man sortiert Information, man kommuniziert im besten Sinne des Wortes. Die Erhöhung des Informationsgehaltes ist nur über die Strukturierung mittels Negentropie erreichbar.

Aus einer willkürlichen, gleichverteilten Folge von Buchstaben des Alphabets, von Tönen (Signalen), von Farbtupfern oder Sprachlauten wird Kommunikation durch Ordnung. Man führt dem ungeordneten System Arbeit, Energie, Know How oder Wärme zu und hebt es somit auf eine Stufe höherer Ordnung. Genau genommen werden sich die zugeführten Kräfte ineinander überführen oder umrechnen lassen, so dass wenige elementare Ressourcen verbleiben (Energie und Know How). Aus diesen entsteht eine Kommunikation als gerichteter Informationsfluss, der beiden Teilnehmern höchsten Nutzen stiftet.

Der Sender packt eine Nachricht in eine optimale Kommunikationsform und der Empfänger entpackt diese Information, interpretiert sie vor dem Hintergrund seines Weltbildes und versteht im Idealfall das, was der Absender übermitteln wollte. Die Nachricht muss die nötige Redundanz haben, damit sie verständlich ist. Sie sollte aber nicht zu redundant sein, denn vom Höhepunkt einer idealen Mischung aus geordneter zu ungeordneter Information sinkt die Verständlichkeit wieder ab.

Als ob das nicht schon kompliziert genug ist, muss man beim Versenden einer Nachricht auch die Erwartung oder die Aufnahmefähigkeit des Rezipienten kennen. Sie ist entscheidend für das Gelingen einer Kommunikation. Trifft man die Fähigkeiten oder die Erwartungen – das Weltbild – des Empfängers nicht, dann kann auch eine technisch perfekte, optimal codierte und optimierte Information nicht in eine gelungene Kommunikation münden. Damit haben wir die Brücke geschlagen von der Kunst als einer Kommunikationsmöglichkeit zu der modernen Computertechnik und der Übertragung in Netzwerken als einer anderen Kommunikationsform.

Wir haben bereits die Analogie von Thermodynamik und Mechanik zur Informationstechnik gefunden. Jetzt wollen wir die Informationsnetzwerke in das Gesamtkunstwerk der menschlichen Kommunikation einbringen.

Die Kunst ist eine Kommunikationsform, die Werte von einem Menschen zum anderen übertragen soll, oder wie Tolstoi sagt, der Künstler will anderen das von ihm empfundene Gefühl mitteilen. Wir sehen deutlich die unterschiedlichen Ziele der Kommunikation, d.h. des Informationsaustauschs. Der Informationsbegriff, der hinter der Definition von Shannon steht, braucht eigentlich nur Mathematik und Physik. Die Kunst braucht alles mögliche, Talent, Einfühlungsvermögen, Weltsicht oder Kreativität. Jedenfalls braucht die Kunst nicht Mathematik und Physik.

Es gibt eine kreative Betätigung – in diesem Sinne künstlerisches Schaffen – auf der Basis von Mathematik und Physik oder allgemein auf der Basis von Naturwissenschaften. Der Künstler übermittelt dann nicht Gefühle, sondern technische Weltbilder. Er wird in dem Fall nicht Künstler genannt, sondern Wissenschaftler.

Die Kommunikation von Shannon eignet sich besonders für die Verständigung zwischen Maschinen und darüber hinaus kann sie auch ein Trägermedium für die Kommunikation zwischen Menschen sein. Mit Kunst ist nur die Kommunikation zwischen Menschen möglich, nicht aber zwischen Maschinen.

Die Kommunikation zwischen Maschinen tauscht Information und auf dieser Basis auch Know How aus. Die Kommunikation der Kunst übermittelt Gefühl. Die Shannon Kommunikation ist für Interaktionen geeignet, die Kunst sendet ihre Botschaften ziellos aus.

Die Art der Kommunikation gehört zu einer Gesellschaft, wie ihre Technik, ihre Kunst und ihre Ökonomie. Jede Gesellschaft oder jedes gesellschaftliche Stadium wird eine Mischung von technischer Kommunikation oder Wissenstransfer und Kunst oder emotionaler Kommunikation realisieren. Dabei ist das Realisieren kein gesteuerter Prozess, sondern ein Ergebnis der Strukturen, der Ethik und der Moral. Insofern kann man sich die Kommunikation nicht als eine Schicht oder ein Teil des Systems vorstellen. Sie ist vielmehr eine Strukturkonstante, ein Prinzip, das sich durch alle Schichtungen einer menschlichen Gemeinschaft zieht, von der Kultur über die Wissenschaft bis zur Ökonomie und darüber hinaus in die Politik und die asozialen Bereiche.

Kommunikation in der technischen Gesellschaft

Wir haben an anderer Stelle die abendländische Gesellschaft als eine technologische Kultur bezeichnet, charakterisiert durch Quantität, atomistisches Denken und Träger einer mechanistischen Weltanschauung. Der aktuelle langfristige Technikzyklus ist von der Kommunikation zwischen Maschinen geprägt mit seiner Weiterentwicklung zur Vernetzung von Computern und der Steuerung solcher Systeme im Sinne eines kybernetischen Regelkreises.

Die industrielle Revolution etablierte ein neues Weltbild auf der Basis naturwissenschaftlicher Erkenntnisse. Die daraus abgeleiteten und neu erfundenen Produkte werden bewertet und liefern die Grundlage für eine aufstrebende Ökonomie. Die Mechanisierung ergriff nicht nur die privaten Lebensbereiche, sondern auch die Produktion in der Industrie. Immer neue Produktionsumwege wurden erdacht, die zu schnelleren, komplexeren oder billigeren Methoden führten. Der technische Fortschritt verlangte nach atomistischer Zerlegung der Prozesse und Spezialisierung der Akteure. Die Datenverarbeitung verläuft in die Richtung der künstlichen Intelligenz und die Kommunikation zwischen Maschinen führt zu kybernetischen Regelkreisen. Die Vision der technischen Entwicklung sind selbstregulierende Systeme, mit denen man die vermeintliche Evolution der Natur nachbilden will.

In den 50er Jahren des vorigen Jahrhunderts veröffentlichte der amerikanische Mathematiker Norbert Wiener (1894-1964) seine Vorstellungen von der Steuerung komplexer Organismen und Maschinen mittels Kybernetik. Zur gleichen Zeit motiviert Alan Turing (1912 – 1954) mit der Frage: „Können Maschinen denken?“ eine Welle von Kommentaren und neuen Forschungsprojekten. Sie verfolgten das Ziel, Turings Hypothese zu prüfen, nach der ein Verhalten des Menschen, das mit Hilfe eines Algorithmus beschrieben werden kann, auch von einer Turing-Maschine imitiert werden kann. Diese Probe wurde zu einem Test für künstliche Intelligenz einer Maschine verfeinert. Demnach soll ein Gespräch (ein Chat) fünf Minuten lang zwischen einer Person und einer anderen Person und einem Computer geführt werden. Wenn die Testperson nicht erkennen kann, welcher von beiden Gesprächspartnern die Maschine ist, hat sie den Test für künstliche Intelligenz bestanden.

Diesen Test hat noch keine Maschine bisher bestanden, obwohl dem Entwickler eines solchen „intelligenten“ Computers der mit 100.000 $ dotierte Loebner-Preis winkt. Im Laufe der Zeit wurden statt Lösungen viele Kritikpunkte an der Aufgabe laut, z. B. eine Maschine kann intelligent sein, aber nicht kommunikativ oder selbst Menschen würden diesen Test nicht bestehen. Der gravierendste Vorwurf ist aber, dass die Simulation eines Gespräches weniger erfordert als man mit kreativer „Intelligenz“ bewirken kann. Hier folgt Turing der Tradition seit Descartes, die das Denkvermögen an die sprachliche Fähigkeit koppelt und daran erkennbar macht. Viele hochintelligente Menschen haben das Gegenteil bewiesen und die moderne Forschung ist sich spätestens seit Howard Gardner einig, dass es weit mehr Ausprägungen der Intelligenz gibt, als nur die sprachlich semantische Variante.

Immerhin erhalten durch die theoretischen Vorüberlegungen Information und Kommunikation eine eigene Bedeutung neben den bisherigen Größen der Naturwissenschaft wie Masse, Energie oder Materie. In die Welt der Technik brechen immaterielle Güter ein und helfen den Fortschritt und die technologischen Niveaus zu beschreiben. Der umfassendere Begriff für angewandte Information ist Know How und damit wird noch klarer, welchen Stellenwert heute in unserer hochentwickelten technischen Kultur die Informationsverarbeitung hat. Know How, Zeit und Energie sind die Produktionsfaktoren unserer technischen Prozesse. Sie charakterisieren unsere technischen Niveaus und die Transformationsregeln mit denen aus Einsatzstoffen Produkte und Leistungen werden.

Die Kommunikation von Shannon und seinen Nachfolgern ist sequentiell und logisch. Zur technischen Kultur passt die rationale Durchdringung der Kommunikation und die Reduktion auf Zeichen und Bilder, die sich zwischen Maschinen übertragen lassen. Jede Massenkommunikation hat bisher ihren Schwerpunkt auf einen Gesichtsinn gelegt – auf das Hören beim Radio, Telefon und dem persönlichen Gespräch, auf das Lesen bei vervielfältigten Informationen und auf Hören und Sehen beim Fernsehen. Diese Medien übertragen etwas, was die Aufmerksamkeit des Rezipienten erreicht und fesselt. McLuhan nennt das, was die Sinne erreicht und bindet die „Figur“. Das Material für die Darstellung der Figur kommt aus dem Medium. McLuhan nennt es den „Grund“. Das Medium besteht nach McLuhan an erster Stelle aus dem Grund. Dieser liefert die Struktur und die Art der Darstellung einer Figur. Die Figur, also der Nachrichteninhalt entsteht im Medium (aus dem Grund) und taucht wieder in das Medium ab.

Aus derselben Aussage werden in unterschiedlichen Medien verschiedene „Figuren“. In diesem Sinne formt das Medium die Nachricht und liefert demnach selbst Informationen. Das Medium liefert Informationen über die Kultur, über den Grund, aus dem die immer gleichen Aussagen der Menschheit geboren werden. Weil man deshalb aus dem Medium die Basis einer Kultur erkennt, trägt das Medium eine eigene Botschaft vor sich her, nämlich die Botschaft über sich selbst. The medium is the message.

Die Aufgabe des Künstlers besteht nach McLuhan darin, die Beschaffenheit des Grundes zu erkunden und der Gesellschaft zu berichten, welche Eigenschaften und Nebenwirkungen das Medium mit sich bringt. Er soll sich des Mediums bemächtigen und die Veränderungen der Figuren bei einem Austausch des Grundes beobachten, noch bevor sie die Aufmerksamkeit der Allgemeinheit bekommen. Seine besondere Empfindungsfähigkeit soll der Künstler einsetzen und auf die Veränderungen der Aussagen (Figuren) hinweisen, die aus dem Austausch des Grundes, nämlich des Mediums resultieren.

Welche Bedeutung hat ein Medium für die Ökonomie?

Hier soll nicht die Medienökonomie besprochen werden, bei der die wirtschaftlichen Strukturen des Mediensektors, der Werbemarkt oder Medienunternehmen selbst der Gegenstand der Untersuchung sind. In diesem Teil geht es um die Frage, wie insbesondere die Massenmedien den Austausch von Wissen in der Gesellschaft beeinflussen. Das geteilte Wissen einer Gesellschaft ist ein wichtiger Bestandteil der Kultur. Aus der Kultur resultiert die Technik, die Güter im weiteren Sinne hervorbringt.

Jede menschliche Kultur wird über die Kommunikation definiert, mit der das individuelle Wissen abgeglichen wird. Die Entstehung von Wissen in der Gesellschaft des Abendlandes ist mit Immanuel Kant definiert als der Vergleich der über die Sinne wahrgenommenen Informationen mit dem Bild in jedem individuellen Geist. So entsteht nach Kant die Wirklichkeit. Er lässt nur das als Wirklichkeit zu, was mit der Empfindung im Einklang ist.  Wir erhalten nur Vorstellungen von Gegenständen über die Sinne; Kant nennt das Sinnlichkeit und was wir dann von den Gegenständen haben, sind die Anschauungen.

Kein Mensch kann sicher sein, dass seine Anschauungen eine allgemein, also von der Gesellschaft, anerkannte Realität sind. Den größten Teil seines Lebens ist der Mensch damit beschäftigt, seine Anschauungen mit denen der anderen, oder allgemein mit denen der Gesellschaft, als Repräsentant aller anderen abzustimmen. Das ist der wesentliche Inhalt und Zweck von Kommunikation. Die menschliche Kommunikation ist so komplex, weil ein gemeinsames Bewusstsein nicht Teil unseres Weltbildes ist.  Über ein gemeinsames Bewusstsein braucht man sich nicht abzustimmen, sondern allenfalls nur zu vergewissern.

Die individuelle Wahrnehmung ist von den Informationen abhängig, die jeder über die Sinne aufnimmt. Das ist keineswegs einheitlich. Menschen können farbenblind oder schwerhörig sein. Andere wiederum haben das absolute musikalische Gehör oder besonders empfindliche Sensoren der Haut. Manche Menschen bewegen sich sehr flink und andere können ihre Bewegungen nur sehr eingeschränkt koordinieren. Es wird vermutlich nicht zwei Menschen geben, deren Sinnlichkeit identisch ist. Zur Abstimmung der Empfindungen kommuniziert der Mensch. So wird das Kind auf die Begriffe konditioniert, der Heranwachsende erzogen und die Gesellschaft entwickelt ein gemeinsames Weltbild.

Die Kommunikation ist also eine notwendige Bedingung für den Aufbau von gemeinsamem Wissen. Und das gemeinsame Wissen ist eine fundamentale Grundlage für die Funktionsweise dieser technischen Kultur des Abendlandes. Ein atomistisches Bild der Welt ist nur möglich, weil die Kommunikation die verschiedenen Teile des Bildes zusammenfügen kann. Die Arbeitsteilung ist eine Folge des atomistischen Weltbildes, aber auch Sie braucht eine ausgefeilte Koordination, um die Einzelteile zu einem gesamten Gut zusammen zu fügen. Am Ende hat der Verbraucher komplette Güter, wenn die Technik kein Selbstzweck ist. Nur komplette Güter stiften einen Nutzen.