Public Hearing hosted by the Green Working Group Robotics: Das Internet der Dinge wird zu einer Komplexitätsexplosion führen. Ein Impuls von Yvonne Hofstetter

Foto Credits: Julia Reda
Foto Credits: Julia Reda

Gedanke eins: Umgebungsintelligenz

Auf die Frage, was denn »Digitalisierung« sei, können im Sommer 2015 mehr als die Hälfte der deutschen Beschäftigten (56 Prozent) keine Antwort geben. Ein Drittel hat noch nie von dem Begriff gehört. Auch das »Internet der Dinge«, das gaben 88 Prozent der Befragten an, sei ihnen kein Begriff. Bei »Big Data« waren es sogar 92 Prozent.

 

Dabei sind die Zusammenhänge schnell erklärt: Die Digitalisierung baut unsere Welt in einen Mega-Computer um. Alles erhält eine IP-Adresse und wird vernetzt: der ICE-Sitz, das Auto, der Badspiegel, der Haushaltsroboter, Fernseher, Ofen, Wasserboiler, Regenschirm… Wir »aktivieren« unsere Umgebung. Was sich bis jetzt still verhalten hat, spuckt in Zukunft Daten: Messdaten davon, wie die Menschen ihre Umgebung benutzen, wo, wie oft, wie lange. Die Dinge unsere Alltags werden zu (intelligenten) Sensoren, die jeden unserer Schritte vermessen, damit unser Verhalten gespeichert, analysiert und prognostiziert werden kann, um unser Leben, so der Euphemismus, zu »optimieren«.

 

Was Mathematiker Optimierung nennen, ist nichts weiter als die Erfassung und Analyse – die Fusion – personenbezogener Echtzeitdaten für das Profiling und die anschließende Berechnung von Steuersignalen, um einen Ist-Zustand näher an einen Soll-Zustand heranzuführen. Sowohl bei der Datenfusion als auch der Steuerung kommen Künstliche Intelligenzen, die Optimierer, zum Einsatz. Für das Profiling sind es die Klassifizierer, für die »globale Konsumentensteuerung« – so die Wirtschaft wörtlich – die algorithmischen Kontrollstrategien. Die modernen Optimierer arbeiten für dieselben Internetgiganten, die unsere Persönlichkeitsprofile erstellen und Anreize und Impulse berechnen, um uns zu einem bestimmten Verhalten zu bewegen – auf Englisch: zu nudgen. Dass die algorithmische Steuerung von Menschen funktioniert, wissen wir spätestens seit der Release von Pokémon Go.

 

Wenn das Internet der Dinge einmal ganz Einzug gehalten hat, wird uns die in unsere Häuser, Autos, Arbeit eingebaute »Umgebungsintelligenz« – Ambient Intelligence – immer einen Schritt voraus sein. Sie degradiert den Menschen zu einer Sache, zum Gegenstand von Stimulus und Feedback, zu einer Gestalt, die sich selbst schwer tut, Entscheidungen zu treffen. Und um maschinelle Entscheidungen und Entscheidungsunterstützung geht es bei der Umgebungsintelligenz. Sie wird ähnlich handlungsleitend wirken, wie das bei viel schlichterem Programmcode schon heute der Fall ist. Das Problem dabei: Die soziale Legitimation der (privatwirtschaftlichen) Steuerung durch die Bürger. Wirtschaft und Konsumenten sind der Politik voraus. Globale Wirtschaftsakteure bauen die Gesellschaft schon dort um, wohin die Politik erst noch nachfolgen muss. Denn Optimierung ist ja so erstrebenswert. Eine selbstregelnde Umgebung so bequem. Die algorithmische Entscheidungsunterstützung so eine Befreiung.

 

Die Umgebungsintelligenz tritt deshalb nicht nur in Konflikt mit der Menschenwürde, sie kollidiert auch mit anderen Grundrechten: mit der Privatsphäre der Menschen – ein augenscheinliches Problem, dem sich die EU-DSGVO annimmt –, mit dem Anspruch auf das Diskriminierungsverbot beim Vorgang der Klassifizierung und der Verhaltensprognose, mit dem Recht auf einen fairen Prozess und der Gewaltenteilung, wenn »Be«-Urteilung und Handlungsanweisung in einem einzigen Vorgang zusammenfallen. Code is Law, das (privatwirtschaftliche) Gesetz der Algorithmen, gestaltet die Gesellschaft, nicht mehr primär das hoheitlich gesetzte Recht des hoheitlichen Gesetzgebungsverfahrens. Im Gegensatz zu den Normen des Gesetzgebers, gegen die ein selbstbestimmter Bürger auch verstoßen kann, wenn er bereit nur ist, die Sanktionen hinzunehmen, macht uns die Umgebungsintelligenz nicht frei, sondern führt eine Zwangspraxis ein: die Zwangspraxis des Programmcodes. Sie wird noch viel Regulierung, gesetzlich wie technologisch, erfordern, damit die Freiheit der Bürger erhalten bleibt.


Gedanke zwei: Komplexität

Dabei ist ein Problem bislang noch gar nicht zur Sprache gekommen. Mit dem Internet der Dinge machen wir unsere Gesellschaft dynamisch und komplex im Sinne der Komplexitätsforschung. Komplex werden Systeme, wenn immer mehr Teilchen miteinander vernetzt werden. Plötzlich steigert sich die Anzahl der Interaktionen zwischen Menschen und Menschen, Dingen und Menschen, Dingen und Dingen ins Unendliche. Das Internet der Dinge wird zu einer Komplexitätsexplosion in der Gesellschaft führen.

 

Komplexe Systeme haben Eigenschaften: Sie bewegen sich immer am Abgrund zum Chaos. Deshalb ist die Chaostheorie eine Disziplin der Komplexitätsforschung. In komplexen Systemen gilt auch das Prinzip der Kausalität, die Formel von Ursache und Wirkung, nicht mehr. Wie sich komplexe Gesellschaften verhalten werden, ist nicht vorhersagbar. Das schränkt die Gesetzgebung ein, die immer eine gestalterische Wirkung erzielen muss (Hoffmann-Riem). Stattdessen herrscht in komplexen Systemen das Feedback, die unmittelbare Rückkopplung seiner Teilchen auf einen bestimmten Stimulus. Das Feedback eines komplexen Systems ist unvorhersehbar. Das Feedback auf die Folterung und Tötung eines einzelnen ägyptischen Mannes der Mittelschicht hat den Arabischen Frühling 2011 ausgelöst. Eine Vorschrift der SEC im Jahr 2006 (Reg NMS) zum Investorenschutz hat den Hochfrequenzhandel ausgelöst.

 

Was, wenn die Gesetzgebung, die »schärfste Waffe der Demokratie«, wegen des Feedbacks der digitalen Gesellschaft zum stumpfen Messer wird? Wenn hoheitlich gesetztes Recht keine Wirkung mehr entfaltet? Die Digitalisierung fordert nicht nur die Parlamente Europas, auch europäische Wirtschaftsunternehmen heraus: Verfahren und Geschäftsprozesse des 20. Jahrhunderts werden von der Digitalisierung hinweggefegt. Noch stemmen sich die Organisationen mit den Mitteln des 20. Jahrhunderts dagegen: mit noch mehr Meetings und noch mehr Betriebsvorschriften. Doch in der digitalen Ära und ihren hochkomplexen Gesellschaften werden die Mittel des 20. Jahrhunderts nicht mehr anschlagen.

 

Wenn wir uns das Denken nicht verbieten wollen, sollten wir erwägen, ob nicht auch die Politik die neuen Mittel der Gestaltung einsetzen kann: die (algorithmische) Echtzeitsteuerung der Gesellschaft auf der Basis von Echtzeitinformation. Denn Politik kann man auf zwei Arten betreiben: durch Gesetz und durch Institution. Für letzteres ist die Europäische Zentralbank aktuelles Beispiel. Natürlich muss auch in digitalen Zeiten das Gesetz leisten, was es zu leisten imstande ist. Dort, wo es aus systemischen Gründen versagt, können institutionelle Kontrollstrategien besser wirken. Sie aber müssen nicht nur europäische Werte implementieren, sondern auch demokratisch legitimiert werden – nicht nur sozial, sondern normativ und eingebunden in die Regelungsstrukturen des parlamentarischen Gesetzgebers.