zurück zur Übersicht

Verhaltenssteuernde Algorithmen – wo bleibt das Recht?

29. November 2017

Verhaltenssteuernde Algorithmen – wo bleibt das Recht?

Behält unsere demokratische Rechtsordnung noch ihre Monopolstellung? Lässt der Mensch seine Freiheit als Konsumbürger oder Privatmann immer mehr hinter sich?

Von Yvonne Hofstetter und Friedrich Graf von Westphalen

Es ist eine nur noch trivial zu nennende Erkenntnis, festzustellen, dass unser Verhalten Tag für Tag immer mehr durch technische Regeln bestimmt wird, welche ohne unser Wissen in digitalen Algorithmen, vulgo: Computerprogrammen, enthalten sind. Algorithmen entscheiden für uns; sie drängen mehr und mehr in unseren Alltag. Sie verrichten als selbst lernende Maschinen mithilfe der künstlichen Intelligenz zusehends Leistungen, welche beim Menschen Kreativität und auch Einfühlungsvermögen voraussetzen. Menschliches Verhalten wird von den eingesetzten Maschinen, und das heißt: für ihre Betreiber – vor allem den Internetgiganten im Silicon Valley –, weitestgehend berechenbar. In Bezug auf das hohe Gut der Willens- und Handlungsfreiheit des Menschen bedeutet dies: Manipulierbarkeit. Das gilt – das „Internet of Things“ lässt grüßen – sowohl für das tägliche Kauf- als auch für das politische Wahlverhalten, nicht minder aber auch („scoring“) für mögliches kriminelles Fehlverhalten Einzelner. Unterschiede

Das Recht: Dass menschliches Verhalten nachhaltig durch die Regeln der Technik bestimmt wird, ist nichts Neues. Die Erfindung der Dampfmaschine oder des Flugzeugs steht für das Gemeinte. Auch ist es nicht neu, dass bahnbrechende technische Entwicklungen, wie etwa die Industrialisierung, immense und nachhaltige Auswirkungen auf das Leben der Menschen in Gesellschaft und Staat entfalten, welche die Rechtsordnung nicht unberührt gelassen haben. Doch inzwischen ist unser Blick dafür geschärft, dass die praktische Wirkung von Regeln – seien sie technisch oder rechtlich geprägt – entscheidend davon abhängt, ob und in welchem Maße sie vom einzelnen Bürger im Bewusstsein ihres normativen Gehalts befolgt werden.

Hieraus ergeben sich für die Wirkkraft von Rechtsregeln einige wichtige Erkenntnisse. Doch stehen sie im Widerspruch zu den Regeln, die mittlerweile als verhaltenssteuernde Algorithmen unser Leben bestimmen. Man kann diesen Unterschied mit einer gewissen Vergröberung als den zwischen Geisteswissenschaft und Mathematik umschreiben. Recht lebt nämlich vom jeweils geschriebenen Wort, sei es im Gesetzesbefehl, im Verwaltungsakt einer Administration, sei es im Urteil eines Gerichts oder in einem zwischen zwei Personen abgeschlossenen Vertrag. Immer aber hat ein verwendetes Wort gewisse gedankliche Unschärfen, die der Auslegung – so oder anders – bedürfen. Selbst die Feststellung, dass eine bestimmte Aussage in einem Gesetz oder auch in einem Vertrag „eindeutig“ sei, ist ihrerseits nichts anderes als das Ergebnis einer vorgeschalteten Auslegung. Rechtsanwendung oder auch Rechtsbefolgung wie insbesondere die Durchsetzung des Rechts sind daher durch ein „erhebliches Flexibilitätspotenzial“ (Wolfgang Hoffmann-Riehm) charakterisiert. Freiwilliger Gehorsam

Vom einzelnen Bürger erwartet die Rechtsordnung nicht nur eine blinde Befolgung der gesetzten Rechtsregeln. Vielmehr schuldet der Bürger den geltenden Rechtsnormen gegenüber aus autonom vollzogener Einsicht ein gleichsam ethisch geschuldetes „Sollen“, was ein anderes Wort für freiwillig geleisteten Gehorsam ist. Dahinter steht gleichzeitig der Grundgedanke: Eine Rechtsordnung nimmt auch immer den entscheidenden Umstand in den Blick, dass der Bürger die Freiheit hat, die geltende Rechtsregel auch zu brechen, sei es der Steuerhinterzieher oder der Parksünder.

Doch Recht ist, um ein inzwischen geflügeltes Wort zu gebrauchen, „geronnene Politik“ (Dieter Grimm). Aber Recht ist nicht nur dem politisch geprägten, demokratisch verankerten Mehrheitsprinzip verhaftet. Vielmehr ist es stets in ganz entscheidendem Maße sowohl auf nationaler als auch auf europäischer Ebene Grund- und Menschenrechten verpflichtet. Diese Wertebindung beruht auf der Achtung der unantastbaren Würde des Menschen sowie auf Wahrung seiner Freiheit und Anerkennung der Gleichheit. Eine freiheitliche Gesellschaft lebt – das ist das bewährte Axiom von Ernst-Wolfgang Böckenförde – von den Wertvorstellungen ihrer Zivilgesellschaft; es sind ethische und moralische Prägungen, welche aber die Rechtsordnung als solche nicht mit ihren Mitteln erzwingen oder auch nur gewährleisten kann.

Betriebsgeheimnis

Die Steuerung menschlichen Verhaltens durch Algorithmen, in die Welt gesetzt von Informationsintermediären – Stichwort: Suchmaschinen oder Kommunikationsplattformen oder „Profiling“ –, beruht hingegen auf Regelwerken, die ihre Existenz einem rein technischen, mathematisch komponierten Vorgang verdanken. Aus der Sicht des Betroffenen herrscht hier jedoch stets das Unbekannte. Weder Wirkweise noch mathematische Zusammensetzung des einzelnen Algorithmus sind bekannt. Die Unternehmen als Eigner sind hier nicht einer rechtsstaatlich eingeforderten Transparenz verpflichtet, sondern nur einem streng zu hütenden Betriebsgeheimnis. Dabei bezieht sich der Regelungsgehalt eines Algorithmus nicht auf ethisch fundiertes Dürfen oder gar rechtlich begründetes Sollen. Es ist rein faktisch determiniert.

Der verhaltenssteuernde Algorithmus ist schlicht auf das Können oder Nichtkönnen bezogen, aber auch darauf begrenzt. Handlungsalternativen sind nicht vorgesehen, ebenso wenig Optionen; der Raum des faktischen Könnens ist – nur so kann ja die Manipulation des Bürgers auch gelingen – auf das engste begrenzt. Im Gegensatz zum Recht aber kennt er auch keine Berufungs- oder Revisionsinstanz. Diese sind auch ganz und gar entbehrlich. Denn der faktische Vollzug des Bürgers, gesteuert und geleitet vom verhaltenssteuernden Algorithmus, reicht aus, um dessen inhärenten Zweck zu erfüllen. Dieser aber ist auch nicht wertebasiert, sondern ausschließlich strikt kommerzialisiert. Immer dient er den geschäftlichen Interessen des Anbieters und/oder Dritter. Eine technik- und profitorientierte digitalisierte Welt, die unser Verhalten durch ihre uns unbekannten Algorithmen steuert und mithilfe einer „sublimen Manipulation“ (Mireille Hildebrandt) im „virtuellen Raum“ (Wolfgang Hoffmann- Riem) reguliert, hat nichts mit den keineswegs immer perfekten, aber doch im Kern auf Gerechtigkeit und Freiheit, auf Frieden und Sicherheit ausgerichteten – wertebasierten – Normen gemein, welche wir als integraler Bestandteil unserer gewachsenen Rechtsordnung begreifen.

Monopolstellung

Damit ist der Punkt erreicht, an dem wir uns der Frage öffnen müssen, ob die freiheitliche und demokratische Rechtsordnung noch ihre Monopolstellung behält, als einzige Macht im Staat umfassend über Sollen und Dürfen des Menschen im Rahmen staatlich zugelassener Sanktionsmittel verbindlich entscheiden zu dürfen. Dass der Bürger auf diesem Weg das Gewaltmonopol dem Staat und nur dem Staat an die Hand gibt, ist ja eine immense kulturpolitische Leistung. Sie ist jetzt in Gefahr. Es ist ein nicht wiedergutzumachender Fehler, dass wir die Gefahren, die der Freiheit des Bürgers und damit auch der freiheitlichen Demokratie durch die zunehmende Dominanz verhaltenssteuernder Algorithmen drohen, zu spät erkannt haben. Noch fataler wirkt sich aus, dass wir zur Abwehr dieser Gefahren – bildlich gesprochen – „alle Eier in einen Korb gelegt haben“. Wir haben fälschlich geglaubt, die datenschutzrechtliche Einwilligungserklärung in die Verarbeitung unserer personenbezogenen Daten sei eine ausreichend sichere Bastion unserer Freiheit. Das Gegenteil trifft zu. In Wirklichkeit offenbart sich hier eine „strukturelle Unzulänglichkeit“ (Philip Radlanski) des datenrechtlichen Schutzkonzepts. Denn die Frage nach dem Vorhandensein eines rechtlich einzuordnenden Erklärungsbewusstseins bleibt im rein Formellen – dem bestätigenden Klick – stecken.

Legitimationsgrund

Die rechtsgeschäftlichen Hürden werden jedoch in Artikel 6 Absatz 1 lit. b) Datenschutz-Grundverordnung (DS-GVO) noch niedriger. Denn diese Norm bestimmt, dass die Verarbeitung personenbezogener Daten – auch ohne entsprechende ausdrückliche Einwilligung – schon immer dann als „rechtmäßig“ anzusehen ist, wenn dies „zur Erfüllung eines Vertrages erforderlich“ ist. Dieser eigenständige Legitimationsgrund für die Verarbeitung personenbezogener Daten beruht also allein auf dem schlichten Vertragsabschluss, etwa bei Facebook oder Twitter. Der rein mechanische, gedankenlose und ohne Rücksicht auf die Folgen getätigte Klick als Zustimmung zu den AGB reicht also aus und ist die im Vertragsabschluss versteckte datenschutzrechtliche „Einwilligung“.

Wenn dann aber – und das ist die Regel – der Verbraucher „for free“ den „Dienst“ eines Anbieters nutzen darf, sofern er nur seine personenbezogenen Daten zur Verarbeitung überlässt, dann stellt sich die harte Frage: Hat hier ein durchschnittlicher Verbraucher überhaupt noch ein rechtsgeschäftliches Erklärungsbewusstsein? Weiß er wirklich, was er in rechtlicher Tragweite in diesem Augenblick tut? Hat er die wenigstens laienhaft geprägte Vorstellung, dass er sich vertraglich mehr oder weniger langfristig bindet und mit seinen Daten einen ganz gewichtigen Beitrag in der Wertschöpfungskette des Anbieters – das „Gold“ des Internetkapitalismus – leistet? Nimmt er wirklich billigend in Kauf, dass er auf diesem Weg – und je öfter, desto mehr und zuverlässiger – seine Freiheit als Konsumbürger, aber auch als Privatmann mehr und mehr hinter sich lässt?

Vermutlich ahnt er es nicht einmal. Noch schlimmer: Es ist ihm wahrscheinlich sogar gleichgültig, solange die ihm „for free“ zur Verfügung stehenden „Dienste“ des Anbieters seine Bequemlichkeit, sein Wohlbefinden und seine virtuellen Freundschaften zu fördern versprechen. Das Faktische regiert; die verhaltenssteuernden Algorithmen können – vertraglich abgesichert – in ihr „Recht“ treten. Und sie tun dies mit stupender Verlässlichkeit.

Künstliche Intelligenz

Gegen das Vorliegen eines rechtsgeschäftlichen Erklärungsbewusstseins als unverzichtbarer Grundlage einer Willenserklärung und damit eines Vertrages spricht zudem entscheidend der Umstand: Die Welt der das Verhalten des Verbrauchers steuernden Algorithmen ist für den Bürger eine unsichtbare; es ist eine ihm ganz und gar verschlossene und auch unverständliche Welt. In ihr haben letztlich nicht mehr Menschen, sondern – Stichwort: Künstliche Intelligenz – Maschinen mit immenser Komplexität das Sagen und auch das Bestimmungsrecht. Sie aber verfolgen allein das kommerziell ihnen eingegebene und dann wohl unabänderlich feststehende Ziel, den Menschen in seiner Freiheit – vor allem in seiner Willens- und Handlungsfreiheit – zweckrational im Interesse des eigenen Geschäftsmodells zu beeinflussen und auf Dauer an sich zu binden, ihn zu beherrschen.

Machtlosigkeit

Wenn mathematisch vorgeprägte Algorithmen menschliches Verhalten steuern, dann stellt sich unabweisbar die Frage nach dem Überleben der liberalen, auf dem Konstrukt eines Vertrages beruhenden Privatautonomie. Die zu beantwortende ordnungspolitische Frage erweitert sich jedoch über diesen Horizont hinaus, weil es sich bei den Internetgiganten um ausländische Monopole oder Oligopole handelt. Im Wege der Geheimhaltung erzeugen sie eine gigantische Asymmetrie des Wissens aufgrund der von ihnen entwickelten Algorithmen. Das Recht als Steuerungsmodell erweist sich hier weithin als machtlos, obwohl der europäische Gesetzgeber – und nur er, nicht der nationale Gesetzgeber – berufen ist, ordnend hoheitliche Eingriffe vorzunehmen (Udo Di Fabio). Daher muss der früher liberal und privatautonom ausgestaltete Vertrag durch zwingendes Schutzrecht ersetzt werden.

Das Recht kann es nicht zulassen, dass rechtliches Sollen und Dürfen in seiner Normativität für den Bürger abgelöst wird durch eine nur auf der Faktizität beruhende Erkenntnis, dass nämlich Dritte – ohne irgendeine demokratische Legitimation – der bürgerlichen Freiheit Grenzen des Könnens setzen. Diese sind nämlich auch Grenzen des Dürfens und des Sollens. Solche Grenzen aber sind immer auch Grenzen der Unfreiheit.

Yvonne Hofstetter

Foto: Heimo Aga

Yvonne Hofstetter,
Juristin und Essayistin, ist Geschäftsführerin der TERAMARK Technologies. Das Unternehmen entwickelt Künstliche Intelligenz.

 

 

Prof. Dr. Friedrich Graf von Westphalen

Foto: Frank Bluemler

Prof. Dr. Friedrich Graf von Westphalen
leitet den Ausschuss „Europäisches Privatrecht“ beim Rat der Europäischen Anwälte in Brüssel, ist Mitglied des European Law Institute Wien.

vorheriger Beitrag nächster Beitrag

Meistgelesen

Letzte Beiträge

nach Oben