Foto: Africa Studio – iStockphoto.com

Eine Wirtschaft, die auf immerwährendes Wachstum ausgerichtet ist, braucht geradezu grenzenlose Projekte rund um künstliche Intelligenz.

Von Horst W. Opaschowski

Compunikation als erweiterte Kommunikation. In meiner beruflichen Rolle als Zukunftsforscher bot ich im Wintersemester 1980/81 an der Universität Hamburg folgende Lehrveranstaltung an: „Compunikation. Kommunikation aus der Steckdose: Traum oder Alptraum?“ – zu einer Zeit, als es noch kein Internet und keinen Computer für jedermann gab, wir noch 37 Jahre auf das iPhone warten mussten und der deutsche Blogger und Internet-Experte Sascha Lobo gerade einmal fünf Jahre alt war … „Compunikation“ beschrieb ich seinerzeit als eine „über Computer und Mikroprozessoren gesteuerte Kommunikation“, die neue „(steck)dosierte Erfahrungen“ ermöglichen würde. Im kommentierten Vorlesungsverzeichnis wurde die Lehrveranstaltung mit den Worten angekündigt: „Droht die Compunikation zum Ersatz für die unmittelbare persönliche Kommunikation zu werden?“

War die Fragestellung im Oktober 1980 utopisch, fantastisch oder sarkastisch? Nein, es war ein Szenario nur, das nicht einmal das Leben schrieb, das so oder ähnlich gar nicht Wirklichkeit werden musste. Jetzt aber, 37 Jahre später, kann ich nach den Ergebnissen einer aktuellen Repräsentativumfrage 2017 nachweisen: Die Mehrheit der Bevölkerung in Deutschland (58 %) ist mittlerweile davon überzeugt, dass für die junge Generation „Soziale Netzwerke im Internet wichtiger als persönliche Kontakte mit Freunden sind“ (O.I.Z 2017).

Diese subjektive Einschätzung der Bevölkerung entspricht auch der Alltagswirklichkeit. In Deutschland gibt es mittlerweile mehr Handys als Menschen. Seit der Jahrtausendwende hat sich das Surfen im Internet fast verzehnfacht, während sich seither die Unternehmungen mit Freunden erdrutschartig halbiert haben. Dieser Wandel muss auf den ersten Blick wie eine Verarmung des Lebens erscheinen – für Jugendliche aber nicht: Freunde treffen und mit Freunden chatten ist für viele fast dasselbe. Freunde in der Nähe und Freunde im Netz bedeuten Kontaktvielfalt und Beziehungsreichtum – mit einem wesentlichen Unterschied: Mediennutzung kostet und frisst Zeit.

Die ARD-ZDF-Online-Studie 2017 ermittelte unlängst: 2,5 Stunden am Tag sind die Deutschen jeden Tag online – Tendenz steigend. Die persönliche Kommunikation muss deshalb im Alltag nicht verloren gehen. Die Compunikation erweist sich eher als eine zusätzliche und erweiterte Kommunikation, die das Leben in einer Mischung aus Chillen und Chatten bereichern kann.

Vertrauen als digitale Währung

Compunikation als digitale Kommunikation ist heute Normalität geworden – beruflich und privat. Jeder kann mit jedem zu jeder Zeit an jedem Ort kommunizieren. Compunikation gilt als bequem und bürgernah, aber auch als unsicher und missbrauchsgefährdet. Die Angst vor dem Verlust an drei grundlegenden Prinzipien der Kommunikation – Vertrauen, Verantwortung und Verlässlichkeit – lässt die Sehnsucht und Suche nach Sicherheit immer stärker werden.

Die Menschen drohen ihr Grundvertrauen in das Innovationsversprechen der digitalen Wirtschaft zu verlieren. Vertrauen als verlässliche Währung muss doch für die Digitalwirtschaft geradezu von fundamentalem Interesse sein: „Wenn wir das Vertrauen verlieren, verlieren wir alles“ – so die Quintessenz von Emanuel Mogenet, dem Leiter von Googles europäischem Forschungszentrum in Zürich. Das Vertrauen in die Datensicherheit ist weltweit erschüttert. Die Internet-Szenerie gleicht einer Bedrohungslandschaft. Nichts ist mehr sicher – das autonome Auto nicht, der hilfreiche Herzschrittmacher und auch das vielseitige Smartphone nicht. Alles ist manipulierbar. Wie können wir uns dagegen wehren?

Medienkompetenz durch digitale Diät

Am 29. September 1990 beendete ich einen Zukunftsvortrag auf einem internationalen Kongress in Amsterdam mit den Worten: „We have to slow down, slow down, slow down“ – wir müssen bremsen, bremsen, bremsen. Wir müssen die Entwicklung verlangsamen und auf die Bremse treten. Jetzt, im Jahr 2017, weist der israelische Historiker Yuval Noah Harari überzeugend nach, warum das Bremsen aus zwei Gründen fast aussichtslos erscheinen muss. Erstens weiß niemand, wo sich die Bremse befindet – bei den Big Data, der Nanotechnologie oder der Genetik?

Viel zu komplex erscheint das System der Künstlichen Intelligenz (KI), weshalb sich auch bisher selbst die Experten nicht einmal die Mühe machen, Antworten auf die Frage zu geben, „wohin“ wir uns bei diesem rasanten technologischen Tempo überhaupt bewegen wollen oder sollen. Und zweitens würde die Wirtschaft aus den Fugen geraten, wenn es doch jemandem gelingen sollte, auf die Bremse zu treten.

Eine Wirtschaft, die auf immerwährendes Wachstum ausgerichtet ist, braucht geradezu grenzenlose KI-Projekte und -Ziele wie z.B. das Streben nach Glück und langem Leben. Nur: Was passiert eigentlich, wenn diese KIvolution durch Gesichts- und Spracherkennung den Menschen identifiziert, kopiert oder ihm gar überlegen ist – aber am Ende außer Kontrolle gerät und nicht mehr steuerbar ist? Dann macht sich die menschheitsbedrohende Hybris breit: Wir sind besser als Gott! Spätestens dann wird jedem klar, warum schon heute Google-Ingenieure verzweifelt an einem Ausknopf tüfteln, der außer Kontrolle geratene KI-Systeme in letzter Sekunde wieder abschalten soll …

Andererseits: Die Digitalisierung als „Schöne Neue Medienwelt“ macht das Leben schneller, bequemer und abwechslungsreicher, kann helfen, Krankheiten zu heilen und den Welthunger zu reduzieren. Eine positive Entwicklung ist möglich, in der Achtsamkeit und Selbstverantwortung wieder mehr im Zentrum des Handelns stehen.

Bremse

Erste Anzeichen dafür sind erkennbar – ein neuer Trend der nächsten Generation: Digitale Diät nach dem Grundsatz „Bleib nicht dauernd dran, schalt doch mal ab!“. Das Interesse der Jugendlichen an Facebook sinkt, wie die JIM-Studie 2017 nachweist (2015: 51 % – 2016: 43 %). Eine Generation autarker User kommt auf uns zu, die im Netz selbstbestimmter agiert und davon überzeugt ist – frei nach dem Grundsatz: Wir können bremsen, wenn wir wollen. Wir können entschleunigen und das Tempo drosseln, weil wir nicht kollabieren oder im „digitalen Tsunami“ (Bill Gates) ertrinken wollen. Wir können uns durch digitale Diät jederzeit zurückziehen, vorübergehend aussteigen, also öfter den Stecker ziehen und einfach offline sein.

Oder kommen auf längere Sicht dänische Verhältnisse auf uns zu? Seit es Handys, Computer und Tablets gibt, geht die Jugendkriminalität in Dänemark zurück, so 2017 der Dänische Rat zur Kriminalitätsvorbeugung (DRK). Jahrzehntelang hatte man sich in Dänemark bemüht, Jugendliche von der Straße zu holen, damit sie nicht aus Frust oder Langeweile kriminell werden – vom Ladendiebstahl über den Drogenkonsum bis zu Vandalismus und Gewalttätigkeit. Jetzt deutet sich eine Trendwende bei der Jugend an: Cyberspace statt Straße. Jugendliche sitzen in ihrer Freizeit mehr zu Hause vor den Monitoren und Bildschirmen. Compunikation drinnen statt Kommunikation draußen.

Umdenken

Müssen im digitalen Zeitalter die Uhren wieder zurückgedreht werden? Die Gesellschaft wird zunehmend konservativer. Die Menschen sehnen sich wieder nach Bewährtem und Erhaltenswertem, nach ruhigeren Biedermeierzeiten inmitten von Samtsofas und Bücherwänden, Plattenspielern und Polaroidkameras. Erfährt der Fernseher als Lagerfeuer für die ganze Familie eine Renaissance?

Selbst eine Wiederkehr der Religion und des Religiösen ist vorstellbar, weil die Menschen wieder mehr nach der Ressource Sinn lechzen – als Antwort auf die Ort- und Wurzellosigkeit, Halt- und Heimatlosigkeit eines durchdigitalisierten Alltags. Das wäre dann eine echte Zeitenwende wie beim 11. September 2001, als das Ereignis nach einem Wort von Jürgen Habermas im Innersten der Gesellschaft „eine religiöse Saite in Schwingung versetzt“ hatte.

Der kanadische Kultschriftsteller Douglas Coupland hat die offene Frage nach der Ressource Sinn schon frühzeitig in den 90er-Jahren gestellt. In seinem Roman „Girlfriend in a coma“ lässt er am Ende seine Romanfiguren fragen: Wie können wir uns ändern, ja, wie müssen wir uns ändern? Statt wie im Koma untätig zu verharren, müssten wir – bevor die Welt sich ändert – erst einmal uns selbst verändern: „Schürft. Spürt. Grabt. Glaubt. Fragt!“ Hört nicht auf, Fragen zu stellen, zu suchen und zu forschen. Die Erde ist nicht der Himmel, aber „die Erde könnte unsere Arche sein“ (Coupland 1999). Um den nachfolgenden Generationen keinen Trümmerhaufen zu hinterlassen, endet der Roman sinngemäß mit der Aufforderung: Schafft eine humane und soziale Zivilisation: „Lasst uns eine neue Arche Noah bauen!“

Wir können an uns arbeiten und die Sinnfrage ernst nehmen. Dann werden wir vielleicht in 20 Jahren eines Morgens aus unserem Tiefschlaf aufwachen und feststellen, dass wir noch immer mit der Hand schreiben können, von unserem Schreibtisch Briefumschläge und Papier nicht verschwunden sind und selbst die Tinte im Füller nicht vertrocknet ist. Wir öffnen den Mund – und ein Laut kommt heraus. Wir haben es auch dann nicht verlernt, miteinander zu kommunizieren, laut zu lachen und einander die Hände zu schütteln.

Kontaktsuche

Sicher: Unsere Kinder werden in Zukunft lieber mit dem Homecomputer als mit dem Holzbaukasten spielen. Nur: Online- und Cybereuphorie werden bis dahin weder unser menschliches Kommunikationsbedürfnis beeinträchtigen noch unser Interesse am Lesen von Büchern, Zeitungen und Zeitschriften sterben lassen. Und je mehr sich Homebanking und Online-Shopping ausbreiten, desto größer wird unser Bedürfnis nach persönlichen Kontakten, nach sehen und gesehenwerden beim Ausgehen oder beim Einkaufsbummel sein. Denn: Die Sinne konsumieren weiter mit. Auch in 20 Jahren werden die meisten Beschäftigten keine digitalen Nomaden sein, sondern wie bisher eher müde von der Arbeit nach Hause kommen, sich vor den Laptop oder Fernseher setzen und mit nichts anderem als ihrem Partner oder ihrem Kühlschrank interagieren …

The post Mit der Compunikation leben appeared first on DIVSI.

Behält unsere demokratische Rechtsordnung noch ihre Monopolstellung? Lässt der Mensch seine Freiheit als Konsumbürger oder Privatmann immer mehr hinter sich?

Von Yvonne Hofstetter und Friedrich Graf von Westphalen

Es ist eine nur noch trivial zu nennende Erkenntnis, festzustellen, dass unser Verhalten Tag für Tag immer mehr durch technische Regeln bestimmt wird, welche ohne unser Wissen in digitalen Algorithmen, vulgo: Computerprogrammen, enthalten sind. Algorithmen entscheiden für uns; sie drängen mehr und mehr in unseren Alltag. Sie verrichten als selbst lernende Maschinen mithilfe der künstlichen Intelligenz zusehends Leistungen, welche beim Menschen Kreativität und auch Einfühlungsvermögen voraussetzen. Menschliches Verhalten wird von den eingesetzten Maschinen, und das heißt: für ihre Betreiber – vor allem den Internetgiganten im Silicon Valley –, weitestgehend berechenbar. In Bezug auf das hohe Gut der Willens- und Handlungsfreiheit des Menschen bedeutet dies: Manipulierbarkeit. Das gilt – das „Internet of Things“ lässt grüßen – sowohl für das tägliche Kauf- als auch für das politische Wahlverhalten, nicht minder aber auch („scoring“) für mögliches kriminelles Fehlverhalten Einzelner. Unterschiede

Das Recht: Dass menschliches Verhalten nachhaltig durch die Regeln der Technik bestimmt wird, ist nichts Neues. Die Erfindung der Dampfmaschine oder des Flugzeugs steht für das Gemeinte. Auch ist es nicht neu, dass bahnbrechende technische Entwicklungen, wie etwa die Industrialisierung, immense und nachhaltige Auswirkungen auf das Leben der Menschen in Gesellschaft und Staat entfalten, welche die Rechtsordnung nicht unberührt gelassen haben. Doch inzwischen ist unser Blick dafür geschärft, dass die praktische Wirkung von Regeln – seien sie technisch oder rechtlich geprägt – entscheidend davon abhängt, ob und in welchem Maße sie vom einzelnen Bürger im Bewusstsein ihres normativen Gehalts befolgt werden.

Hieraus ergeben sich für die Wirkkraft von Rechtsregeln einige wichtige Erkenntnisse. Doch stehen sie im Widerspruch zu den Regeln, die mittlerweile als verhaltenssteuernde Algorithmen unser Leben bestimmen. Man kann diesen Unterschied mit einer gewissen Vergröberung als den zwischen Geisteswissenschaft und Mathematik umschreiben. Recht lebt nämlich vom jeweils geschriebenen Wort, sei es im Gesetzesbefehl, im Verwaltungsakt einer Administration, sei es im Urteil eines Gerichts oder in einem zwischen zwei Personen abgeschlossenen Vertrag. Immer aber hat ein verwendetes Wort gewisse gedankliche Unschärfen, die der Auslegung – so oder anders – bedürfen. Selbst die Feststellung, dass eine bestimmte Aussage in einem Gesetz oder auch in einem Vertrag „eindeutig“ sei, ist ihrerseits nichts anderes als das Ergebnis einer vorgeschalteten Auslegung. Rechtsanwendung oder auch Rechtsbefolgung wie insbesondere die Durchsetzung des Rechts sind daher durch ein „erhebliches Flexibilitätspotenzial“ (Wolfgang Hoffmann-Riehm) charakterisiert. Freiwilliger Gehorsam

Vom einzelnen Bürger erwartet die Rechtsordnung nicht nur eine blinde Befolgung der gesetzten Rechtsregeln. Vielmehr schuldet der Bürger den geltenden Rechtsnormen gegenüber aus autonom vollzogener Einsicht ein gleichsam ethisch geschuldetes „Sollen“, was ein anderes Wort für freiwillig geleisteten Gehorsam ist. Dahinter steht gleichzeitig der Grundgedanke: Eine Rechtsordnung nimmt auch immer den entscheidenden Umstand in den Blick, dass der Bürger die Freiheit hat, die geltende Rechtsregel auch zu brechen, sei es der Steuerhinterzieher oder der Parksünder.

Doch Recht ist, um ein inzwischen geflügeltes Wort zu gebrauchen, „geronnene Politik“ (Dieter Grimm). Aber Recht ist nicht nur dem politisch geprägten, demokratisch verankerten Mehrheitsprinzip verhaftet. Vielmehr ist es stets in ganz entscheidendem Maße sowohl auf nationaler als auch auf europäischer Ebene Grund- und Menschenrechten verpflichtet. Diese Wertebindung beruht auf der Achtung der unantastbaren Würde des Menschen sowie auf Wahrung seiner Freiheit und Anerkennung der Gleichheit. Eine freiheitliche Gesellschaft lebt – das ist das bewährte Axiom von Ernst-Wolfgang Böckenförde – von den Wertvorstellungen ihrer Zivilgesellschaft; es sind ethische und moralische Prägungen, welche aber die Rechtsordnung als solche nicht mit ihren Mitteln erzwingen oder auch nur gewährleisten kann.

Betriebsgeheimnis

Die Steuerung menschlichen Verhaltens durch Algorithmen, in die Welt gesetzt von Informationsintermediären – Stichwort: Suchmaschinen oder Kommunikationsplattformen oder „Profiling“ –, beruht hingegen auf Regelwerken, die ihre Existenz einem rein technischen, mathematisch komponierten Vorgang verdanken. Aus der Sicht des Betroffenen herrscht hier jedoch stets das Unbekannte. Weder Wirkweise noch mathematische Zusammensetzung des einzelnen Algorithmus sind bekannt. Die Unternehmen als Eigner sind hier nicht einer rechtsstaatlich eingeforderten Transparenz verpflichtet, sondern nur einem streng zu hütenden Betriebsgeheimnis. Dabei bezieht sich der Regelungsgehalt eines Algorithmus nicht auf ethisch fundiertes Dürfen oder gar rechtlich begründetes Sollen. Es ist rein faktisch determiniert.

Der verhaltenssteuernde Algorithmus ist schlicht auf das Können oder Nichtkönnen bezogen, aber auch darauf begrenzt. Handlungsalternativen sind nicht vorgesehen, ebenso wenig Optionen; der Raum des faktischen Könnens ist – nur so kann ja die Manipulation des Bürgers auch gelingen – auf das engste begrenzt. Im Gegensatz zum Recht aber kennt er auch keine Berufungs- oder Revisionsinstanz. Diese sind auch ganz und gar entbehrlich. Denn der faktische Vollzug des Bürgers, gesteuert und geleitet vom verhaltenssteuernden Algorithmus, reicht aus, um dessen inhärenten Zweck zu erfüllen. Dieser aber ist auch nicht wertebasiert, sondern ausschließlich strikt kommerzialisiert. Immer dient er den geschäftlichen Interessen des Anbieters und/oder Dritter. Eine technik- und profitorientierte digitalisierte Welt, die unser Verhalten durch ihre uns unbekannten Algorithmen steuert und mithilfe einer „sublimen Manipulation“ (Mireille Hildebrandt) im „virtuellen Raum“ (Wolfgang Hoffmann- Riem) reguliert, hat nichts mit den keineswegs immer perfekten, aber doch im Kern auf Gerechtigkeit und Freiheit, auf Frieden und Sicherheit ausgerichteten – wertebasierten – Normen gemein, welche wir als integraler Bestandteil unserer gewachsenen Rechtsordnung begreifen.

Monopolstellung

Damit ist der Punkt erreicht, an dem wir uns der Frage öffnen müssen, ob die freiheitliche und demokratische Rechtsordnung noch ihre Monopolstellung behält, als einzige Macht im Staat umfassend über Sollen und Dürfen des Menschen im Rahmen staatlich zugelassener Sanktionsmittel verbindlich entscheiden zu dürfen. Dass der Bürger auf diesem Weg das Gewaltmonopol dem Staat und nur dem Staat an die Hand gibt, ist ja eine immense kulturpolitische Leistung. Sie ist jetzt in Gefahr. Es ist ein nicht wiedergutzumachender Fehler, dass wir die Gefahren, die der Freiheit des Bürgers und damit auch der freiheitlichen Demokratie durch die zunehmende Dominanz verhaltenssteuernder Algorithmen drohen, zu spät erkannt haben. Noch fataler wirkt sich aus, dass wir zur Abwehr dieser Gefahren – bildlich gesprochen – „alle Eier in einen Korb gelegt haben“. Wir haben fälschlich geglaubt, die datenschutzrechtliche Einwilligungserklärung in die Verarbeitung unserer personenbezogenen Daten sei eine ausreichend sichere Bastion unserer Freiheit. Das Gegenteil trifft zu. In Wirklichkeit offenbart sich hier eine „strukturelle Unzulänglichkeit“ (Philip Radlanski) des datenrechtlichen Schutzkonzepts. Denn die Frage nach dem Vorhandensein eines rechtlich einzuordnenden Erklärungsbewusstseins bleibt im rein Formellen – dem bestätigenden Klick – stecken.

Legitimationsgrund

Die rechtsgeschäftlichen Hürden werden jedoch in Artikel 6 Absatz 1 lit. b) Datenschutz-Grundverordnung (DS-GVO) noch niedriger. Denn diese Norm bestimmt, dass die Verarbeitung personenbezogener Daten – auch ohne entsprechende ausdrückliche Einwilligung – schon immer dann als „rechtmäßig“ anzusehen ist, wenn dies „zur Erfüllung eines Vertrages erforderlich“ ist. Dieser eigenständige Legitimationsgrund für die Verarbeitung personenbezogener Daten beruht also allein auf dem schlichten Vertragsabschluss, etwa bei Facebook oder Twitter. Der rein mechanische, gedankenlose und ohne Rücksicht auf die Folgen getätigte Klick als Zustimmung zu den AGB reicht also aus und ist die im Vertragsabschluss versteckte datenschutzrechtliche „Einwilligung“.

Wenn dann aber – und das ist die Regel – der Verbraucher „for free“ den „Dienst“ eines Anbieters nutzen darf, sofern er nur seine personenbezogenen Daten zur Verarbeitung überlässt, dann stellt sich die harte Frage: Hat hier ein durchschnittlicher Verbraucher überhaupt noch ein rechtsgeschäftliches Erklärungsbewusstsein? Weiß er wirklich, was er in rechtlicher Tragweite in diesem Augenblick tut? Hat er die wenigstens laienhaft geprägte Vorstellung, dass er sich vertraglich mehr oder weniger langfristig bindet und mit seinen Daten einen ganz gewichtigen Beitrag in der Wertschöpfungskette des Anbieters – das „Gold“ des Internetkapitalismus – leistet? Nimmt er wirklich billigend in Kauf, dass er auf diesem Weg – und je öfter, desto mehr und zuverlässiger – seine Freiheit als Konsumbürger, aber auch als Privatmann mehr und mehr hinter sich lässt?

Vermutlich ahnt er es nicht einmal. Noch schlimmer: Es ist ihm wahrscheinlich sogar gleichgültig, solange die ihm „for free“ zur Verfügung stehenden „Dienste“ des Anbieters seine Bequemlichkeit, sein Wohlbefinden und seine virtuellen Freundschaften zu fördern versprechen. Das Faktische regiert; die verhaltenssteuernden Algorithmen können – vertraglich abgesichert – in ihr „Recht“ treten. Und sie tun dies mit stupender Verlässlichkeit.

Künstliche Intelligenz

Gegen das Vorliegen eines rechtsgeschäftlichen Erklärungsbewusstseins als unverzichtbarer Grundlage einer Willenserklärung und damit eines Vertrages spricht zudem entscheidend der Umstand: Die Welt der das Verhalten des Verbrauchers steuernden Algorithmen ist für den Bürger eine unsichtbare; es ist eine ihm ganz und gar verschlossene und auch unverständliche Welt. In ihr haben letztlich nicht mehr Menschen, sondern – Stichwort: Künstliche Intelligenz – Maschinen mit immenser Komplexität das Sagen und auch das Bestimmungsrecht. Sie aber verfolgen allein das kommerziell ihnen eingegebene und dann wohl unabänderlich feststehende Ziel, den Menschen in seiner Freiheit – vor allem in seiner Willens- und Handlungsfreiheit – zweckrational im Interesse des eigenen Geschäftsmodells zu beeinflussen und auf Dauer an sich zu binden, ihn zu beherrschen.

Machtlosigkeit

Wenn mathematisch vorgeprägte Algorithmen menschliches Verhalten steuern, dann stellt sich unabweisbar die Frage nach dem Überleben der liberalen, auf dem Konstrukt eines Vertrages beruhenden Privatautonomie. Die zu beantwortende ordnungspolitische Frage erweitert sich jedoch über diesen Horizont hinaus, weil es sich bei den Internetgiganten um ausländische Monopole oder Oligopole handelt. Im Wege der Geheimhaltung erzeugen sie eine gigantische Asymmetrie des Wissens aufgrund der von ihnen entwickelten Algorithmen. Das Recht als Steuerungsmodell erweist sich hier weithin als machtlos, obwohl der europäische Gesetzgeber – und nur er, nicht der nationale Gesetzgeber – berufen ist, ordnend hoheitliche Eingriffe vorzunehmen (Udo Di Fabio). Daher muss der früher liberal und privatautonom ausgestaltete Vertrag durch zwingendes Schutzrecht ersetzt werden.

Das Recht kann es nicht zulassen, dass rechtliches Sollen und Dürfen in seiner Normativität für den Bürger abgelöst wird durch eine nur auf der Faktizität beruhende Erkenntnis, dass nämlich Dritte – ohne irgendeine demokratische Legitimation – der bürgerlichen Freiheit Grenzen des Könnens setzen. Diese sind nämlich auch Grenzen des Dürfens und des Sollens. Solche Grenzen aber sind immer auch Grenzen der Unfreiheit.

The post Verhaltenssteuernde Algorithmen – wo bleibt das Recht? appeared first on DIVSI.

Bild: Liu zishan | Shutterstock

Ist der Mensch nur noch ein Haufen Daten? Eine kritische Auseinandersetzung mit „Homo Deus“ von Yuval Noah Harari.

Von Yvonne Hofstetter und Friedrich Graf von Westphalen

Wie ein Demiurg, ein Gott, der das Universum nicht erschafft, sondern gestaltet, ist die Menschheit dabei, einen ganzen Planeten zu verändern und umzurüsten, damit er zu ihren Bedürfnissen, Wünschen und Erwartungen passt und sie erfüllt.“ Dieses Wort des italienischen Philosophen Luciano Floridi erklärt uns bündig, dass sich der Mensch aufgemacht hat, einer „Datenreligion“ (Harari) zu huldigen. Sie soll den Menschen – jedenfalls eine Elite – kraft seiner technischen Möglichkeiten an die Stelle Gottes setzen. Denn nachdem die Menschheit weltweit Armut, Seuchen und Kriege dezimiert hat, meinen wir heute, mit der Verbindung von Biotechnologie und Computerwissenschaft ein Recht auf Glück zu schaffen. Der Schlüssel zum Glück, so Harari, gehört zur Drei-Punkte-Agenda des 21. Jahrhunderts, noch ergänzt um die Überwindung des Todes und das Streben nach der Göttlichkeit. Je nach dem Auge des Betrachters beklemmend oder verheißungsvoll steht deshalb im Horizont der menschlichen Evolution für morgen der Titel des neuen Buches von Yuval Noah Harari, nicht mehr in Frageform gegossen, sondern als Feststellung zementiert: Homo Deus.

Yuval Noah Harari: Homo Deus (C.H. Beck 2017)

Göttliche Zukunft

Dabei unternimmt Sapiens nicht mehr als das, was er in Tausenden Jahren seiner Herrschaft über die Erde schon immer erstrebte: zu sein wie Gott. Dass der Mensch sein will „wie Gott“, ist indessen nach abendländischer Tradition Frevel – Goethes „Faust“ ist hier das Lehrstück – und wird nur durch einen Pakt mit dem Teufel besiegelt. Schon die alttestamentliche Eva ließ sich auf die Schlange ein, die versprach, die Menschen würden beim Biss in den Apfel keineswegs sterben, sondern sein wie Gott und wissen (Genesis). Harari legt uns nahe, dass es heute, nach Ablauf einiger Tausend Jahre nach Adam und Eva, endlich so weit sein könnte.

Heute scheint es, als stünde der Homo sapiens kurz vor dem Ziel, sich kraft der ihm jetzt offen stehenden technischen Möglichkeiten über sich selbst zu erheben. An die Stelle einer menschlichen, aber auch endlichen Zukunft tritt, diese Vergangenheit hinter sich lassend, eine „göttliche Zukunft“ (Harari) – und damit eine nie mehr endende Zukunft –, einmündend in ein von Menschen gesetztes „Recht auf Glück“.

Datenhaufen

Die „Datenreligion“ (Harari) – nur noch dem wissenschaftlichen Fortschritt und dem Gewinnstreben verpflichtet – tritt in ihr Recht. Die von der Biowissenschaft entwickelten Einsichten geben uns die Nachricht, dass der Mensch in seinem Organismus nur noch ein biochemischer Algorithmus ist, deterministisch, berechenbar, steuerbar, manipulierbar. Die Folge: Sapiens ist kein freies Wesen, kein Individuum, kein unteilbarer Dualismus aus Körper und unsterblicher Seele, sondern ist nur ein Haufen Daten und ein Aggregat aus definierten Handlungsabläufen, die Umweltwahrnehmungen verarbeiten. Der Mathematiker John von Neumann hält neben der Mitarbeit an der Atombombe kurz vor seinem Tod im Jahr 1957 seine Gedanken in „Die Rechenmaschine und das Gehirn“ schriftlich fest und schreibt, dass der Mensch nicht sehr viel anders als ein Computer funktioniere. Der Sapiens wird also reduziert auf eine programmierbare Informationsverarbeitungsmaschine, wie schon der Zeitgenosse Neumanns, der Mathematiker Norbert Wiener, alle Lebewesen bezeichnete. So hat sich inzwischen in vielen Forschungsdisziplinen die Ansicht durchgesetzt, dass es keinen Unterschied mehr gibt zwischen Tieren und dem Menschen: In allen Fällen liegen diesen Organismen nur entzifferbare Algorithmen zugrunde; sie unterscheiden sich nur in ihrer Komplexität (Harari).

Entmachtung

Ist die menschliche Entwicklung zum Homo Deus also zwingend, weil die Organismen seiner Programmierer und deren Manager auf genau jenen Fortschritt zur Göttlichkeit determiniert sind? Oder wird der Angriff auf die Freiheit des Sapiens „spätestens in Zukunft als ideologisch durchschaut“ werden (Gabriel)? Denn dass Sapiens seine Entwicklung bis hierher ins digitale Zeitalter überhaupt nehmen konnte, hat er nur seiner Freiheit zu verdanken. Zwar ist Sapiens Teil der Natur, den Naturgesetzen dennoch nicht unterworfen. Er kann sie infrage stellen, sie erforschen, überwinden und sogar übersteigen. Kulturschaffung ist nichts anderes als das. Sie steht in engem Zusammenhang mit der Freiheit des Menschen, die Dinge eben nicht so hinzunehmen, wie sie sind, eine Freiheit, die in der gesellschaftlichen Strömung des Humanismus gipfelt.

Paradox ist, dass Sapiens im 21. Jahrhundert alle technologischen Werkzeuge geschaffen hat, sich selbst zu entmachten und seiner Freiheit zu berauben. „Homo sapiens verliert die Kontrolle“ (Harari) und wird von einem göttlichen Menschen, Homo Deus, verdrängt, der ihn nicht anders behandeln wird als Sapiens seine tierischen Mitgeschöpfe seit der Agrarrevolution. Evolution und natürliche Auslese? So lange lässt Homo Deus nicht mehr auf sich warten, denn die Weiterentwicklung auf die nächsthöhere Stufe des Menschseins lässt sich durch Technologie gehörig abkürzen.

Daten, Information, Wissen – sie sind der Kern des Dataismus, jener neuen Religion, mit der sich Sapiens selbst abschaffen soll. Denn der einzelne Mensch erschließt durch die Massendatenanalyse, Big Data, sein Wesen, sein Innerstes den im Silicon Valley zentralisierten Datenverarbeitungssystemen. Diese sind ja – das ist Gemeinplatz – dem menschlichen Hirn mittlerweile unendlich in Analytik und Prognose überlegen. So werden aber auch ganze Gesellschaften – Bienenvölker, Bakterienkolonien, Dörfer und Städte mit ihren höchst unterschiedlichen Menschen – mithilfe von Maschinen klassifizierbar, berechenbar, steuer- und lenkbar auf ein von Menschenhand angestrebtes, angeblich höheres Ziel hin. Das ist, wie Harari uns sagt, nicht düstere Zukunftsvision, sondern „gängige wissenschaftliche Lehre über alle Disziplinen hinweg, die unsere Welt gerade bis zur Unkenntlichkeit verändert“.

Yuval Noah Harari (Foto: CityTree | CC BY 2.0)

Massendaten

Diese ist dadurch geprägt, dass die global operierenden Datenverarbeitungssysteme „allwissend und allmächtig“ sind. Denn ermöglicht wird der Aufstieg des Homo Deus nur, weil ihm das 21. Jahrhundert eine nie da gewesene Massendatenbasis und Rechenkapazität verschafft. Massendaten werden durch die Massenüberwachung erhoben, früher mit dem Smartphone und dem Laptop, heute zunehmend durch das Internet of Everything. Niemand mehr soll sich Big Data entziehen dürfen, auch nicht die Kritiker und Häretiker des Dataismus. Wer es dennoch wagt, wird sterben müssen, mindestens wird sein Leben nicht mehr richtig funktionieren. Die allmächtigen Datenverarbeitungssysteme sind dann eben auch der Urgrund dafür, dass sie für den Menschen „zum Quell allen Sinns“ (Harari) werden: Ein verlorenes Smartphone bewirkt sogleich Sinnleere, jedenfalls bodenlose Langeweile.

Muster

Das aber heißt auch, dass menschliche Erfahrungen und Gefühle nicht mehr für sich zählen, weder als „Wert“ noch als Ausweis einer unverwechselbaren Persönlichkeit. Sie alle – Geist, Seele und Ichbewusstsein – werden nur noch als komplexe Datenmuster abgebildet: Das bislang geläufige und in der Gesellschaft verankerte humanistische und „homozentrische“ Weltbild – der Mensch als Krone der Schöpfung oder, wie es das Grundgesetz sagt, mit einem Anspruch auf eine unantastbare Würde ausgestattet – mutiert zu einem „datenzentrischen Weltbild“.

Allmacht

Die Herrschaft in diesem System üben – ohne demokratische Legitimation – die Unternehmen der Big Data aus. Maschinen mit künstlicher Intelligenz, immer mehr selbst lernend, stehen Pate. Ihr Wissen ist Macht, wohl auch schon Allmacht. Und fast alle Bürger fügen sich widerstandslos, weil sie scheinbar Nutzen davon haben, dass man sie optimiert. Das Interesse an den modernen Manipulationsmöglichkeiten und dem damit einhergehenden Verlust an Freiheit und Würde geht gegen null. Das Internet of Everything, aber auch Cyborgs – die Verbindung organischer Körper mit Maschinen – beherrschen unser Leben, aber auch uns selbst mehr und mehr. Die Verknüpfung riesiger Datenströme ist hierfür Ursache und nicht erkannte Realität. Es kann durchaus sein, dass eines baldigen Tages die Fähigkeiten solcher Cyborgs die menschlichen Möglichkeiten in ihrer begrenzten Effizienz um ein Vielfaches übertreffen.

Das „Ich als USB-Stick“ (Gabriel) ist dann die logische Folge. Das ist vor allem deswegen auch möglich geworden, weil die Biologie – angestiftet durch rein mathematisches Denken – uns einbläut, dass wir kein „Ich“ mehr haben, keine Seele und auch kein Bewusstsein unseres Selbst. Denn wenn – biochemisch gesprochen – nur noch Hirn, messbar, steuerbar, vor allem aber auch verknüpft mit Maschinen (Cyborgs, schon jetzt: wearables), uns den Weg in die Zukunft zeigt, dann ist dies nicht ein Weg zu uns selbst, sondern er führt in eine uns von Big Data gewiesene Zukunft – zu einem fremdbestimmten Glück. Der Philosoph Markus Gabriel gibt uns allerdings den Faden der Ariadne in die Hand, um aus diesem Labyrinth herauszufinden – „Ich ist nicht Gehirn“ heißt sein 2015 erschienenes Werk. Denn der „Dataismus“ (Harari) hat für viele Geisteswissenschaftler eine Menge Ungereimtheiten, angefangen bei der strittigen These, Sapiens sei deterministisch, über die Kompatibilitätstheorie, wonach sich Determinismus und Freiheit des Menschen gar nicht widersprechen, bis hin zur Unmenschlichkeit der Selbstvergöttlichung, der „Verrohung nach oben“ (Gabriel), die nichts weiter ist als die Allmachtsfantasie „einer alles verschlingenden digitalen Revolution, die in den Händen der Götter des Silicon Valley liegt“ (Gabriel).

Doch der Drang zum Glück, zu Unsterblichkeit und Gottähnlichkeit, den Wissenschaft und „Datenreligion“ (Harari) zum Dogma erhoben haben, lehrt uns auch einen neuen Humanismus. Sie nennt ihn „Transhumanismus“ (Sorgner). Ihm geht es um die genetische Optimierung des Menschen, um das pharmakologisch geprägte – ständige – Enhancement seiner körperlichen (Seele gibt es nicht mehr) Gesundheit (Pillenkonsum/Drogen) und um die allgemeine Verbesserung der Funktionstüchtigkeit des Menschen durch Cyborgs, soweit Roboter dies gestatten und ihm die Arbeitsplätze nicht rauben. Der Mensch, welcher der Religion abgeschworen hat, seitdem Nietzsche „Gott ist tot“ als Motto für Glück- und Machtstreben ausgegeben hat, findet offenbar an alledem äußersten Gefallen.

Bewusstsein

Dieser Gefahr können und müssen wir – das ist die einzige Chance – das abendländisch-christliche Welt- und Menschenbild (Grundgesetz und EU-Charta) entgegensetzen. Wir dürfen nicht nachlassen, den unantastbaren Wert der Würde der menschlichen Person und ihren Anspruch auf Freiheit ins Bewusstsein der Gesellschaft zu heben. Es ist eine personale Würde, die darin besteht, dass der Einzelne nie zum „Objekt“ einer ihm fremden Macht (Dürig) – abseits seiner Selbstbestimmung – werden darf. Und sie schließt unsere Freiheit ein, dem Glauben an die „Datenreligion“ (Harari) ein entschlossenes „Nein“ entgegenzusetzen, auch wissend, dass wissenschaftliche Vernunft und christlicher Glaube keinen Gegensatzbilden (Ratzinger).

The post Nicht nachlassen, den Wert der Würde ins Bewusstsein zu heben appeared first on DIVSI.