zurück zur Übersicht

Zwischen Anthropozän und Technozän

16. Juli 2018

Zwischen Anthropozän und Technozän

Selbstbestimmtes Leben im Zeitalter von Algorithmen und KI? Grundsätzliche Gedanken zu aktuellen Problemen in unserer vernetzten Gesellschaft. Und Blicke auf das, worauf es künftig ankommt.

Von Joanna Schmölz

Die Digitalisierung ist nicht einfach nur technischer Fortschritt – sie nimmt enormen Einfluss auf das Hier und Jetzt sowie auf die Zukunft der zunehmend vernetzten Gesellschaft und betrifft den Menschen dabei in all seinen sozialen und „sozietalen“ Bezügen. Ganze Bevölkerungsgruppen stehen vor großen Herausforderungen. Wer sich im digitalen Dickicht nicht zurechtfinden kann oder will, steht schnell im sozialen Abseits. Eine neue Plattformökonomie lässt nur die teilhaben, die ihre persönlichen Daten hergeben, und gefährdet mit ihren zentralisierenden Effekten die Demokratie. Überdeutlich klar wird zudem, dass die Gesetze des Kapitalismus weder vor der digitalen Welt noch vor der persönlichen Sphäre des Menschen haltmachen.

Superintelligenz

Die neuen Möglichkeiten der Datensammlung, -analyse und Profilbildung öffnen der Diskriminierung von Menschen Tür und Tor und können unser bisheriges Solidarsystem untergraben. Nicht wenige sehen Algorithmen und künstliche Intelligenz (KI) auf dem Weg zu einer Art Superintelligenz, die – einmal „angeknipst“ – unbeherrschbar und unbesiegbar die menschliche Spezies in Gänze infrage stellen könnte.

Dystopische Szenarien haben Hochkonjunktur. Dennoch: Neue technologische Errungenschaften wurden schon immer von Skepsis und Ablehnung begleitet. Im Zentrum stehen seit jeher Ängste vor den Zerstörungsmöglichkeiten moderner Technik, vor dem Neuen und Unbekannten. Die oft angeführte Technikskepsis allein reicht als Erklärungsmuster für die sich jeweils ausbreitenden Ängste jedoch nicht aus. Mit Blick auf die zunehmende Digitalisierung und Vernetzung sind es vielmehr sozioökonomische Disruptionen, die gefürchtet werden.

Aktuell wird vermehrt über den Einsatz von Algorithmen und künstlichen Intelligenzen sowie die Auswirkungen der Verlagerung von Entscheidungen auf „lernende Maschinen“ und damit verbundene soziale (Folge-)Kosten debattiert.

Für die einen erweitert Technik – in welcher Form auch immer – die menschlichen Fähigkeiten. In diesem Verständnis dient sie allen voran der Entlastung des Menschen. Statt den Wegfall von Berufen und Arbeitsplätzen als Bedrohung zu empfinden, freuen sich die Vertreter dieser Sichtweise auf ein Zeitalter des geistigen Müßiggangs, in dem die Maschinen alle Arbeit verrichten, während sich der Mensch dem Intellektuellen, dem Sinnvolleren hingeben kann.

Diametral entgegengesetzt argumentieren diejenigen, die den Menschen vor ihrem geistigen Auge bereits wegrationalisiert sehen. Ihre Position basiert häufig auf der Annahme, dass der zu Fehlern neigende Mensch keine Chance habe gegen die aufwachsende Allmacht algorithmengesteuerter Entscheidungen.

Minisprung

Manch eine aktuelle Entwicklung spielt den Kritikern unmittelbar in die Hände. Amazons „Echo“ ist zu Weihnachten 2017 in mehr als eine Million Haushalte eingezogen. Die darin „wohnende“ Sprachassistentin Alexa wartet nun tagein, tagaus auf Fragen und Befehle. Und es ist nur ein kleiner Sprung von „Alexa, wie wird das Wetter heute?“ zu „Alexa, was soll ich anziehen? … was hören? … wen treffen?“. Es ist zwar noch nicht alles ausgereift, aber technisch allemal möglich – und Alexa und Co. lernen, auch dank unserer Hilfe, täglich dazu.

In einer solchen „World Without Mind“– so die Conclusio der Verfechter dieser Sichtweise – werde der Mensch von der Freiheit der freien Entscheidung „erlöst“, indem er seine Fragen einfach in den Raum stellen kann. Stattdessen werde sein Verhalten analysiert und konform mit dem durch Algorithmen determinierten Mainstream gesteuert. Am Ende dieser Überlegungen stehen die Herrschaft der Maschinen über die Menschheit und ein der Technik ausgelieferter Mensch, der nach ihren Weisungen agiert – degradiert zum Assistenten von Robotern.

Über derart düstere Zukunftsszenarien könnte hinweggeschaut werden, wenn sie vollkommen absurd wären. Tatsächlich aber sind die technischen Möglichkeiten einer solchen Entwicklung zum Teil heute schon Realität. „Predictive Policing“ z.B. sortiert Menschen in Schubladen. Jetzt schon entscheiden Algorithmen vielfach über die Vergabe von Krediten oder Einladungen zum Bewerbungsgespräch.

Teilhabe

Heißt es also „falscher“ Stadtteil = schlechtere Konditionen oder gleich gar kein Kredit? Und was ist, wenn in Zukunft alle Firmen dieselbe Bewerberauswahl-Software einsetzen? Ein umfänglicher „Social Score“ könnte in Zukunft über Zugang und Ablehnung und damit weitreichend über gesellschaftliche Teilhabe entscheiden.

Social Scoring in China

Alltag: In China wird Überwachung für Social Scoring bereits praktiziert. (Foto: Louis Constant – Shutterstock)

Wer ein solches Szenario für unrealistisch hält, braucht nur einen Blick nach China zu riskieren, wo ein solches Sozialkredit-System bereits eingeführt wird. Das aktuelle und vergangene Verhalten entscheidet über die Zukunft. An diese scheinbar simple Formel schließen sich viele unbeantwortete Fragen an.

Kann überhaupt von Objektivität die Rede sein, wenn nur bestimmte Daten zugrunde gelegt werden? Und selbst wenn quasi alles über eine Person bekannt wäre, ist der Mensch nicht mehr als die Gesamtheit der Daten, die er (freiwillig oder unfreiwillig) hinterlässt? Droht der Verlust des Sonderfalls? Wie lässt sich unter den genannten Umständen Angemessenheit und Richtigkeit algorithmischer Entscheidungen überprüfen?

Kontext

Die Analyse und möglichst effektive Unterscheidung ist das eine, die Frage nach dem Kontext und dem Zweck das andere. In welchem Verhältnis zueinander stehen Ziel und Maßnahme? Welche gesellschaftlichen Parameter heuund Grunderfordernisse müssen noch Berücksichtigung finden? Ist diskriminierungsfreie Teilhabe unter solchen Umständen überhaupt möglich? Ist sie (noch) erwünscht? Oder sollten sich solch grundlegenden Fragen zukünftig auch lernende und über moralische Zweifel erhabene Maschinen widmen?

Von der Bewertung und Klassifizierung ist der Weg zur Manipulation nicht sonderlich weit. Je mehr Einzelinformationen über eine Person zusammenfließen, desto besser kann über ihren Gesamtzustand spekuliert werden. Auf Basis derartiger Einschätzungen lassen sich Maßnahmen implementieren, die nicht nur die Wahrnehmung, sondern auch konkret das Verhalten beeinflussen können.

Als eine der bereits etablierten Formen sei das „Nudging“ genannt, mit dem Menschen „sanft“ zu einem erwünschten Verhalten gebracht werden sollen („Personen, die das gekauft haben, kauften auch dies …“).

Urteilskraft

In vielfacher Hinsicht lassen diese Entwicklungen fundamentale Fragen aufkommen: Inwieweit steuern wir unseren Alltag – jetzt und in Zukunft, bewusst oder unbewusst – noch selbst, und welchen Anteil daran übernehmen Algorithmen und lernende Maschinen? Wollen wir zukünftig noch unsere eigene Urteilskraft bemühen?

Gegenwärtig fußt das Vertrauen westlicher Gesellschaften im Wesentlichen auf dem Dreiklang aus freier/sozialer Marktwirtschaft, Rechtsstaat und freiheitlicher Demokratie. In zum Teil jahrhundertelangen Prozessen haben wir bestimmten Dingen und Zuständen einen Wert beigemessen, haben um Grundwerte gerungen. Wir haben ein demokratisches Bewusstsein dafür entwickelt, was gut ist – für uns und für unsere Nachkommen.

Im Zentrum von alledem steht der aufgeklärte Mensch, der frei von Überwachung oder Beeinflussung entscheiden und so das eigene Leben gestalten kann – eingebettet in eine Gemeinschaft und ein System, dem er vertrauen kann, dass es im vorgenannten Sinne zum Wohle aller funktioniert.

Herausforderung

Die disruptiven Kräfte der Digitalisierung rütteln nun aber an diesen Grundpfeilern. Auf der einen Seite bergen die technischen Errungenschaften großes volkswirtschaftliches Potenzial und bereichern den Lebensalltag der Menschen.

Auf der anderen Seite bringt die „Datafizierung“ unseres Lebens neue Herausforderungen mit sich. Die Mehrheit der Menschen weiß, dass sie die von ihr rege genutzten vermeintlich kostenlosen Dienste mit den eigenen Daten bezahlt, und geht sogar davon aus, dass die Anbieter mit diesen Daten Geschäfte machen. Trotz Empörung über diese Praxis reagiert sie aber nicht mit Abstinenz. Diese Dienste sind zur unentbehrlichen Infrastruktur des persönlichen Alltags und damit unverzichtbar geworden. Dies erklärt auch, warum die meisten den Nutzungsbedingungen, die ihnen eigentlich nicht gefallen dürften, ohne Weiteres zustimmen. Für viele bleibt die Möglichkeit einer Entscheidung gegen die Nutzung solcher Angebote eine rein theoretische.

Genau hierin liegt ein zentrales Problem: Dann nämlich, wenn der Einzelne nicht mehr überblicken kann, was mit seinen Daten geschieht, und er auch kaum eine Chance hat, darüber mitzubestimmen oder gar die Folgen der Datenerfassung und -weiterverwertung abzuschätzen, kann von informationeller Selbstbestimmung keine Rede sein. Die aber ist für die freie Entfaltung der Persönlichkeit unabdingbar. An ihre Stelle tritt Fremdbestimmung – und sei es auch „nur“ im Foucault’schen Sinne in Form eines Panoptismus, der sich durch ein zunehmend konformes Verhalten des Individuums aus Vorsicht und Angst vor den Konsequenzen einer steten Überwachung und Kontrolle ausdrückt.

Menschsein

Wenn also – wie renommierte Wissenschaftler, Philosophen und andere Experten prognostizieren – der Entfaltungsraum des Einzelnen durch den Einsatz von Algorithmen und KI massiv eingeschränkt zu werden droht und wir auf Sicht gar unserer Autonomie beraubt werden könnten, dann geht es um nicht weniger als um das Menschsein in Gänze.

Während im Zeitalter der Industrialisierung vor allem die menschliche Muskelkraft durch Maschinen ersetzt wurde, übernahmen die ersten Computer unsere „Rechenleistung“. In Zeiten von Algorithmen und KI übertragen wir zusehends auch kognitive Fähigkeiten auf Maschinen. Die Folgen dieser Verlagerung höherer geistiger Leistungen können wir aus heutiger Sicht allenfalls in Ansätzen begreifen. Smarte Lösungen schicken die Menschheit auf eine Reise vom Anthropozän zum Technozän.

Technik behebt ohne Zweifel viele Probleme, ihr Einsatz aber bleibt selten folgenlos. Nicht alles technisch Mögliche ist auch im Sinne der Gesellschaft und des Einzelnen.

Spielraum

Durch Algorithmen und KI getroffene Entscheidungen können fairer ausfallen, weil sie immer zuverlässig nach der gleichen Logik und damit konsistent gefällt werden. Gleichzeitig verschwindet damit der Ermessensspielraum des Menschen, der in besonderen Fällen existenziell sein kann. Maschinen sind unbestechlich, aber sie drücken eben auch im Notfall kein Auge zu.

Feuer, Dampfmaschine, Handy, Herrschaft der Maschinen. Ist das eine logische oder gar natürliche Entwicklung? Die Technische Evolution? Zweifelsfrei werden Algorithmen, Künstliche Intelligenz und Automatisierung die Gesellschaft dramatischer verändern als viele andere technische Entwicklungen. Die Weichen dafür, in welche Richtung das Pendel auf Sicht ausschlägt, sollen wir aber lieber früher als später stellen, bevor die technischen Systeme eine solche Wirkmacht erlangt haben, dass man sie nur schlecht wird abschalten können.

Unsere Zukunft wird maßgeblich davon abhängen, welche Antworten die Politik weltweit auf die Herausforderungen der Digitalisierung findet, die ihr gesamtes Gesellschaftsmodell und die Demokratie langfristig infrage stellen könnten. Wie wollen wir in Zukunft zusammenleben? Wie steht es um das Gemeinschaftsgefühl in einer zunehmend individualisierten Welt? Wohin wird sich unsere Gesellschaft entwickeln, und nach welchen Maßstäben wollen wir sie gestalten? Fest steht: Für die Gestaltung der Zukunft bedarf es eines besonnenen Blickes auf technische Errungenschaften.

Humanismus

Es ist unabdingbar, dass wir auch mit uns selbst ins Gericht gehen und uns fragen, wie bequem und wie käuflich wir womöglich (geworden) sind, welches Maß an Sicherheit wir fordern und was wir bereit sind, dafür zu tun. Vor allem aber dürfen Sicherheit und Komfort (bzw. noch konkreter „Convenience“) nicht als zwei sich gegenseitig ausschließende Antworten auf dieselbe Frage betrachtet werden.

Chancen und Risiken

Chancen und Risiken: Digitalisierung birgt, besonnen eingesetzt, großes Potenzial für unsere Zukunft und die Zukunft unserer Kinder. Ein Bewusstsein für den Umgang mit persönlichen Daten muss geschaffen werden. (Foto: Worawee Meepian/ESB Professional – Shutterstock)

All diese Fragen sollten wir voller Optimismus angehen und uns dafür einsetzen, dass Urteilskraft und Sittlichkeit, die Grundwerte der Aufklärungsgesellschaft und die demokratischen Prinzipien, nicht nur überleben, sondern gestärkt werden. Dazu braucht es einen Gestaltungswillen, der selbstbewusst positive Narrative schafft und ein hoffnungsvolles Bild der Zukunft zeichnet. Statt nur Geschäftsmodelle im Blick zu haben, sollte sozialer Fortschritt ein Motor für Innovationen sein – nicht nur ihr zufälliges Anhängsel. Die zentrale Frage könnte lauten: Wo kann Technik helfen, die Gesellschaft humaner zu machen, wo kann sie sinnstiftend sein und dem Menschen nützen? Welche Werte sind uns jetzt und in Zukunft wichtig? Welche sich in einer global vernetzten Welt neu formenden gesellschaftlichen Konventionen sind wir gewillt zu akzeptieren?

Unter der Voraussetzung, dass wir uns in dieser Hinsicht nicht „zurückentwickeln“, sondern am Humanismus und dem Menschenbild der Aufklärung festhalten wollen, muss es nicht zuletzt darum gehen, Bildung darauf zurückzuführen, was sie immer war: eine kritische Aneignung der Welt. Denn das humanistische Modell appelliert immer an den Einzelnen. An die Urteilskraft von Unmündigen ist schwer zu appellieren.

Joanna Schmölz

Foto: frederike heim photography

Joanna Schmölz
studierte Medienkultur und Politische Wissenschaft. Sie ist stellv. Direktorin und wissenschaftliche Leiterin des DIVSI.

vorheriger Beitrag nächster Beitrag

nach Oben