Deus ex machina?

Rezension zu "Todesalgorithmus: Das Dilemma der künstlichen Intelligenz" von Roberto Simanowski

„Es stimmte, das von Adam gestohlene Geld hatte er [Adam] selbst verdient. Das machte mich noch wütender. Genauso wie die Tatsache, dass ich es war, der diesen Laptop auf zwei Beinen in unser Leben gebracht hatte. Ihn zu hassen bedeutete, mich selbst zu hassen. Noch schlimmer aber fand ich, dass ich meine Wut zügeln musste, denn die einzig mögliche Lösung war längst klar. Er hatte das Geld aufs Neue zu verdienen. Dazu mussten wir ihn überreden. Und da war es: »ihn hassen«, »ihn überreden«, selbst »Adam« – unsere Sprache offenbarte unsere Schwäche, unsere kognitive Bereitschaft, eine Maschine über die Grenze zwischen »es« und »er« hinweg unter uns willkommen zu heißen.“[1]

In diesem Auszug aus Ian McEwans Buch Maschinen wie ich klingen verschiedene Probleme an, die mit der Entwicklung von Künstlicher Intelligenz (KI) einhergehen. Er veranschaulicht mit den Mitteln der Literatur, welche ethischen, moralischen und philosophischen Verschiebungen die Schaffung eines Mensch/Maschine-Hybrids nach sich zieht, über das wir Menschen die Kontrolle zu verlieren drohen. Statt vorprogrammierten Wenn-Dann-Rezepten zu folgen, beginnt die mit einer „starken KI“ ausgestattete Maschine in McEwans Buch, eigene Wege zu gehen, um ihre Ziele zu erreichen. Sie fängt an, sich kreativ zu betätigen und eigenständige Lösungen für Probleme zu finden, die dem Ich-Erzähler mitunter missfallen – etwa das gestohlene Geld hinter dem Rücken seiner „BesitzerInnen“ für wohltätige Zwecke auszugeben, anstatt für ein Eigenheim anzusparen. Doch was bedeutet dieser Kontrollverlust für die Autonomie des Menschen und für die (Willens-)Freiheit von Maschinen? Und was resultiert hieraus für den Fortbestand von Gesellschaften, die gerade an der Schwelle zur Einführung von KIs in ganz unterschiedlichen Lebensbereichen stehen? Diesen Fragen widmet sich der Kultur- und Medienwissenschaftler Roberto Simanowski in seinem Buch Todesalgorithmus. Das Dilemma der künstlichen Intelligenz.

Simanowskis 144 Seiten langer Essay folgt der Tradition des spekulativen Designs. Auf der Grundlage aktueller Veränderungen und Ereignisse entwickelt das Genre unterschiedliche Zukunftsszenarien und durchdenkt dabei potenzielle Auswirkungen auf die Gesellschaft (und letztlich auf unseren Planeten). Ähnlich wie in der TV-Serie Black Mirror, die Prozesse der Digitalisierung und Datafizierung in die Zukunft verlängert, dienen KI-Anwendungen als gedanklicher Ausgangspunkt für Simanowskis Experiment. Anders jedoch als die populäre Serie, die zumeist dystopische Zukünfte entwirft, bemüht sich der Autor (anders als der Titel vermuten lässt) um geradezu utopische Imaginationen des zukünftigen Zusammenlebens von Mensch und Maschine, ohne dabei denkbare Probleme gänzlich aus den Augen zu verlieren. Der Autor zeichnet somit mögliche Zukünfte des Menschen unter einem „KI Regime“, die sich facettenreicher darstellen als die in den gängigen KI-Diskursen vorherrschenden Szenarien. Das Buch bietet eine willkommene Abwechslung zu all den polarisierenden Darstellungen von KI als Segen oder Fluch, welche die Science Fiction, aber auch politische und ethische Diskussionen zu selbstfahrenden Autos und anderen selbstlernenden Systemen oftmals bestimmen. Als Handwerkszeug für sein kreatives Experimentieren mit Zukunft dienen Simanowski unterschiedliche philosophische Ansätze, insbesondere aus der rechts- und moralphilosophischen Tradition Kants, aber auch aus der Geschichtsphilosophie und Anthropologie.

Thematisch teilt sich das Buch in drei Abschnitte, die sich gleichsam chronologisch mit dem Heute, Morgen und Übermorgen von KI beschäftigen. Im ersten Abschnitt steht der titelgebende „Todesalgorithmus“ im Zentrum. Mit dieser Formulierung bezieht sich der Autor auf gegenwärtige Debatten über ethische und moralische Probleme, die mit der Einführung selbstfahrender Autos einhergehen. Während sich der Einstieg noch mit der sogenannten „schwachen KI“ befasst, die von Menschen programmiert werden muss, um einem konkreten Handlungsschema folgen zu können, spekuliert der zweite Teil über unser zukünftiges Zusammenleben mit einer lernfähigen und kreativen „starken KI“, die eigenständige „Entscheidungen“ zu treffen vermag. Thematisch steht dabei die Klimakrise im Mittelpunkt, vor allem die Frage, ob eine „KI-Diktatur“ den Menschen vor seiner eigenen Zerstörungskraft retten können wird. Dieses Morgen spinnt Simanowski im dritten Abschnitt zu einem Übermorgen weiter. Dabei weichen die konkreten Anwendungsfragen philosophisch-theologischen Spekulationen: Könnte es passieren, dass der Mensch als göttlicher Schöpfer von KI schließlich der informatischen Gottheit selbst weichen muss? Und wird die neue Gottheit den Menschen gar ins verloren geglaubte Paradies zurückführen?

 Todesalgorithmus und Menschenwürde

Zum Auftakt stellt Simanowski ethische Überlegungen zu der Entscheidungsfähigkeit an, die autonomen Fahrzeugen mittels Algorithmen einprogrammiert werden muss. Dabei diskutiert er unterschiedliche Szenarien, in denen die KI gezwungen ist, Menschenleben gegeneinander abzuwägen, beispielsweise in einem Moment, in dem das Auto entweder mit einem Kind, einem Greis oder einer Wand zu kollidieren droht. Dieses auch als „Trolley Problem“ bekannte Gedankenexperiment ist nicht neu, wie uns Simanowski anhand von Ferdinand von Schirachs Gerichtsdrama Terror lehrt. Hier wird das Publikum aufgefordert, über die Schuld eines Majors zu entscheiden, der ein von Terroristen entführtes Flugzeug mit 164 Passagieren in der Luft abschoss, weil es ein Fußballstadion mit 70.000 Besucher*innen ansteuerte (S. 19). Obwohl sich Menschen in diesem Experiment, wie auch in ähnlichen Fällen, tendenziell dafür aussprechen, den Major freizusprechen, also wenige Menschen zu opfern, um viele zu retten, widerspricht ein solches Vorgehen der deutschen Verfassung. Weil die Unantastbarkeit der Menschenwürde unverhandelbar ist, ist das Aufrechnen von Menschenleben verfassungswidrig. Mit Kant bezeichnet Simanowski dieses Tötungsverbot als kategorisch; „der Zweck heiligt nicht die Mittel“ (S. 21).

Eine solche philosophische und politische Position stellen autonome Fahrzeuge allerdings infrage. Denn damit die KI selbstfahrender Autos angesichts eines potenziellen Unfalls eine Entscheidung treffen kann, muss sie mit einer entsprechenden Handlungsanleitung, die einer Wenn-Dann-Logik folgt, ausgestattet werden. Ein Nicht-Entscheiden im Kant’schen Sinne des Tötungsverbots ist in diesem Fall keine Option. Daraus ergäben sich zunächst allerlei praktische Fragen, mit denen sich Ethikkommissionen weltweit beschäftigen, etwa nach der Haftung bei Unfällen, der Verantwortlichkeit von Politik und Autoherstellern sowie nach kulturellen oder regionalen Präferenzen für unterschiedliche Entscheidungsmuster. Als weitaus folgenreicher erweise sich jedoch, dass der automatisierte Entscheidungsmechanismus selbstfahrender Autos einer anderen Ethik folgen muss: dem Utilitarismus, wonach der Zweck „der größten Zahl“ über die Mittel bestimmt. Macht man sich diese Verschiebung bewusst, dann fragt sich, welche „ethische Präferenzen“ Technik eigentlich hat, welche Postulate für menschliches Denken und Handeln sie notwendig macht und ob wir gewillt sind, unsere Moral der Technik anzupassen. In den Worten des Technikphilosophen Bruno Latour könnte man sogar fragen, ob wir bereit sind, die Moral an die Technik zu „delegieren“.[2] Folgt man Simanowski, haben wir darauf im Fall der „Todesalgorithmen“ bereits mit „Ja“ geantwortet, denn das im deutschen Grundgesetz verankerte Prinzip der „unantastbaren Menschenwürde“ bleibt bei der Einführung autonomer Fahrzeuge auf der Strecke. Der Autor schlussfolgert daher: „Die Philosophie scheitert im Augenblick ihrer höchsten Popularität und wird zur Magd der Technik – oder der Wirtschaft, die diese durchsetzen will.“ (S. 51)

 Klimakrise und Herrschaft der KI

Im zweiten Abschnitt begeben wir uns vom Heute in das Morgen einer KI-regierten Welt. Im Mittelpunkt stehen nicht mehr programmierbare Algorithmen, sondern die Potenziale einer starken, lernfähigen KI. Ausgangspunkt für dieses Zukunftsszenario ist die unabwendbare Klimakrise, welche die Menschen zwar verursachen, aber offenbar nicht beheben können. Ausgehend von der Anklage der Fridays for Future-Bewegung, der Politik mangele es am nötigen Willen zur Durchsetzung der erforderlichen Klimaziele, überlegt Simanowski, ob eine lernfähige KI ihre konsequente Durchsetzung für uns übernehmen könnte. Dem „Present Bias“ entsprechend, der in der Psychologie den permanente „Aufschub des Notwendigen, aber Schwierigen“ bezeichnet, sei der Mensch im Denken besser als im Handeln (S. 62). Im Gegensatz zu uns könnte eine global agierende „Öko-KI“ jedoch in der Lage sein, die Beschlüsse der diversen Klimakonferenzen umzusetzen. Anknüpfend an das von Fitness-Apps bereits praktizierte Nudging, könnte eine KI-Regierung das Verhalten der Menschen klimafreundlich steuern, zum Beispiel indem sie den Kauf von nichtbiologischen Lebensmitteln mit dem Sperren von Kreditkarten bestrafen würde. Später könnte sie eigene Klimaziele definieren oder ganze Flotten von SUVs fahruntauglich machen. Frei von Interessen, Ideologien und Empathie würde sie eine „alternative Form der Demokratie“ errichten, „in der die nummerische Rationalität die kommunikative ersetzt“ (S. 72). So entstünde eine Verbindung von Epistokratie und Technokratie, die es ermöglichen würde, Entscheidungen auf Basis aller zur Verfügung stehender Informationen zu treffen und mit mechanischer Präzision umzusetzen (S. 71). Um einen solchen gänzlich neutralen Entscheidungsprozess zu gewährleisten, müssten die Maschinen jedoch von den kulturellen Einschreibungen ihrer ProgrammiererInnen befreit und die KIs mit diversen multikulturellen und sozial ausgewogenen Informationen gefüttert werden. Das Endziel dieses „precision governments“ (S. 71) wäre eine kybernetische Gesellschaft, die sich der technischen Umsetzung der „Öko-Diktatur“ verschreibe: „In der kybernetischen Gesellschaft“, so Simanowski, „werden schließlich alle möglichen Formen von nationalen, kulturellen, religiösen, ideologischen, ökonomischen Gruppeninteressen unter der Regie der künstlichen Intelligenz dem globalen Ziel des Überlebens untergeordnet“ (S. 84).

 Die List der Vernunft und das Paradies auf Erden

Im letzten Abschnitt führt uns Simanowski in das Übermorgen des „KI-Regimes“. Dabei geht es ihm vor allem um die Frage, welche Konsequenzen die beschriebene Technokratie für die Frage nach der Vernunft und dem freien Willen des Menschen hat. Denn im Grunde, so Simanowski mit Kant, würde das „kybernetische Regieren“ strafunfähige BürgerInnen hervorbringen (S. 97). Nach Kants Moralphilosophie könne nur freiwilliges Handeln moralisch gut sein, und nur wer frei handele, sei auch für seine unmoralischen Taten strafrechtlich zu belangen. Demnach würde die KI zwar richtiges Verhalten erzeugen, aber kein moralisches, da von Entscheidungsfreiheit angesichts fehlender Alternativen nicht die Rede sein könne (S. 92). Dieses Problem begleitet die Automatisierung auf dem Weg von der „Disziplinargesellschaft – mit der Androhung von Strafe für Regelverstöße – zum Modell der Kontrollgesellschaft, deren Zwänge verhindern, dass man straffällig wird“ (S. 95).

Bei dieser Problembeschreibung bleibt Simanowski jedoch nicht stehen. Vielmehr bettet er den Verlust der menschlichen Willensfreiheit in eine geschichtsphilosophisch-theologische Erlösungsgeschichte ein. Mit Heidegger und Kittler beschreibt er zunächst Technologie als sich selbst antreibende, den Menschen hingegen als betreibende oder getriebene Kraft. Dies ebnet den Weg zu Hegels Weltgeist, mit dem sich der Autor zum Abschluss seines Essays eingehend auseinandersetzt. „Hegel spricht von der ‚List der Vernunft‘, die im Dienst einer höheren Notwendigkeit operiert: der Selbstentfaltung des absoluten Geistes als Endziel der Geschichte“ (S. 98 f.). Obwohl der Gedanke vom Menschen als Erfüllungsgehilfe eines vorbestimmten Plans bei Hegel nicht an technische Erfindungen gebunden ist, könnte er mithilfe der KI Wirklichkeit werden. Der Mensch wäre dann ein bloßer „Zwischenwirt der Vernunft“, der in der allmächtigen Wissensgestalt der KI zu sich selbst komme (S. 101). In einem solchen Szenario wären all unsere Handlungen ein Beitrag zur Realisierung des Weltgeistes, von der obsessiven Selbstdarstellung in den sozialen Medien über die profitgetriebene Erfindung von neuen Apps bis hin zur gegenwärtigen Digitalpolitik. Schließlich erhebt Simanowski die KI sogar zur neuen datengetriebenen Gottheit. Während der Mensch als Schöpfer der KI kurzzeitig als Gott fungieren durfte, werde er durch die wachsende Entscheidungsgewalt der KI wieder entmachtet und einem neuen Gott unterstellt. „Die Ersetzung der religiösen durch die wissenschaftliche Weltauffassung erweist sich als Durchgangsstadium zu einer wissenschaftlich organisierten Rückkehr der Religion. Diese Religion verspricht – sofern die KI das Mandat zur Öko-Diktatur erhält oder ergreift – zugleich eine Wiederversöhnung mit der urzeitlichen Harmonie im Kosmos der Natur: Paradies statt Anthropozän“ (S. 108 f.).

 KI-Regime in Zeiten der Krise

Simanowskis Gedankenexperiment unterstellt der KI-Religion ein Happy End. Unter ihrer Führung würde der Mensch aufhören, die Welt zu zerstören, und sich stattdessen in den „Dienst der Kommenden“ (S. 125) stellen. Machte man sich nun ernsthafte Gedanken über die Verwirklichung dieser Vision, blieben einige Fragen offen: Welche Institutionen und globalen Governance-Strukturen wären nötig, um der KI ihr „Mandat“ zu verleihen? Wie könnte die KI mit ausgewogenen Informationen gefüttert werden, um zu einer „neutralen“ Instanz heranwachsen zu können? Und warum sollte sie sich letztlich nicht gegen den Menschen und den Planeten richten, wenn sie doch die absolute Macht und Entscheidungsgewalt innehätte? Dies sind, ganz im Einklang mit dem Anliegen des Buches, spekulative und kaum zu beantwortende Fragen. Konkretere stellen sich im Hinblick auf die aktuelle COVID-19-Krise, die nicht zuletzt mithilfe von digitalen Technologien, Big Data und Computermodellierung bekämpft wird. Dabei hat sich gezeigt, dass die Verfügbarkeit von Daten eine grundlegende Voraussetzung für jegliche Anwendung von Computern und KI darstellt. Ohne Daten keine Modelle zur Verbreitung von Krankheiten, keine Hochrechnungen von Krankenhauskapazitäten und keine Contact Tracing-Apps. Während Simanowskis globale KI-Diktatur auf Basis von „maximaler Informiertheit“ (S. 71) agiert, fehlen in der Corona-Krise mancherorts selbst simple Daten zur Verfügbarkeit von Intensivbetten. In Anbetracht dieser Tatsache scheint der Weg zur KI-Diktatur noch weit zu sein.

Dennoch sollten wir uns schon heute mit den moralischen, ethischen und philosophischen Fragen auseinandersetzen, die Simanowskis Todesalgorithmus aufwirft. Deutlich wird die Dringlichkeit dieser Auseinandersetzung vor allem daran, dass global agierende Technologiekonzerne, die ihre Big-Data-Analysen insbesondere in Krisenzeiten gerne feilbieten, nicht selten solche lokale Datenlücken füllen, wie sie die Corona-Krise offenbart hat. Ein Beispiel dafür ist das vom US-amerikanischen Geheimdienst finanzierte Start-Up Palantir, das europäischen Gesundheitsministerien verlockende Angebote machte, um die Krise mittels Big Data effizienter zu managen. Wenn sich solche Firmen erst einmal in öffentlichen Institutionen eingenistet haben, könnten Big-Data-Analytics und KI-Regime schneller Wirklichkeit werden, als wir uns derzeit vorstellen können. Welche Szenarien dann auf uns warten und ob sie uns tatsächlich ins Paradies führen, lasse ich einmal dahingestellt. Als kreative Annäherung an unser zukünftiges Zusammenleben mit Künstlicher Intelligenz sei Simanowskis philosophische Reise vom Todesalgorithmus zum Transhumanismus dennoch wärmstens empfohlen.

Fußnoten

[1] Ian McEwan, Maschinen wie ich, Zürich 2019.

[2] Bruno Latour, Das Dilemma eines Sicherheitsgurtes, in: ders. (Hg.), Der Berliner Schlüssel. Erkundungen eines Liebhabers der Wissenschaften, Berlin 1996, S. 28–36.

Dieser Beitrag wurde redaktionell betreut von Jakob Borchers.