Todesalgorithmus (eBook)

Das Dilemma der künstlichen Intelligenz

Roberto Simanowski (Autor)

Peter Engelmann (Herausgeber)

eBook Download: EPUB

2020
Passagen Verlag
978-3-7092-5025-9 (ISBN)

Infos

Algorithmen beherrschen die Welt, so hört man, heute schon und morgen noch viel mehr. Sie sitzen am Steuer selbstfahrender Autos und lenken mehr und mehr gesellschaftliche Prozesse. Wie programmieren wir sie und was passiert, wenn sie sich schließlich selbst programmieren? Die Angst ist so groß wie die Hoffnung und das moralische Dilemma. Dürfen Algorithmen im Ernstfall entscheiden, wer sterben muss? Wird die künstliche Intelligenz dem Menschen den freien Willen nehmen, ihn vor sich selbst schützen und zurück ins Paradies der Entscheidungslosigkeit befördern? Dieses Buch lädt ein zu einer philosophischen Spekulation über unsere Zukunft. Es handelt von den Aporien und Paradoxien der künstlichen Intelligenz. Es vagabundiert im Denken, verbindet das scheinbar Unverbundene und sieht am Ende in den Erfindern des Silicon Valleys nicht mehr und nicht weniger als die Geschäftsführer von Hegels Weltgeist.

Roberto Simanowski, geboren 1963, ist Kultur- und Medienwissenschaftler und seit 2020 Distinguished Fellow of Global Literary Studies im Excellence-Cluster 'Temporal Communities' an der Freien Universität Berlin. Für sein Buch "Todesalgorithmus. Das Dilemma der künstlichen Intelligenz" wurde er 2020 mit dem Tractatus-Preis des Philosophicum Lech ausgezeichnet.

Autor

Roberto Simanowski, geboren 1963, ist Kultur- und Medienwissenschaftler und lebt in Berlin und Rio de Janeiro. Zuletzt lehrte er als Gastprofessor an der Universität Basel.

Textauszug

Würde des Menschen

SpamAssassin

Das Überleben der digitalen Technologien hängt von Anfang an in hohem Maße auch von ihrem Tötungsinstinkt ab. Diese Gleichung gilt schon für die Emailkommunikation, die nie erfolgreich gewesen wäre ohne die Lösung des Spam-Problems. Der berühmte Algorithmus, der hier früh für Ordnung sorgte, heißt „SpamAssassin“. Ein martialischer Name für einen Filter, der das Rauschen im neuen Kommunikationsmedium durch die Trennung der erwünschten von der unerwünschten Post reduzieren soll. Ein passender Name, denn am Ende geht es von Anfang an immer genau darum: Was überlebt und wer nicht.

Die Müllbeseitigung ist das erste Übungsfeld der künstlichen Intelligenz. Hier lernt die Software Muster zu erkennen und Objekte zu klassifizieren. Hier trifft sie Entscheidungen unter Aufsicht und schließlich auch ohne menschliche Kontrolle: erst in einer gleichen Situation, dann in einer ähnlichen. Alle aktuellen und künftigen Phantasien über intelligente Kühlschränke, autonome Autos, autarke Roboter und andere Formen der künstlichen Intelligenz, die heute die Öffentlichkeit begeistern oder beunruhigen, stammen vom Selbstlernmechanismus des Werbemüllmörders.1

Der jüngere Bruder des SpamAssassin ist der Todesalgorithmus, der in selbstfahrenden Autos im Notfall entscheidet, ob das Fahrzeug eher in eine Gruppe von Fußgängern oder auf ein Kind oder gegen eine Häuserwand fährt. Über diesen Todesalgorithmus gibt es inzwischen hitzige philosophische und auch schon juristische Debatten. Denn als sicher gilt: Das autonome Auto kommt, und wahrscheinlich noch vor den autonomen Waffen und den mechanischen Haustieren. Die Entwicklung ist politisch gewollt, da man zu Recht davon ausgeht, dass autonom fahrende Autos nicht nur die Fahrkosten und den Energieverbrauch drastisch senken werden, sondern auch die Zahl der Unfälle. Immerhin verfügt der Bordcomputer über die Fahrerfahrung aller Computer, verarbeitet viel mehr Information viel schneller als der Mensch, wird niemals müde, fährt nie betrunken und textet nicht am Lenkrad. Es wäre moralisch unverantwortlich, selbstfahrende Autos nicht einzuführen.

Zugleich gilt als sicher, dass es weiterhin Unfallsituationen geben wird, bei denen Todesopfer nicht vermeidbar, sondern nur wählbar sind. Das führt zum ethischen Problem, die Algorithmen der selbstfahrenden Autos mit einer spezifischen Entscheidungsmoral ausstatten zu müssen, die unvermeidlich dem Grundprinzip der deutschen Verfassung widerspricht. Die Unantastbarkeit der Menschenwürde ist in Gefahr, wenn die Technik verlangt, Abwägungen, die sich philosophisch verbieten, für den Ernstfall zu programmieren.

Terminator 7

In der wahrscheinlich berühmtesten Fake-Werbung unserer Zeit fährt ein Auto durch eine Landschaft, die deutlich in der Vergangenheit liegt. Alle Menschen halten in der Arbeit inne und schauen mit Ehrfurcht auf etwas, das sich schließlich als ein Mercedes der Luxusklasse erweist. Kurz darauf stoppt dieser Mercedes vor zwei Mädchen, die auf der Straße spielen. Der Bremsvorgang geht offenbar auf einen Sensor zurück, der Objekte vor dem Fahrzeug wahrnimmt. Als das Auto weiterfährt, nun unterlegt mit spannungsgeladener Musik, kommt ein rennender Junge mit einem Drachen ins Bild und eine junge Frau, die ihm beim Wäscheaufhängen glücklich hinterherschaut. Das Zusammentreffen des Jungen mit dem Mercedes überrascht nicht, wohl aber der Zusammenprall. Hat der Sensor diesmal versagt?

Die Antwort kommt rasant in kleinen Stücken: Kurz vor dem Aufprall sieht man für eine Millisekunde das Bild von Hitler, dann ruft die Frau mit dem Wäschekorb erschrocken „Adolf?“, auf dem Ortseingangsschild steht „Braunau am Inn“, aus der Vogelperspektive formen sich die Glieder des überfahrenen Jungen auf der Straße zu einem Hakenkreuz, der daraufhin eingeblendete Werbesatz für Mercedes’ Bremssystem lautet: „Erkennt Gefahren, bevor sie entstehen“.2

Dieses Video aus dem Jahr 2013 hat im Frühjahr 2016 über 5 Millionen Views; mehr als 21 000 finden es gut, knapp 2 000 finden es schlecht, die rund 2 500 Kommentare verteilen sich entsprechend. Der Hinweis, dass es sich nicht um einen autorisierten Mercedes-Werbespot handelt, sondern um die Abschlussarbeit von Studenten der Filmakademie Ludwigsburg, verringert so wenig wie der Hinweis auf den fiktionalen Rahmen das philosophische Problem, das hier aufgerufen wird: Unter welchen Umständen darf man töten, um Leben zu retten?

Die Fiktion des unautorisierten Werbeclips spielt mit einem Topos der Popkultur, wenn sie den Mercedes wie einst das Skynet den Terminator in die Vergangenheit schickt, um den Beginn einer ungewollten geschichtlichen Entwicklung zu verhindern. Während Zeitreisen in die Vergangenheit freilich reine Science-Fiction sind, werden sie in die andere Richtung allmählich Teil unserer Gegenwart. Das Versprechen heißt vorhersagende Analyse, das als „predictive policing“ an vielen Orten im täglichen Polizeibetrieb bereits zum Einsatz kommt. Anders als in Steven Spielbergs Minority Report basiert das Verfahren allerdings nicht auf den hellseherischen Fähigkeiten dreier Frauen im Wasser, sondern auf extensivem Data-Mining: auf der Erstellung von Tatprofilen, Korrelationen und Wahrscheinlichkeitskurven, aus denen sich berechnen lässt, wann wo die nächste Straftat geschieht.

Werden solche statistischen Analysen mit den DNA-Werten, Video-, Lektüre- und Freundeslisten, Tagesroutinen und Bewegungsprofilen sowie mit sämtlichen Posts, Likes, Shares, Kommentaren und sonstigen kommunikativen Handlungen und Umwelteinflüssen eines Individuums gekoppelt und entsprechend hochgerechnet, lässt sich bald vielleicht tatsächlich mit großer Genauigkeit die Entwicklung eines Menschen und damit sein gesellschaftliches Gefahrenpotenzial voraussagen. Mit solchen Daten versehen hätte jeder Mercedes die Wissenschaft auf seiner Seite, der in Braunau (oder wo immer seine Familie gerade lebt) auf den jungen Adolf stößt und wider besseres Können doch nicht bremst. Genau darin liegt die ethische Herausforderung des technischen Fortschritts.

Lebenswertverrechnung

Das deutsche Recht enthält keinen Paragraphen, der die Tötung künftiger Massenmörder erlaubt. Das liegt nicht nur daran, dass Wahrsagerei als unzureichende Rechtsgrundlage betrachtet und Zukunftsaussagen des Data-Mining bisher kein wissenschaftlicher Status zugestanden wird. Grund ist auch der standhafte Glaube der Deutschen an Erziehung. Gäbe es Zeitreisen in die Vergangenheit, säße in einem Mercedes nach Braunau eine Sozialarbeiterin mit einem Maßnahmenpaket, um Adolf auf die rechte Bahn zu bringen. Nicht auszuschließen, dass im Paket ein Malkurs enthalten wäre. So lange die Wissenschaft solche Zeitreisen nicht ermöglicht, muss die Justiz nicht entscheiden, ob der pädagogische Optimismus gebietet, auch beim kleinen Adolf Hitler zu bremsen.

Gleichwohl: Die Frage, ob man töten darf, um Leben zu retten, ist längst in der Mitte der Gesellschaft angekommen. In Ferdinand von Schirachs Gerichtsdrama Terror etwa sitzt das Publikum über einen Major der Bundeswehr zu Gericht, der eigenmächtig ein von einem Terroristen entführtes Passagierflugzeug abschoss. Der Major entschied quantitativ und opferte die 164 Menschen im Flugzeug, um die 70 000 Menschen in der Münchner Allianz-Arena zu schützen, in die der Terrorist die Maschine jagen wollte. Die Entscheidung, ob der Major dafür wegen mehrfachen Mordes angeklagt werden soll, wird in den 2472 internationalen Aufführungen des Theaterstücks zwischen Oktober 2015 und Januar 2020 jeweils ans Publikum, als den ‚realen‘ Schöffen in diesem Gedankenexperiment, delegiert. Die Filmversion des Stückes war am 18. Oktober 2016 das Fernsehereignis in ARD, ORF und SRF, mit Publikumsabstimmung und anschließender Hart aber fair-Talkshow.

Diese Verlagerung der Entscheidung auf die Zuschauer weist weniger auf die Ästhetik der Partizipationskultur als auf die Prinzipien der experimentellen Ethik, die mit empirischen Studien operiert, statt sich, wie die sogenannte „Lehnstuhl-Philosophie“, mit theoretischen Schlussfolgerungen zu begnügen. Nun siegt nicht mehr das bessere Argument, sondern die Mehrzahl. Zumindest lässt sich ohne diese im Rücken kaum noch argumentieren. Dass die Rechtsgelehrten gegen ihre Entmachtung zugunsten einer auf Rechtsempfinden basierenden Rechtsfindung protestieren, dass sie vor einer „Instinkt-Ethik“ warnen, war zu erwarten. Sie sind bekanntlich nicht die einzigen Experten, die im Zeitalter der Partizipationskultur an Autorität verlieren.3

Das Ergebnis jedenfalls lautet jeweils Freispruch und zeigt: Die Mehrheit der Theaterbesucher (63%) und Fernsehzuschauer (87%) denkt oder fühlt verfassungswidrig. Denn es widerspricht dem Eingangsparagraphen des Deutschen Grundgesetzes über die Unantastbarkeit der Menschenwürde, Leben gegen Leben...

Produkt-Details

• Erscheint lt. Verlag: 26.5.2020
• Reihe/Serie: Passagen Thema
• Reihe/Serie: Passagen Thema
• Verlagsort: Wien
• Sprache: deutsch
• Themenwelt: Geisteswissenschaften ► Philosophie
• Themenwelt: Sozialwissenschaften ► Politik / Verwaltung
• Schlagworte: Algorithmen • Dystopie • Ethik • Künstliche Intelligenz • Philosophie
• ISBN-10: 3-7092-5025-0 / 3709250250
• ISBN-13: 978-3-7092-5025-9 / 9783709250259