Wie die KI uns den Wert unserer Gefühle lehrt.

Drei Kränkungen der Menschheit zählt Sigmund Freud 1917 in Form einiger der bis dato bedeutendsten und disruptivsten wissenschaftlichen Entdeckungen. Ihnen allen ist gemein, dass sie nicht nur technologische und gesellschaftliche Folgen nach sich zogen, sondern auch, werden sie ernstgenommen, das bisherige Selbstverständnis der Menschheit grundlegen herausforderten. Mit ihnen wurde und wird dem Menschenbild etwas genommen, das bis dahin als grundlegend für unser Selbstbild als Menschen galt – das nahm Orientierung, mahnte zur Demut und kränkte den menschlichen Stolz. Nun scheint uns Künstliche Intelligenz auf ähnliche Weise zu kränken und uns eine alte Frage in herausfordernder, doch chancenreicher Form von neuem zu stellen: Was macht den Menschen aus?

Die drei größten Kränkungen der Menschheit

Um die Fragen, die technologische und wissenschaftliche Neuerungen im Zusammenhang mit KI an die Menschheit richten, besser zu verstehen, lohnt sich also ein Blick auf die bisherigen Kränkungen der Menschheit. Die erste dieser Kränkungen ist nach Freud die kosmologische: Kopernikus nahm den Menschen die Überzeugung, ihr Zuhause, die Erde sei der Mittelpunkt des Weltalls. Die zweite, die biologische Kränkung fügten Evolutionstheoretiker wie Charles Darwin der Menschheit zu, als sie zeigten, dass der Mensch nicht in Gottes Ebenbild erschaffen wurde, sondern sich in eine Reihe mit den als nieder empfundenen Tieren, ja mit allem organischen Leben einfügen muss. Die dritte und vorerst letzte Kränkung der Menschheit beschrieb Freud als eine psychologische. Ganz unbescheiden schrieb er sie sich selbst und seiner Triebtheorie des Unbewussten zu, nach der sich ein Großteil des menschlichen „Seelenlebens“ der bewussten Steuerung und dem vermeintlich freien Willen des Menschen entziehe.

All diese wissenschaftlichen Erschütterungen kratzten deshalb am menschlichen Ego, weil sie uns die Überzeugung nahmen, etwas ganz Besonderes zu sein – der Mittelpunkt des Universums, die Krone der Schöpfung nach göttlichem Ebenbild, die Herrinnen und Herren über unsere Gedanken, über unseren Willen und unser Leben. Aber all diesen Kränkungen war nicht nur der Verlust bestimmter Aspekte des Menschenbildes gemein; in jeder dieser Störungen steckte auch die Chance und der Aufruf, die Menschheit neu zu definieren und dabei vielleicht auch alte Laster abzuwerfen. So trug das heliozentrische Weltbild nicht nur in offensichtlicher Weise zu weiteren Erkenntnissen in der Astronomie bei, sondern kann den Menschen auch Demut lehren gegenüber den astronomischen Größen- und Zeitverhältnissen des Universums, in dem menschliches Leben nur einen kaum bemerklichen, absolut kontingenten Funken und dadurch wiederum ein umso größeres Wunder darstellt. Gleichsam brachte die Evolutionstheorie nicht nur biologisches und geologisches Fachwissen voran, sondern sie kann, wenn man über sie nachsinnt, auch die Verbundenheit des Menschen mit allem organischen Leben auf der Erde stärken. Und die Entdeckung des Unbewussten brachte nicht nur neue Therapieansätze hervor, sondern kann den Menschen auch dazu führen, mehr Verständnis und Mitgefühl für sich selbst und andere zu entwickeln; da jeder Mensch im Kern durch unbewusste, irrationale Regungen geleitet wird, müssen Meinungsverschiedenheiten keine Frage von richtig oder falsch, klug oder dumm mehr sein, sondern das Ergebnis divergierender, außer-rationaler Perspektiven und Bedürfnisse. Auch der Kränkung durch Künstliche Intelligenz könnten wir etwas Positives abgewinnen – wenn wir nur wollen.

Künstliche Intelligenz als weitere Kränkung

Der Gedanke, dass die Menschheit durch die Problemlösungsfähigkeiten von Computern eine weitere, vergleichbare Kränkung erfahren könnte, erhält im Zusammenhang mit den beeindruckenden Fortschritten von Large Language Models zwar neue Salienz; im Kern ist er jedoch keineswegs neu. Schon 1984 verwies die Soziologin Sherry Turkle vom MIT in ihrem Buch The Second Self: Computers and the Human Spirit (deutscher Titel: Die Wunschmaschine) im Zusammenhang mit intelligenten Computer-Modellen auf die Erschütterungen durch Kopernikus, Darwin und Freud und resümiert: „Das Computer-Modell des Geistes ist ein weiterer schwerer Schlag Für unser Empfinden, im Mittelpunkt zu stehen.“ Denn die klugen Leistungen, die Computer-Modelle schon in den 1980ern erbrachten, waren bis dato als geistige und geradezu geistliche Denk-Leistungen jenseits der Materie angesehen worden – und damit als einzigartig menschliche Fähigkeiten.

In den heutigen, durch Large Language Models befeuerten Diskussionen über Künstliche Intelligenz zeichnet sich diese Kränkung immer deutlicher ab. Die Einen begeben sich auf die Suche nach Fehlern, nach Halluzinationen oder Bullshit und weisen zurecht auf die engen Limitationen von KI und insbesondere von Large Language Models im Vergleich zum Menschen hin. Die Anderen zeichnen dystopische Schreckensszenarien für die Zukunft, in denen Künstliche Intelligenz der menschlichen so weit überlegen sein wird wie die menschliche Intelligenz der Intelligenz einer Ameise, sodass KI uns mit vergleichbarer Nachlässigkeit behandeln oder gar aus Eigeninteresse auslöschen könnte. Beiden Perspektiven ist gemein, dass der fiktive Kampf zwischen Mensch und Maschine einzig auf dem Schlachtfeld der Intelligenz und Rationalität ausgetragen wird. Doch das muss nicht so sein.

Der unzeitgemäße Fokus auf Intelligenz

Die Vorstellung vom Menschen als vornehmlich rationalem Wesen ist zwar älter als jede Kränkung, aber die Emotionalität, mit der sie heute im menschlichen Selbstbild verankert ist, haben wir der zweiten Kränkung durch die Evolutionslehre zu verdanken. Indem sie der Abgrenzung des Menschen vom Tier eine ganz neue Dringlichkeit gab, zwang sie ihn, den Einsatz zu verdoppeln, und sich – zulasten aller anderen menschlichen Eigenschaften – auf seine vermeintliche Rationalität zu fixieren. Der Mensch möge zwar vom Affen abstammen und mit dem Tier verwandt sein, aber aufgrund seiner Vernunft, seiner Rationalität, seiner Intelligenz sei er eben doch nicht mit diesem zu vergleichen. Diese Fixiertheit auf die menschliche Intelligenz hatte schon damals ihre Schattenseiten: Intelligenz als menschliches Unterscheidungsmerkmal schlechthin hochzuhalten, führte dazu, dass vermeintlich weniger intelligenten Menschen ihre Menschlichkeit zuteilen abgesprochen wurde, zu Eugenik und Sozialdarwinismus. Und die jüngste Kränkung, die der Menschheit als ganzer nun durch Künstliche Intelligenz widerfährt, wird durch diese Fokussierung menschlicher Logik, Rationalität und Intelligenz aus dem letzten Jahrhundert noch verschlimmert. Über Generationen hinweg hat sich die Menschheit versichert, ihre Besonderheit gegenüber allem Nicht-Menschlichen liege in ihrer Intelligenz; und nun kommt eine Entität daher, von der sich der Mensch nicht abgrenzen kann wie von einem Schimpansen, da sie nicht nur besser Schach spielen, sondern auch schneller und besser rechnen, programmieren und logisch schlussfolgern kann als er.

Dennoch scheint es im aktuellen Diskurs nach wie vor die Standard-Einstellung zu sein, den Menschen weiterhin über dessen Intelligenz zu definieren und deren Unterschiede zu Künstlicher Intelligenz zu betonen. Das mag aktuell noch zu funktionieren, solang eine sogenannte Artificial General Intelligenz noch lange nirgendwo zu erwarten ist – also eine Künstliche Allgemeine Intelligenz, die prinzipiell jede intellektuelle Aufgabe lernen kann, die auch ein Mensch ausführen kann. Doch unabhängig davon, wie hoch man die Chancen des Menschen im Intelligenz-Wettlauf gegen die Maschine auf lange Sicht abschätzt, sollten wir uns fragen, ob uns als Menschheit ein solcher Wettlauf überhaupt erstrebenswert erscheint. Denn es gibt eine erfolgversprechendere und im Übrigen auch viel schönere Alternative: So wie sich der Mensch im Nachhall der Evolutionstheorie über diejenigen Eigenschaften definierte, die bei (anderen) Tieren weit schwächer ausgeprägt sind, kann und sollte sich die humanistische Würde des Menschen in Abgrenzung zur KI gerade darin begründen, was letztere naturgemäß nicht kann; und das betrifft den Bereich des Emotionalen, des Sinnlichen und eben des Irrationalen.

Mit der Romantik gegen die industrielle Rationalisierung

Ein Vorbild für ein solches Umdenken findet sich in der Hoch- und Spätromantik, die nicht nur dem aufklärerischen Fokus auf das rationale Denken entgegentritt, sondern damit auch auf die zunehmende Industrialisierung des 19. Jahrhunderts reagiert, in der der Mensch selbst immer mehr wie eine Maschine funktionieren musste, wie später etwa Charlie Chaplins Klassiker Modern Times zeigt. Die Rationalisierung des Marktes ging schon damals mit einer Rationalisierung des Menschenbildes einher. Mensch und Maschine traten in Konkurrenz, wurden verglichen, gegeneinander aufgewogen und einander angeglichen. Der Mensch begann, sich selbst – sowohl sein individuelles als auch sein soziales Handeln – als eine Art Maschine zu verstehen. Noch heute ist ein solches Menschenbild nicht auf elitäre Phänomene wie Kybernetik und Social Engineering beschränkt: Auch im Alltag sprechen wir davon, dass jemand auf Hochtouren läuft oder auf Draht ist, wenn es bei ihm oder ihr läuft wie geschmiert. Oder aber jemand kommt eben nicht auf Touren, vielleicht weil er oder sie ausgebrannt ist oder sogar eine Schraube locker hat, nicht richtig tickt. Auch unsere Zusammenarbeit kann laufen wie eine gut geölte Maschine, es sei denn jemand streut Sand ins Getriebe oder die Mühlen der Bürokratie mahlen langsam. Die klassischen Themen aus der Romantik, die diese Entwicklung begleitete, lassen sich als Abkehr von einem solchen Bild des Menschen als bloßem Rädchen im Getriebe verstehen: Die besondere Rolle der Natur als Gegenpol zum zunehmend von Industrie geprägten Stadtbild, die Sehnsucht nach Einheit als Reaktion auf Entfremdungserfahrungen und schließlich die Gefühlsbetontheit, mit der ein Bild lebendiger Wesen jenseits bloßer Arbeits- und Rechenmaschinen gezeichnet wurde.

Bildungsideale jenseits der rationalen Produktion

Ein Beispiel, welche konkreten Lehren man aus dem Zeitalter der Industrialisierung für unsere heutige Rationalitäts-Fixiertheit ziehen kann, betrifft den Bereich der Bildung. In den 1860ern reformierte der konservative Staatsmann Robert Lowe das öffentliche Schulsystem nach dem Vorbild der Optimierungen, die er zuvor in der Geschäftswelt vorgenommen hatte. So sollte die staatliche Förderung von Schulen von den Leistungen der Schüler in Tests abhängig gemacht werden. Der Grund: Die Aufgabe der Schulen bestehe darin, eine möglichst große Anzahl an Lesen, Schreiben und Rechnen buchstäblich zu produzieren. Ganz im Sinne der sich im 19. Jahrhundert etablierenden Markt-Prinzipien: Wer ineffizient produziert, überlebt den Konkurrenzkampf nicht. Wie schon in der Romantik, verschafften sich auch hier Gegenstimmen Gehör, die sich gegen die kapitalistischen Logiken von Massenproduktion und Wachstumszwang in Bildung und anderen sozialen Bereichen aussprachen. So warnte schon Matthew Arnold, einer von Lowes Schulinspektoren, öffentlich davor, dass ein solches Verständnis von Bildung als Maschinerie entmenschlichend ist und unvereinbar mit den Bildungsidealen, junge Menschen beim Entdecken der Welt und beim Entwickeln einer authentischen Sichtweise auf diese zu begleiten – Aufgaben, die sich nicht quantifizieren und messen lassen.

Das Aufkommen von KIs und insbesondere von Large Language Models (LLM) wirft neue Probleme und damit spannende Fragen für institutionelle Bildung und unsere Bildungsideale auf. Wenn Computermodelle immer besser darin werden, auswendig gelernte Buzzwords zu kohärent wirkendem Bullshit zu vermischen, kann man es Menschen nicht übel nehmen, dass sie sich dieser Modelle bedienen, um Texte zu schreiben, die sie nicht interessieren, die jedoch produziert werden müssen, damit sie ihren jeweiligen Bildungsabschluss erhalten. Die Frage, warum man etwas können muss, was eine Maschine bereits für einen erledigt, klingt faul, ist aber auch berechtigt; und jungen Menschen mit LLM-Detektoren zu drohen, wird die Motivation zu solchen sinnlos erscheinenden Fleißaufgaben nicht erhöhen. Das neue Licht, das Chat GPT und andere LLMs auf das Problem institutioneller Prüfungen werfen, kann stattdessen dazu genutzt werden, unsere Vorstellungen von schriftlichen Hausaufgaben, Hausarbeiten und Benotung einmal grundlegend zu hinterfragen. Die automatisierte Produktion von Texten zwängt uns die Fragen auf wie: Welche Fähigkeiten sollten Menschen in Schulen, Universitäten und Ausbildungsstätten kultivieren? Was macht echte Bildung aus – jenseits von Auswendiglernen und Wiedergeben, was nun schließlich auch Maschinen können.

Die Fixiertheit auf Rationalität hält sich hartnäckig

Im historischen Kontext der Industrialisierung erscheint der heutige Intelligenz-Wettkampf zwischen Mensch und KI wie ein Produktions-Wettkampf zwischen Arbeiter und Maschine. Dabei lohnt es sich, statt in einen solchen Wettkampf einzutreten, einen Schritt zurück zu treten und dem Menschen eine neue, viel menschlichere und erfüllendere Rolle zu suchen. Solche Ansätze finden sich auch heute noch in der Philosophie, etwa in der Kritischen Theorie oder im Poststrukturalismus, doch es scheint keineswegs so, als würden wir unser gesellschaftliches Handeln an einem Menschenbild jenseits der nackten Rationalität ausrichten, was durch die zunehmende maschinelle Rationalität immer dringlicher erscheint. Stattdessen verstehen wir auch heute wieder unsere Körper als Maschinen, die einfach geölt, gewartet und betankt werden müssen. Wir optimieren diese Wartungsarbeiten, zum Beispiel indem wir unser Essen auf Shakes und Drinks reduzieren, die schnell eingenommen werden können und die Maschine versorgen – wie bei einem Formel-1-Boxenstopp. Das reicht bis zu den weitverbreiteten futuristischen Traumvorstellungen von einer Pille, die alle nötigen Nährstoffe hat und den ganzen Tag sattmacht, sodass man sich von der maschinengleichen Arbeit nicht mehr mit menschlichen Lappalien wie Genuss abhalten muss. Wir verstehen unsere Gehirne als Computer, in deren Festplatten-gleichem Gedächtnis etwas gespeichert und in verschiedenen Frames angeordnet ist – ein Begriff, der von der künstlichen, auf die menschliche Intelligenz übertragen wurde.

Doch um das menschliche Denken und Handeln vom maschinellen zu unterscheiden, kann man sich nicht nur an der Spätromantik orientieren, sondern sogar an den Maschinen selbst, die den Menschen ebenfalls an seiner charakteristischen Nicht-Rationalität erkennen. Beispielsweise stellt der allseits bekannte CAPTCHA-Test (Completely Automated Public Turing test to tell Computers and Humans Apart) keineswegs Aufgaben, die nur ein Mensch erfüllen könnte und ein Computer nicht (etwa eine Box anklicken mit der Aufschrift „Ich bin kein Computer“). Vielmehr bewegen Menschen, während sie dies tun, die Maus in charakteristisch-menschlichen, weil ineffizienten Wegen zu der Box, während ein Bot die Maus in einer gerade Linie, auf dem kürzesten Weg – eben rational und effizient – zum Ziel bewegt.

Wenn wir es schaffen oder auch nur versuchen, die Besonderheit des Menschen jenseits rationaler Problemlösung zu suchen, erscheint uns rein rationale, gefühllose Denkarbeit vielleicht irgendwann genauso stumpf und mühsam wie manch körperliche Arbeit, die uns die Maschinen abgenommen haben. So ist wohl auch Peter Thiel zu verstehen, wenn er alle Mathe-Nerds warnt, dass Jobs wie Programmieren und Buchhaltung leichter maschinell zu ersetzen seien als die vielseitigeren, auch außer-rationalen Aufgaben der „word people“. Die jüngsten Trends geben Thiel recht: So erklärt das Wall Street Journal Ende 2024, dass IT-Jobs aufgrund der Fortschritte Künstlicher Intelligenz „ausgetrocknet“ seien und „nicht bald zurückkehren“, und auch Professoren von Top-Universitäten im Bereich Computer Science wie James O’Brien berichten, dass selbst ihre besten Informatik-Absolventen keine Jobs mehr in der IT-Branche bekommen.

Geradezu unmöglich maschinell zu ersetzen erscheinen im Vergleich dazu jedoch all die menschlichen Tätigkeiten im Zusammenhang mit Fürsorge, menschlichem Kontakt und emotionalem Beistand, die oft als „Care-Arbeit“ zusammengefasst werden. In seinem Buch Bullshit-Jobs gibt der anarchistische Anthropologe und Mit-Initiator der Occupy-Bewegung David Graeber hierfür ein anschauliches Beispiel: Als 2014 der Londoner Bürgermeister drohte, etwa 100 Fahrkarten-Schalter der U-Bahn zu schließen und durch Maschinen zu ersetzen, entbrannten Diskussionen um die Überflüssigkeit der Arbeit an selbigen. Die Belegschaft der Londoner U-Bahn reagierte hierauf selbst mit einem Flugblatt mit der Überschrift Ratschläge für Fahrgäste in der Londoner U-Bahn der Zukunft, das unter anderem die folgenden Zeilen enthielt: „Bitte seien Sie nicht behindert. Oder arm. Oder fremd in London. Bitte vermeiden Sie es, zu jung oder zu alt zu sein. Bitte werden Sie während der Fahrt nicht belästigt oder angegriffen. Bitte verlieren Sie nicht Ihre persönlichen Gegenstände oder Ihre Kinder. Bitte fragen Sie in keiner Weise nach Hilfe.“ Mit ihrer (hier unvollständig wiedergegebenen) Aufzählung verschiedener Betreuungs-Aufgaben vermitteln die Mitarbeitenden der Londoner U-Bahn den besten Eindruck davon, welche Rolle menschliche Arbeit jenseits der bloß rationalen und daher automatisierbaren Informationsverarbeitung einnehmen kann. Die Übernahme solcher rein rationaler Arbeiten durch Maschinen kann und sollte dazu führen, die bisher oftmals übersehenen und so sträflich unterbewerteten Formen der Fürsorge an ihre Stelle zu setzen und ihnen eine zentrale Rolle einzuräumen – nicht nur in der menschlichen Arbeit, sondern im Menschenbild überhaupt!

Wider die Technokratie in gesellschaftlichen Fragen

Die Folgerung schlägt ganz klar in eine feministische Kerbe, reicht jedoch auch über die Frage nach der Bewertung (und Bezahlung) von Care-Arbeit hinaus und in jeden Bereich des gesellschaftlichen Zusammenlebens hinein. Denn wenn lineare, automatisierbare Formen von Intelligenz mit dem Beantworten von Fragen, dem Lösen von Problemen, dem Erreichen von Zielen gleichzusetzen sind, so verlangt zunehmende Künstliche Intelligenz auch zunehmend, dass der Mensch sich bewusst auf das Fragenstellen, das Problemfinden und das Zielesetzen konzentriert.

Was den Menschen auszeichnet, ist nicht und war noch nie allein die Tatsache, dass er Probleme, die ihm von außen gestellt werden, rational lösen kann. Vielmehr können bewusste – oder, wenn man so will, beseelte – Wesen im Gegensatz zu Problemlösungsmaschinen eigene Ziele verfolgen, Intentionen entwickeln, Dinge gut oder schlecht finden, und das quasi „einfach so“. Dass auch das menschliche rationale Verfolgen von Zielen dieser gefühlsmäßigen, vor- und gleichsam irrationalen Zielsetzung folgt, ist in Philosophie und Psychologie kein neuer Gedanke. So betrachtete beispielsweise schon Hume den Verstand als Sklaven der Gefühle, Camus beschrieb die Vernunft als bloßes Instrument des Denkens, das selbst jedoch vor allem in der Sehnsucht bestehe, und jüngst räumt der einflussreiche Moralpsychologe Jonathan Haidt mit der Idee auf, moralische Urteile seien das Ergebnis rationaler Denkprozesse. Stattdessen analysiert Haidt moralische Urteile überzeugend als unmittelbare, affektive und auch kulturbedingte Intuitionen, die erst im Nachhinein rational verargumentiert werden, falls sie gerechtfertigt werden müssen.

Nur so lässt sich auch erklären, warum eine Meinungsänderung durch rationale Diskussion die absolute Ausnahme darstellt und warum so viele noch so kluge und gebildete Menschen sich buchstäblich unendlich über emotional aufgeladene Themen streiten können, ohne zu einer „Lösung“ zu kommen. Gerade Fragen, über die sich hitzig streiten lässt, können also nicht einfach durch mehr Intelligenz – sei es menschliche oder künstliche – „richtig“ beantwortet, sondern nur durch den Austausch empfindender Subjekte gemeinsam ausgehandelt werden; und das betrifft quasi alle gesellschaftlichen Grundsatzfragen in Kultur und Politik.

Die Frage, wie wir unser Zusammenleben gestalten wollen, kann von einer Abgrenzung des Menschen von rationalen Intelligenzmaschinen daher nur profitieren. Wenn wir gesellschaftliche, politische und rechtliche Fragen nicht gänzlich den intelligenten bzw. irgendwann auch intelligenteren Maschinen überlassen wollen, müssen wir aufhören, uns vorzumachen, dass es sich dabei um bloße technokratische, rationale und zu rationalisierende Rechenprobleme handeln würde. Beispielsweise verleihen automatisierte Verfahren bei der juristischen Arbeit einem uralten Problem der Rechtssprache neue Dringlichkeit, eröffnen aber auch neue Möglichkeiten, Recht zu denken: Wenn die Rechtssprache als präzise, quasi formal-logische Fachsprache verstanden wird, aus der analytische Urteile hergeleitet werden, so fällt es schwer, diese rationale Arbeit nicht fehlerfreien Subsumtionsautomaten zu überlassen, an denen vielerorts bereits mit Nachdruck gearbeitet wird. Wer den Gedanken dystopisch findet, dass Maschinen eigenständig Urteile über Menschen fällen bzw. verhängen, also rechtsprechende Gewalt ausüben könnten, der tut gut daran, die Vagheit der Rechtssprache ernst zu nehmen, wozu Rechtslinguisten wie Ekkehard Felder und Rechtswissenschaftler wie Friedrich Müller schon seit Jahrzehnten ermahnen. Die Arbeit von Richterinnen und anderen Rechtsarbeitern besteht demnach nicht nur in der rational sprachlichen Aufgabe, die Bedeutung von Anklageschriften der „richtigen“ Bedeutung von Rechtsbegriffen zuzuordnen, sondern darüber hinaus in der komplexen Aufgabe, die Überführung außersprachlicher Tatbestände in konkrete Tatbeschreibungen, Zeugenaussagen etc. sowie in abstrakte Normtexte kritisch zu reflektieren. Hierfür müssen im Einzelfall viele Faktoren abgewogen werden, die die prinzipiell immer noch vage Rechtssprache erst mit Bedeutung füllen, was auch einen Zugang zur außersprachlichen Realität einschließt, der LLMs (noch) verwehrt bleibt. Wenn der lineare, rationale Teil der Rechtsarbeit an Künstliche Intelligenz outgesourct wird, so können die Aufgaben von Richterinnen und Anwälten vielleicht künftig in den empathischen Abwägungen gesucht werden, in irgendeiner Form lebensnaher Weisheit, die über das Auswendiglernen von Paragraphen und logischen Schlussformeln hinausgeht. Das liest sich nun sicher naiv, sollte jedoch optimistischer stimmen als der Gedanke einer vollautomatisierten, technologischen Rechtsprechung vom Fließband ohne jede menschliche Verantwortung jenseits des Lektorats. In jedem Fall stellen Fortschritte in der KI Herausforderungen an das Ideal eines rational einzurichtenden Staates, denen auch mit radikalem Umdenken begegnet werden kann.

Im Bereich des Politischen kann die Verabsolutierung bloßer Intelligenz – zulasten anderer menschlicher Eigenschaften wie Empathie, Kreativität, Integrität, Aufrichtigkeit usw. – bereits jetzt auf verschiedene Weise Schaden anrichten. So warnt etwa die poststrukturalistische Politikwissenschaftlerin Chantal Mouffe davor, dass eine solche Reduktion politischer Fragen auf technische Probleme das Vertrauen und die Partizipation in Demokratien schwächt. „Wenn Bürgerinnen und Bürger den Eindruck haben, dass sie bei den grundsätzlichen Entscheidungen über ihre gemeinsamen Angelegenheiten nicht mehr mitreden können, und dass sich nur noch Experten mit politischen Fragen beschäftigen, weil sie als komplexe technische Probleme angesehen werden, werden demokratische Institutionen ihrer Substanz entblößt und ihrer Legitimität beraubt.“

Und auch im Hinblick auf konkrete politische Entscheidungen ist die Verabsolutierung von Intelligenz und Bildung eher schädlich als förderlich, auch wenn politische Stimmen innerhalb sowie außerhalb des Mainstreams immer wieder eine solche „Expertenregierung“ fordern; wie zuletzt etwa Sahra Wagenknecht. Wie engstirnig eine solche Reduktion von Politik auf die Ratio ist, zeigt zum Beispiel David Halberstam in seinem Buch The Best and the Brightest. Es beschreibt detailliert, wie der US-Präsident John Kennedy ebendieser technokratischen Illusion erlag, wie er ein Team aus den klügsten und gebildetsten Intellektuellen zur Organisation der US-Außenpolitik zusammenstellte und wie dieses Team eine Reihe vermeintlich brillanter, doch fürchterlicher Entscheidungen traf, die letztlich zum Jahrzehnte-langen Debakel des Vietnamkriegs führten. Der kommunitaristische Philosoph Michael Sandel führt das Versagen von Kennedys Expertenregierung und ähnliche Beispiele an, um mit Aristoteles neben der bloßen Intelligenz auch für andere menschliche Eigenschaften wie praktische Vernunft (Phrónēsis) und Tugendhaftigkeit („Civic Virtue“) wieder stärkere Rollen in der politischen Entscheidungsfindung zu fordern.

Je mehr das bloße rationale Denken also von Künstlicher Intelligenz übernommen wird, desto entscheidender werden gerade in politischen und allen anderen gesellschaftlichen Fragen außer-rationale, dezidiert menschliche Werte und Eigenschaften wie Tugendhaftigkeit, Ehrlichkeit, Empathie und Integrität. Je mehr wir erkennen und uns eingestehen, dass der Mensch als soziales Wesen und als Zoon politikon nicht bloß eine Rechenmaschine ist (quasi ein rationaler Konsument von Politik), sondern dass soziale Verhältnisse in einem engen Wechselverhältnis zu Emotionen und Affekten stehen, desto klarer wird, dass das Gestalten dieser Verhältnisse ebenfalls keine bloße Frage von Intelligenz ist – gleich ob von menschlicher oder von künstlicher Intelligenz. Nur ein irrationales Wesen wie der Mensch kann ein irrationales Wesen wie den Menschen verstehen, seine Empfindungen nachempfinden. Je intelligenter die Maschinen werden, desto weniger entscheidend sollte das bloße rationale Denkvermögen für den Menschen werden. Entsprechend muss die Menschheit nun jenseits von Intelligenz und Kalkül diejenigen Eigenschaften suchen, die sie ausmachen und ihr den Weg in eine menschliche Zukunft weisen sollen.