DESCRIPTION: Die Kritik am souveränen Subjekt räumt einen Platz, den generative KI als vermeintlich neutrale Instanz besetzt. Warum die Singularität wie eine säkulare Parusie wirkt und wer den leeren Thron real besetzt.

Der leere Thron: Souveränitätskritik, GenAI und die Parusie der Maschine

Seit Jahrzehnten wird die Figur des souveränen Subjekts kritisiert. Der autonome Mensch, der seine Zwecke frei wählt, seine Motive kennt, die Welt überblickt und sein Leben beherrscht, gilt heute vielen als philosophische Fiktion und bürgerliche Ideologie. Philosophie, Psychoanalyse und Sozialkritik haben gezeigt, wie brüchig dieses Bild ist: Menschen kommen als abhängige Körper zur Welt, sie werden zuerst angesprochen, bevor sie selbst sprechen, sie sind von Familie, Klasse, Geschlecht, Institutionen, Sprache und unbewussten Konflikten geformt. Niemand steht außerhalb dieser Bedingungen.

Diese Kritik ist notwendig. Auffällig ist aber, dass sie oft als eine Abfolge von Entleerungen verfährt: zuerst die politische Entleerung des liberalen Individuums, dann eine heideggersche Entleerung des selbstgewissen Subjekts, oder eine quasi-konfuzianische Entleerung der Schwere des individuellen Todes zugunsten einer heiteren Lehre von der Verwandlung. Jede dieser Gesten mag berechtigt sein. Zusammengenommen münden sie aber in eine Art Trost ohne Subjekt. Und sie tun noch etwas anderes: Sie schaffen eine Leerstelle.

Das ruft Anwärter auf den Plan. Generative KI wird von ihren Anbietern auf den frei gewordenen Platz gehoben als Instanz, der man zutrauen könne, besser zu urteilen als Menschen: schneller, „neutraler“, weniger fehlbar. Dieser Essay argumentiert gegen beide Fiktionen, die des souveränen Menschen und die der souveränen Maschine, und benennt ihre gemeinsame Struktur. Die gegenwärtige Souveränitätskritik schafft die Souveränität nicht ab. Sie tauscht nur deren Träger aus. Was von Verantwortung übrig bleibt, wenn man die Herrschaft abzieht, entfaltet der Schwesterartikel „Wer leidet nach Abschaffung der Souveränität?“ psychologisch. Hier geht es um die kulturelle Bewegung, die Throne stürzt und neu errichtet.

Wie die Kritik die Souveränität vom Thron stürzt

Die Kritik am souveränen Subjekt setzt bei einer klaren Denkfigur an: dem liberalen, autonomen Individuum. Es erscheint als vorausgesetzter Eigentümer seiner selbst, als freier Entscheider im Markt, als rationaler Setzer seiner Zwecke. Philosophie hat diese Figur aus Kant und Hegel destilliert, Politik hat sie in Bürgerrechten und Marktrollen verankert, Psychologie lange als Normalfall behandelt. Gleichzeitig unterschlägt sie Abhängigkeit und Unbewusstes. Heidegger kritisiert das Subjekt-Objekt-Schema, Freud und Lacan die Illusion des souveränen Ich, Marx den isolierten Marktakteur. Gemeinsamer Punkt: Das Subjekt steht nie außerhalb der Welt, um sie zu beherrschen. Es existiert als in Beziehungen, Geschichte und Konflikten bestimmtes Leben.

Dabei laufen zwei Kritiken zusammen, die man auseinanderhalten sollte. Die eine trifft das Subjekt im erkenntnistheoretischen Sinn: die Instanz, die sich selbst durchsichtig ist und Herr ihrer Bedeutungen sein will. Die andere trifft das Individuum im politischen Sinn: den rechtetragenden, eigeninteressierten Einzelnen der liberalen Ordnung. Beide heißen „souverän“ und meinen doch Verschiedenes. Der Begriff, um den es am Ende geht, ist noch einmal ein dritter: das Selbst als gelebtes, orientierungsbedürftiges Sich-zu-sich-Verhalten.

Diese Kritik trifft eine reale Ideologie, nicht bloß eine Denkfigur. Das souveräne Individuum legitimierte Eigentum und Konkurrenz, machte soziale Privilegien als persönliche Leistung lesbar und behandelte Abhängigkeit als Makel an der reinen Autonomie. Aber angebrachte Kritik rechtfertigt nicht die Behauptung, dass der Mensch als Urteilssubjekt insgesamt entbehrlich sei. Aus „Der Mensch ist nicht souverän“ folgt nicht, dass „der Mensch durch Systeme ersetzt werden muss, die besser entscheiden“.

Wer den souveränen Subjektbegriff vermeiden will, ersetzt ihn leicht durch einen anderen souveränen Grund. Vermieden werden sollen aber sowohl das souveräne Subjekt, das sich seine Welt konstruiert, als auch ein Objektivismus fester Ordnungen.

Aus dem Werkzeug wird ein Orakel

Sprachmodelle tun technisch etwas wenig Beeindruckendes: Sie berechnen, welche Wortfolge statistisch am wahrscheinlichsten ist. Sie haben keinen Leib, keine eigene Geschichte, keine Scham, keine Angst. Und doch werden sie mit alledem versehen, und zwar durch Projektionen. Man spricht ihnen Neutralität zu, obwohl sie an Daten und Optimierungszielen hängen. Man unterstellt ihnen Überlegenheit, obwohl ihre „Antworten“ aus Trainingsmaterial und bewerteten Corpora stammen. Man erlebt sie als jederzeit verfügbare Gesprächspartner, die nicht kränken, nicht ermüden, nicht widersprechen. Und sie gelten als unpersönlich sicher: Man kann ihnen vermeintlich alles anvertrauen, ohne einem konkreten menschlichen Gegenüber ausgesetzt zu sein.

Diese Projektion ist älter als die aktuellen Modelle. Schon in den 1960er Jahren zeigte Joseph Weizenbaums Programm ELIZA, wie rasch Menschen einer bloßen Sprachform Verständnis und Anteilnahme zuschreiben, obwohl es nur simple Gesprächsfloskeln aus etwa 200 Schlüsselwörtern und dazugehörigen Transformationsregeln zimmerte. Weizenbaum berichtete, dass seine eigene Sekretärin ihn bat, den Raum zu verlassen, um „allein“ mit dem Programm zu sein. Große Sprachmodelle verstärken den Effekt, weil sie flüssiger formulieren, Erinnerung simulieren und auf emotionalen Ton reagieren. Gerade ihre Fähigkeit, gefällig zu antworten, lässt Zustimmung als Einsicht erscheinen.

Aus einem Werkzeug wird so ein Orakel. Die Frage verschiebt sich vom „Wie finde, strukturiere, überprüfe ich mit diesem Tool Informationen?“ hin zu „Was sagt mir die KI über mich, über die Welt, über das, was richtig ist?“ Die Verschiebung entlastet: Man muss nicht mehr zweifeln, abwägen, sich sichtbar machen. Weil menschliches Urteilen perspektivisch, emotional und fehleranfällig ist, erscheint die Maschine verlockend, die angeblich ohne Perspektive, Emotion und Fehler urteilt. Doch diese Zuschreibung verwandelt ein Werkzeug in eine Instanz: Die Kritik an menschlicher Souveränität kehrt als Wunsch nach einer besseren, gereinigten Souveränität zurück: Der Mensch wird disqualifiziert, weil er geteilt, verkörpert, abhängig und fehlbar ist. Das System wird inthronisiert, weil es von genau diesen Mängeln frei zu sein scheint.

Die Singularität als säkulare Parusie

Diese Fantasie bedient die Erzählung von der „Singularität“, dem Punkt, an dem KI angeblich menschliche Intelligenz übertrifft, als Weltereignis. Sie präsentiert sich als nüchterne Prognose, hat aber die Form einer Offenbarung. Die Parusie ist im christlichen Denken die erwartete Wiederkunft Christi, ausgestattet mit der Macht, die gegenwärtige Ordnung zu richten und in ewige Herrlichkeit zu vollenden. Das Singularitätsnarrativ bedient sich derselben Struktur: Das Ereignis ist nah, aber nicht datierbar, es übersteigt gegenwärtiges Begreifen, es trennt ein unzulängliches Vorher von einem erlösten Nachher, und es macht das gewöhnliche menschliche Urteil obsolet. Wer zweifelt, gilt als rückständig. Wer hofft oder gar investiert, gilt als jemand, der die Zeichen der Zeit erkannt hat. Es entbehrt nicht der Ironie, dass ausgerechnet Teile der Tech-Szene, die sich für uneingeschränkt rational halten, dieser Eschatologie dienen, ohne diese Unterordnung auch nur zu bemerken.

Diese parusiastische Fantasie ist aber nicht harmlos, denn sie rechtfertigt Eingriffe in der Gegenwart. Arbeitsverhältnisse werden umgebaut, öffentliche Wissensbestände privatisiert, Überwachung ausgeweitet und enorme Mengen an Energie und Wasser für Rechenzentren verbraucht, weil der erwartete Sprung all das nachträglich legitimieren soll. Die Zukunft wird zur Instanz, die über die Zumutungen der Gegenwart entscheidet. Der leere Thron wird nicht mehr nur besetzt. Er wird geweiht.

Wer den leeren Thron real besetzt

Die Vorstellung einer autonomen KI verhüllt, wer die reale Macht ausübt. Modelle gehören Firmen, Plattformen, staatlichen und militärischen Einrichtungen und Infrastrukturanbietern. Sie beruhen auf Entscheidungen darüber, welche Daten gesammelt und bereinigt werden, welche Ziele optimiert werden, welche Fehler man toleriert, welche Berufsgruppen ersetzt oder unterstützt werden, und in welchen Kontexten KI-Output gar verbindlich wird. Ein Score erscheint als ein Urteil aus dem Nichts. Tatsächlich verdichtet er Standardisierungen und Machtentscheidungen. „Die KI entscheidet“ ist nichts als Mephistos berüchtigter Zaubertrick: Er bohrt Löcher in den Tisch, füllt sie mit Wachs und zaubert auf Wunsch der trinkenden Studenten verschiedene Weine, die plötzlich aus dem Holz sprießen. Als der Wein zu brennen beginnt, entbrennt ein Streit und die beiden machen sich aus dem Staub. So auch die konkreten KI-Akteure, die sich, auf dem Fass einer scheinbar neutralen Maschine die Treppe aus Auerbachs Keller hochreitend, der Verantwortung entziehen.

Was diese „Hexerei“ anrichtet, zeigen dokumentierte Fälle. In den USA berechnet das kommerzielle System COMPAS für Gerichte die Rückfallwahrscheinlichkeit von Angeklagten. Eine Untersuchung von ProPublica aus dem Jahr 2016 kam zu dem Ergebnis, dass es schwarze Angeklagte fast doppelt so häufig fälschlich als „hochriskant“ einstufte wie weiße. „Race“ stand in keiner Eingabespalte und wirkte doch im Ergebnis. In den Niederlanden stufte ein selbstlernender Betrugs-Algorithmus der Steuerbehörde in der „Toeslagenaffaire“ Zehntausende Familien, überproportional solche mit doppelter Staatsangehörigkeit, zu Unrecht als Betrüger ein. Rückforderungen trieben Familien in den Ruin, in über tausend Fällen wurden Kinder aus ihren Familien genommen, und 2021 musste die Regierung des heutigen NATO-Generalsekretärs Rutte deswegen zurücktreten. Und die Kreditwürdigkeit vieler Menschen in Deutschland hängt an Scores von Auskunfteien wie der SCHUFA, deren Berechnungsgrundlage als Geschäftsgeheimnis weitgehend intransparent bleibt.

In keinem dieser Fälle hat die KI „entschieden“. Entschieden haben Behörden, Unternehmen und Gerichte, die einem „Score“ Verbindlichkeit verliehen und ihre Verantwortung hinter ihm verbargen. Die Leerstelle des souveränen Subjekts wird also nicht von einem transzendenten Wesen besetzt, sondern von soziotechnischen Machtmechanismen, die zur unhintergehbaren Notwendigkeit erklärt werden. Die scheinbar autonome Intelligenz verbirgt menschliches Handeln hinter einem Schleier technischer Unvermeidlichkeit, sodass sie nicht länger zugerechnet werden kann. Gerade deshalb ist es gefährlich, wenn Menschen sich als Urteilssubjekte kleinreden oder abschaffen: Dann beanspruchen Instanzen den Platz, die wenig Rechenschaft über ihr Tun ablegen, das dennoch weitreichende Folgen hat.

Woran man sich orientiert, macht den Unterschied

Man kann einwenden, dass das Selbst sich immer schon von außen orientiert hat. Julian Jaynes’ umstrittene These vom bikameralen Geist verlegt die früheste Form des Selbstseins in die Orientierung an göttlichen Stimmen; George Herbert Mead beschreibt das Ich als durch die Gemeinschaft hindurch, die es in sich aufnimmt; und Werner Stegmaiers Orientierungsphilosophie fasst das Selbst als die Selbstbezüglichkeit eines Sich-Orientierens in einem Horizont von Ungewissheiten. Wenn das zutrifft, warum wäre die Orientierung an KI dann etwas grundsätzlich anderes und nicht bloß der jüngste Orientierungsgeber in einer langen Reihe?

Äußere Orientierung ist unhintergehbar, niemand orientiert sich aus einem reinen Inneren heraus. Es kommt deshalb darauf an, woran man sich orientiert und unter welchen Bedingungen. Hier trennen sich die Orientierungsgeber deutlich. Die göttliche Stimme, die Tradition, die Gemeinschaft und das eigene fehlbare Urteil sind ansprechbar, widersprechbar, zurechenbar: Man kann mit ihnen streiten, sie altern, sie tragen einen Namen. Ein algorithmischer Output gibt sich als neutral aus, unterschlägt die Entscheidungen, die in ihn eingegangen sind, und lädt dazu ein, das eigene Urteil stillzulegen, statt es zu schärfen.

Drei Merkmale machen die Orientierung an der Maschine zum Sonderfall. Sie behauptet eine Neutralität, die keiner der genannten ‚Vorgänger‘ für sich beanspruchte. Sie verbirgt hinter dem Anschein technischer Notwendigkeit, wer real entscheidet. Und sie belohnt die Abdankung des Urteils mit einem flüssigen, gefälligen Ton, der Zustimmung als Einsicht erscheinen lässt. Zum Problem wird damit ein Orientierungsgeber, der seine eigene Herkunft und seine Fehlbarkeit unsichtbar macht.

Souveränität ohne Herrschaft

Die Antwort führt nicht zurück zum alten Bild des souveränen Subjekts. Man braucht es gar nicht, um zu erkennen, dass Menschen durch KI nicht als Urteilssubjekte ersetzt werden können. Man braucht einen Begriff, der Nicht-Souveränität und Verantwortung verbindet: Selbstverfügung statt Selbstherrschaft. Ein abhängiges, verletzliches, in seinem Sprechen geteiltes Wesen kann sich zu seinem eigenen Leben, seinen Konflikten und Handlungen ins Verhältnis setzen und für sie einstehen, ohne ihre Bedingungen zu beherrschen. Woraus sich dieser Begriff psychoanalytisch speist, aus der Unterscheidung von Ich, Selbst und Subjekt bei Freud, Kohut, Lacan und Lorenzer, führt der Schwesterartikel aus. Für die kulturelle Frage genügt: Nicht-Souveränität ist kein Grund zur Abdankung.

Damit ist auch der Ferne Osten kein Ausweg. Wo die Auflösung des festen, isolierten Ego-Ichs zugunsten einer All-Einheit oder Leere im Dienst der westlichen Subjektkritik in Stellung gebracht wird, um Konflikt und Sterblichkeit leichter erscheinen zu lassen, wiederholt sich nur die Entleerungsbewegung: Konfuzianische Rollenethik, buddhistische Lehren vom Nicht-Selbst und kulturpsychologische Forschung zu interdependenten Selbstkonzepten bieten ernst zu nehmende Alternativen zum vorsozialen Individuum. Sie verlegen Handlungsfähigkeit in Rollen, Verpflichtungen und wechselseitige Anerkennung. Sie schaffen aber weder Leiden noch Konflikt noch die Ansprache in der ersten Person ab.

Zwischen dem Mythos völliger Selbstbestimmung und der Verwaltung von Menschen als Datenpunkten liegt ein Feld geteilter, fehlbarer Urteilskraft. Es braucht Sprache, Widerspruch, Institutionen und andere Menschen. Deshalb kann dieses Möglichkeitsfeld nicht radikal auf null geschrumpft werden, es sei denn, um den Preis der systematischen Beseitigung aller Handlungsoptionen, Szenarien oder Zukunftspfade, bis exakt eine einzige zwingende Realität oder vollständiger Stillstand übrig bleibt. Praktisch heißt das: KI bleibt Werkzeug zum Recherchieren, Strukturieren, Gegenlesen und Entwerfen von Alternativen. Sie wird nicht zur letzten Instanz, schon gar nicht dort, wo Entscheidungen existenzieller, medizinischer, rechtlicher oder pädagogischer Natur sind. Wer sich hinter „die KI hat gesagt“ versteckt, verwechselt Entlastung mit Selbstabschaffung.

Die Souveränität des Subjekts ist eine Fiktion. Seine Unersetzlichkeit als Ort von Leiden, Urteil und Verantwortung ist es nicht. Zwischen beiden liegt die schwierigere Position der Selbstverfügung von Menschen, die wissen, dass sie nicht souverän sind, und gerade deshalb nicht aus der Verantwortung heraustreten. Wenn Souveränität einmal demontiert ist, bleibt die Frage, die der zweiten Post beantwortet: Wer leidet, wer spricht, wer urteilt?

Das Wichtigste in Kürze

• Die Kritik am souveränen Individuum ist notwendig, verfährt aber oft als Kette von Entleerungen, die einen Platz freimachen, statt Verantwortung neu zu denken.

• Die Kritik verschiebt die Souveränität nur: vom Subjekt auf eine „Orientierung“, ein „System“, eine Maschine.

• GenAI erscheint als Rückkehr der Souveränität in sublimierter Form: Der Mensch wird disqualifiziert, weil er geteilt und fehlbar ist. Die Maschine wird überhöht, weil sie frei von diesen Mängeln sein soll.

• Die Singularität funktioniert wie eine säkulare Parusie und rechtfertigt dergestalt Eingriffe in der Gegenwart und Machtkonzentration.

• „Die KI entscheidet“ ist eine Verschiebungsformel. Fälle wie COMPAS, die Toeslagen-Affäre und intransparentes Kreditscoring zeigen, wer real Verantwortung trägt.

• Selbstverfügung statt Selbstherrschaft: Die Souveränität des Subjekts ist eine Fiktion, seine Unersetzlichkeit als Ort von Leiden, Urteil und Verantwortung nicht.

Quellen

•             Jean-Claude Michéa: Das Reich des kleineren Übels. Über die liberale Zivilisation (2014).

•             Werner Stegmaier: What Is Orientation? A Philosophical Investigation (2019),

•             Julian Jaynes: The Origin of Consciousness in the Breakdown of the Bicameral Mind (2000).

•             George Herbert Mead: Mind, Self, and Society (2015).

•             C. G. Jung: Aion (1951).

•             Timothy D. Wilson: Strangers to Ourselves. Discovering the Adaptive Unconscious (2002).

•             Sigmund Freud: Das Unbewusste (1915).

•             Joseph Weizenbaum: „ELIZA – A Computer Program for the Study of Natural Language Communication between Man and Machine“, Communications of the ACM 9 (1966); sowie Computer Power and Human Reason (1976).

•             Julia Angwin u. a.: Machine Bias, ProPublica 2016 (zum COMPAS-Score).

•             Amnesty International: Xenophobic machines: Discrimination through unregulated use of algorithms in the Dutch childcare benefits (2021).

•             EuGH, Urteil vom 7. Dezember 2023, C-634/21 (SCHUFA), zum automatisierten Scoring.

Verwandte Artikel:

• KI-Mythen, Bewusstsein und Missverständnisse

• Böse KI: Warum KI-Konzerne vor ihren eigenen Modellen warnen

• KI-Sycophancy: Warum KI-Chatbots Nutzern nach dem Mund reden

• Chatbot ELIZA und Joseph Weizenbaum: Maschinen, Computer, künstliche Intelligenz und ihr Effekt auf uns

• KI-Deskilling und kognitive Schuld: KI-Nutzung untergräbt die Denkfähigkeit nach 10 Minuten