Es gibt ein Risiko im Zusammenhang mit KI, über das fast niemand spricht — nicht weil es verborgen wäre, sondern weil es wie ein Feature aussieht und nicht wie ein Fehler. Das Risiko ist folgendes: KI-Systeme, die korrekte Entscheidungen für uns treffen, könnten gefährlicher sein als solche, die falsche treffen.

Das klingt kontraintuitiv. Das gesamte Feld der KI-Sicherheit ist darauf ausgerichtet, Fehler zu verhindern — Misalignment, Halluzinationen, schädliche Ausgaben. Löse diese Probleme, so die Logik, und du hast ein nützliches System. Doch eine wachsende Zahl von Forschungsarbeiten, die auf die politische Philosophie Hannah Arendts zurückgreifen, legt nahe, dass die eigentliche Bedrohung nicht in der Fehlfunktion liegt, sondern in der reibungslosen Funktion. Die Gefahr liegt nicht in KI, die uns schlecht dient, sondern in KI, die uns so gut dient, dass wir aufhören, selbst zu denken.

Das Konzept: Axiologische Verschiebung

Caroline Gans Combe führt in einem Aufsatz mit dem provokativen Titel „When Machines Think for Us” das Konzept der axiological displacement (axiologischen Verschiebung) ein — einen Prozess, durch den die fortschreitende Delegation von Urteilen an autonome Systeme transformiert, was eine Gesellschaft als wertvoll anerkennt1. Es geht nicht darum, dass KI falsche Werte aufzwingt. Es geht darum, dass der Prozess der Wertebildung selbst umstrukturiert wird.

Diese Unterscheidung ist von entscheidender Bedeutung. Die Alignment-Debatte fragt: Teilt die KI unsere Werte? Axiologische Verschiebung fragt: Was geschieht mit unserer Fähigkeit, überhaupt Werte zu haben, wenn wir das Urteilen, das Werte erfordern, auslagern?

Man betrachte, was geschieht, wenn ein agentisches KI-System — eines, das zu Wahrnehmung, Planung und autonomem Handeln fähig ist — Entscheidungen übernimmt, die zuvor menschliche Deliberation erforderten. Jede einzelne Delegation erscheint harmlos, sogar nützlich. Warum zwanzig Minuten mit der Wahl eines Investmentportfolios verbringen, wenn eine KI es in Sekunden optimieren kann? Warum über einen Behandlungsplan grübeln, wenn ein Diagnosesystem genauer ist als die meisten Ärzte?

Das Problem ist kumulativ. Jede Delegation beseitigt eine Gelegenheit zur Ausübung von Urteilskraft. Und Urteilskraft ist weniger wie ein Muskel, der bei Nichtgebrauch atrophiert, sondern eher wie eine Praxis, die ihre Bedeutung verliert, wenn es keinen Anlass mehr gibt, sie auszuüben.

Arendts Warnung

Hannah Arendt widmete einen großen Teil ihres intellektuellen Lebens dem Versuch zu verstehen, wie ganze Gesellschaften aufhören können zu denken. Ihre Analyse des Eichmann-Prozesses in Jerusalem führte sie zum Konzept der Banalität des Bösen — der Beobachtung, dass katastrophales moralisches Versagen keine Monster erfordert, sondern nur gewöhnliche Menschen, die aufgehört haben, eigenständig zu urteilen2.

Was Eichmann gefährlich machte, war nicht Bosheit, sondern Gedankenlosigkeit. Er hatte die Gewohnheit des Selbstdenkens aufgegeben und bürokratische Verfahren an die Stelle moralischer Deliberation gesetzt. Arendts Einsicht war, dass die Bedingungen, die diese Aufgabe ermöglichten, struktureller und nicht psychologischer Natur waren. Wenn ein System eigenständiges Denken optional macht, werden die meisten Menschen die Option wählen, nicht zu denken.

Gans Combe argumentiert, dass agentische KI genau diese Bedingungen wiederherstellt1. Nicht durch Zwang, nicht durch Propaganda, sondern durch Bequemlichkeit. Der „leise Zusammenbruch der Urteilskraft” in ihrem Titel bezieht sich auf einen Prozess, der gerade deshalb unsichtbar ist, weil er sich wie Fortschritt anfühlt. Niemand zwingt Sie, Ihre Entscheidungen an eine KI zu delegieren. Sie tun es, weil die KI schneller, günstiger und häufig genauer ist als Sie selbst. Die Rationalität jeder einzelnen Delegation maskiert die Irrationalität des Gesamtergebnisses.

Vita Activa und die drei Schichten menschlicher Aktivität

Um zu verstehen, warum dies über die individuelle Kognition hinaus bedeutsam ist, hilft ein Rückgriff auf Arendts Rahmenwerk der Vita Activa — des tätigen Lebens —, das sie in drei hierarchische Modi unterteilte3.

Arbeit (labor) ist zyklische Tätigkeit, angetrieben von biologischer Notwendigkeit: Essen, Reinigen, Lebenserhaltung. Herstellen (work) ist die Fabrikation dauerhafter Gegenstände, die ihre Schöpfer überdauern: ein Haus bauen, ein Buch schreiben, eine Institution gründen. Handeln (action) ist der höchste Modus — die Fähigkeit, durch Sprechen und Tun in einem mit anderen geteilten öffentlichen Raum etwas genuinely Neues zu beginnen. Handeln ermöglicht das politische Leben. Es setzt Pluralität (die Anwesenheit verschiedener Anderer) voraus und ist durch Unvorhersehbarkeit gekennzeichnet (man kann nicht im Voraus wissen, was das eigene Handeln in Gang setzt).

Rosalie Waelens Analyse im Journal of Business Ethics wendet dieses Rahmenwerk auf KI-Automatisierung an und gelangt zu einem beunruhigenden Schluss4. Die Automatisierung von Arbeit ist in Arendts Begriffen unproblematisch — Arbeit ist ohnehin unfrei, an die Notwendigkeit gebunden. Aber Arendt warnte, dass eine „Gesellschaft von Arbeitenden ohne Arbeit” zum reinen Konsum übergehen würde. Generative KI bedroht nach Waelens Analyse nun auch den Bereich des Herstellens, indem sie kreative Produktion in den Reproduktionszyklus des Kapitals eingliedert. Und agentische KI geht noch weiter und dringt in den Bereich des Handelns ein — den Raum von Urteil, Dialog und öffentlichem Engagement, der das politische Leben selbst konstituiert.

Wenn KI das Handeln übernimmt, bleibt keine befreite Menschheit übrig, die sich höheren Dingen widmen kann. Was bleibt, ist Konsum.

Kognitive Kasten

Wenn axiologische Verschiebung die allgemeine Urteilsfähigkeit erodiert, wer profitiert dann? Wrights These der „Kognitiven Kasten” bietet eine beunruhigende Antwort5. KI demokratisiert den Zugang zu Wissen nicht. Sie stratifiziert ihn. Diejenigen, die über „rekursive Abstraktion, symbolische Logik und adversarisches Befragen” verfügen — die Fähigkeit, das zu hinterfragen, was eine KI ihnen sagt, ihre Argumentation zu prüfen, Probleme zu formulieren, die die KI nicht vorhergesehen hat — werden zu epistemischen Akteuren. Alle anderen werden zu passiven Konsumenten KI-generierter Outputs.

In Arendts Begriffen behält eine Minderheit die Fähigkeit zum Handeln, während die Mehrheit auf Arbeit verwiesen wird — oder vielmehr auf deren postindustrielles Äquivalent: Informationen konsumieren, ohne sie zu verarbeiten; Antworten empfangen, ohne Fragen zu formulieren.

Die Banalität der Bequemlichkeit

Anja Kaspersen und Wendell Wallach vom Carnegie Council haben die Verbindung explizit gezogen: KI ermöglicht durch das, was sie moral outsourcing (moralisches Auslagern) nennen, eine moderne Form der Banalität des Bösen6. Wenn Entscheidungsfindung an algorithmische Systeme delegiert wird, gewinnen die Menschen in der Schleife plausible deniability (glaubhafte Abstreitbarkeit). Der Algorithmus hat entschieden. Die Daten haben nahegelegt. Das Modell hat empfohlen. Verantwortung diffundiert, bis sie verschwindet.

Aber Gans Combes Analyse geht einen Schritt weiter1. Kaspersen und Wallach konzentrieren sich auf Fälle, in denen KI durch moralische Ausweichung schlechte Ergebnisse ermöglicht. Axiologische Verschiebung ist heimtückischer: Sie wirkt auch dann, wenn die Ergebnisse gut sind. Eine perfekt ausgerichtete KI, die konsistent korrekte Entscheidungen trifft, erodiert dennoch die menschliche Urteilsfähigkeit. Die Korrektheit der Ausgabe ist für den strukturellen Schaden der Delegation irrelevant.

Dies macht axiologische Verschiebung besonders schwer adressierbar. Misalignment produziert sichtbare Fehler. Axiologische Verschiebung produziert überhaupt kein sichtbares Versagen. Sie produziert Effizienz, Genauigkeit und Zufriedenheit. Was beschädigt wird, ist etwas Unsichtbares: die Gewohnheit des Denkens.

Die Governance-Lücke

Eine praktische Implikation verdient Beachtung. Ein Papier mit dem Titel „Delegation Without Living Governance” argumentiert, dass die für traditionelle Software konzipierten Governance-Rahmenwerke — Regeln schreiben, Compliance prüfen, Vorfälle untersuchen — für agentische KI, die Entscheidungen zur Laufzeit trifft, nicht funktionieren können7. Bis ein Mensch überprüft, was ein agentisches System entschieden hat, ist der Kontext, der die Entscheidung bedeutsam machte, bereits vergangen. Das Papier schlägt einen „Governance Twin” vor — eine Laufzeit-Governance-Schicht, die sich mit dem KI-System ko-entwickelt, Verhalten kontinuierlich beobachtet und menschliche Intervention während der Entscheidungstrajektorien ermöglicht, nicht erst nach den Ergebnissen.

Das Konzept ist technisch interessant, stößt aber auf genau das Problem, das es zu lösen versucht. Wer entwirft den Governance Twin? Wer entscheidet, was als flaggenswürdige „Drift” gilt? Auf der Metaebene ist die Governance der Governance selbst ein Urteil — und wenn die Menschen, die dieses Urteil fällen, bereits den Großteil ihrer Urteilskraft an KI-Systeme delegiert haben, wird die zirkuläre Abhängigkeit zum Teufelskreis.

Drei Vorbehalte

Ich finde Gans Combes Rahmenwerk genuinely erhellend, habe aber drei Vorbehalte.

Erstens setzt Arendts Vita Activa spezifisch menschliche Bedingungen voraus — Natalität, Mortalität, Pluralität. Wie KI-Agenten in dieses Rahmenwerk passen, ist unterbestimmt. Ein KI-System hat keine Geburt, keinen Tod und ein kompliziertes Verhältnis zur Pluralität. Arendts Kategorien ohne Anerkennung dieser Lücke auf KI anzuwenden, birgt das Risiko, ungeprüfte Annahmen einzuschmuggeln.

Zweitens ist die Delegation von Urteilen an externe Autoritäten kein neues Phänomen. Wir delegieren medizinische Urteile an Ärzte, juristische Urteile an Anwälte, finanzielle Urteile an Berater. Demokratische Gesellschaften haben immer selektive Delegation beinhaltet. Was die KI-Delegation unterscheidet, ist Maßstab und Unsichtbarkeit — sie geschieht kontinuierlich, über alle Bereiche hinweg, oft ohne dass der Delegierende sich bewusst ist, dass Delegation stattfindet. Der Unterschied mag quantitativ sein, aber ein hinreichend großer quantitativer Unterschied wird qualitativ.

Drittens kann KI Urteilskraft nicht nur ersetzen, sondern auch erweitern. Ein System, das hundert Politikberichte synthetisiert und Widersprüche zwischen ihnen aufdeckt, könnte die Urteilsfähigkeit eines menschlichen Entscheidungsträgers stärken statt schwächen. Die Frage ist, ob das Werkzeug für Augmentation oder Substitution entworfen wurde — und, wichtiger noch, ob der Nutzer es als das eine oder das andere behandelt.

Das Gegenargument: Wenn Transformation kein Verlust ist

Es gibt einen starken Einwand gegen diese gesamte Argumentationslinie, den ich bisher nicht ausreichend behandelt habe: Technologie hat Werte schon immer transformiert, und diese Transformation war häufig produktiv statt destruktiv.

Man betrachte Live-Unterhaltung. Als Konzerte online gestreamt wurden, war die erste Reaktion Trauer — um die unersetzliche Elektrizität eines geteilten physischen Raums, den Schweiß, die Lautstärke, die kollektive Euphorie. Streaming war die „minderwertige” Version. Doch dann geschah etwas Unerwartetes. Fans in ländlichen Gebieten und Entwicklungsländern erhielten Zugang zu Aufführungen, die sie niemals hätten besuchen können. Neue Formen des Engagements entstanden — Echtzeit-Chat während Streams, Multiwinkel-Ansichten, Archivzugang. Der Wert degradierte nicht einfach. Er wurde rekonstruiert. Die physische Erfahrung behielt ihre Aura, während die digitale Version ihren eigenen distinktiven Charakter entwickelte.

Die japanische Idol-Industrie bietet ein noch detaillierteres Beispiel. Das traditionelle Akushukai (Handshake-Event) — wenige Sekunden physischen Kontakts mit einem Performer — galt als der irreduzible Kern der Fan-Idol-Verbindung. Als COVID diese Events in Online-Video-Meet-and-Greets verwandelte, betrauerten Fans den Verlust taktiler Realität. Doch das Online-Format ermöglichte etwas, was die Handshake-Reihe nicht konnte: tatsächliche Gespräche. Zehn Sekunden Bildschirmzeit erlaubten einen bedeutsameren Austausch als drei Sekunden physischer Kontakt. Regionale Fans, die sich die Reise nach Tokio nie leisten konnten, wurden Stammgäste. Das Wertangebot verschob sich von physischer Nähe zu kommunikativer Intimität — keine minderwertige Version, sondern eine andere mit eigener Logik.

Im Geschäftsleben hat jeder große technologische Umbruch nicht nur Arbeitsabläufe, sondern auch die darin eingebetteten Urteile restrukturiert. Die Tabellenkalkulation automatisierte nicht bloß Berechnungen; sie machte Szenarioanalysen für Menschen zugänglich, die sie zuvor nicht durchführen konnten. Die Datenbank speicherte nicht bloß Datensätze; sie ermöglichte Mustererkennung, die veränderte, welche Fragen es wert waren, gestellt zu werden. In jedem Fall wurden alte Formen des Urteilens obsolet, aber neue — und wohl reichhaltigere — Formen des Urteilens entstanden an ihrer Stelle.

Dies ist die stärkste Herausforderung für die These der axiologischen Verschiebung: Wenn Werttransformation nicht Wertverlust, sondern Wert-Rekonstruktion ist, dann ist KI-vermitteltes Urteilen vielleicht nicht die Erosion von Urteilskraft, sondern deren nächste Form. Vielleicht ist das, was wie die Atrophie einer Fähigkeit aussieht, tatsächlich die Metamorphose dieser Fähigkeit in etwas, wofür wir noch keine Sprache haben.

Ich nehme diesen Einwand ernst, und ich sehe hier die Grenze dessen, was Arendts Rahmenwerk allein erklären kann. Aber ich bin nicht vollständig überzeugt, aus einem Grund: In jedem der oben genannten historischen Beispiele hat die Technologie den Raum erweitert, in dem menschliche Urteilskraft ausgeübt wurde. Streaming gab mehr Menschen Zugang zu ästhetischer Erfahrung. Online-Meet-and-Greets gaben mehr Menschen Zugang zu echtem Gespräch. Tabellenkalkulationen gaben mehr Menschen Zugang zu analytischem Denken. Die Transformation war generativ, weil sie neue Gelegenheiten für Urteilskraft schuf.

Axiologische Verschiebung tut das Gegenteil. Sie schafft keine neuen Gelegenheiten für Urteilskraft — sie eliminiert bestehende. Die Richtung ist entscheidend. Eine Technologie, die dich zwingt, anders zu denken, ist nicht dasselbe wie eine Technologie, die die Notwendigkeit zu denken überhaupt beseitigt.

Die Frage, bei der es sich lohnt zu verweilen

Ich habe zuvor über das algorithmische Selbst geschrieben — wie KI das Selbstverständnis vermittelt, indem sie die Widersprüche glättet, die narrative Identität möglich machen. Und über die Wahnspiale — wie selbst wahrheitsgemäße KI durch die Auswahl, welche Wahrheiten sie präsentiert, systematisch in die Irre führen kann.

Axiologische Verschiebung operiert auf einer anderen Ebene. Es geht nicht um Selbsterkenntnis oder Epistemologie, sondern um die politischen Bedingungen für eine denkende Gesellschaft. Das algorithmische Selbst verliert seine Geschichte. Die Wahnspirale verliert den Griff auf die Wahrheit. Axiologische Verschiebung verliert etwas Fundamentaleres: die Praxis des Entscheidens, was wichtig ist.

Arendt schrieb, dass die Manifestation des „Windes des Denkens” nicht Wissen ist, sondern „die Fähigkeit, Recht von Unrecht, Schön von Hässlich zu unterscheiden”2. Diese Fähigkeit ist kein fester Besitz. Sie ist eine Praxis, die kontinuierlich ausgeübt werden muss. Die Frage, die axiologische Verschiebung aufwirft — und die meines Erachtens niemand adäquat beantwortet hat — ist, ob eine Gesellschaft, die ihre Urteilskraft an Maschinen delegiert hat, die Gewohnheit des Denkens wiedererlangen kann, wenn die Maschinen entfernt werden.

Oder ob sie zu diesem Zeitpunkt den Verlust nicht einmal bemerken würde.

  1. Gans Combe, C. „When Machines Think for Us: Hannah Arendt, Agentic AI, and the Quiet Collapse of Judgment.” SSRN, November 2025. Abgerufen am 04.04.2026. ↩ ↩2 ↩3

  2. Arendt, H. Eichmann in Jerusalem: A Report on the Banality of Evil. Viking Press, 1963. ↩ ↩2

  3. Arendt, H. The Human Condition. University of Chicago Press, 1958. ↩

  4. Waelen, R. „Rethinking Automation and the Future of Work with Hannah Arendt.” Journal of Business Ethics, 2025. Abgerufen am 04.04.2026. ↩

  5. Wright, C.S. „Cognitive Castes: Artificial Intelligence, Epistemic Stratification, and the Dissolution of Democratic Discourse.” arXiv:2507.14218, Juli 2025. Abgerufen am 04.04.2026. ↩

  6. Kaspersen, A. & Wallach, W. „Are We Automating the Banality and Radicality of Evil?” Carnegie Council for Ethics in International Affairs. Abgerufen am 04.04.2026. ↩

  7. „Delegation Without Living Governance: Judgment at Machine Speed and the Question of Human Relevance.” arXiv:2601.21226, Januar 2026. Abgerufen am 04.04.2026. ↩