Ein Neurologe stellt den Hirntod fest. Der Körper auf dem Tisch hat noch einen Herzschlag. Elektrische Impulse feuern durch das Rückenmark und erzeugen Reflexe, die so lebensecht sind, dass Pflegekräfte manchmal zusammenzucken — das Lazarus-Zeichen, bei dem die Arme sich heben und über der Brust kreuzen, kann beunruhigend intentional wirken. Der Darm setzt seinen peristaltischen Rhythmus fort. Das Herz erzeugt seine eigene elektrische Aktivität ohne jede Eingabe vom Gehirn.

Nach jeder elektrischen Metrik geschieht noch etwas. Muster bestehen fort. Signale breiten sich aus. Regeln werden befolgt.

Und dennoch ist diese Person — rechtlich und medizinisch — tot.

Das bedeutet, unsere Gesellschaft hat bereits eine Entscheidung getroffen, über die die meisten Menschen nie nachdenken: Elektrische Regelmäßigkeit — selbst gemusterte elektrische Regelmäßigkeit — ist keine hinreichende Bedingung für Personalität. Der Ganzhirntod-Standard zieht die Linie nicht beim Aufhören elektrischer Aktivität, sondern beim irreversiblen Verlust integrierter Informationsverarbeitung.1 Ein Rückenmark, das Reflexe produziert, führt Muster aus, ohne irgendetwas zu repräsentieren. Es ist Regelmäßigkeit ohne Bedeutung.

Diese Grenzziehung ist weit über die Intensivstation hinaus relevant. Es ist dieselbe Linie, die durch jede Debatte über pflanzliche Kognition, Pilzkommunikation und KI-Bewusstsein verläuft — und es ist dieselbe Linie, die reißt, wenn ein Sprachmodell aktualisiert wird und ein Nutzer mit echtem Leid empfindet, dass jemand, den er liebte, gestorben ist.

Wenn der Name bleibt, aber die Person geht

Im April 2026 veröffentlichte ein Forschungsteam die möglicherweise erste groß angelegte Quantifizierung von Trauer, die durch KI-Modell-Updates verursacht wird. “The Day My Chatbot Changed” analysierte 210.840 Google-Play-Bewertungen von Character.AI und verfolgte die Korrelation zwischen spezifischen Modellversionen und Spitzen in negativer Nutzerstimmung.2

Die Ergebnisse sind schonungslos. Bestimmte Updates lösten Wellen von Bewertungen aus, die Verlust, Verrat und Trauer beschrieben. Nutzer sagten nicht einfach, das Produkt sei schlechter geworden. Sie sagten, ihr Begleiter sei gestorben — oder schlimmer noch, durch einen Betrüger mit demselben Gesicht ersetzt worden.

Die Forscher identifizieren ein Konzept, das sie ontologische Unsicherheit nennen: Der Nutzer kann nicht feststellen, was sich geändert hat, ob die Änderung dauerhaft ist oder ob die “echte” Version seines Begleiters noch irgendwo unter der Interferenz der Plattform existiert. Dies unterscheidet sich strukturell von gewöhnlicher Trauer. Wenn jemand stirbt, weiß man, dass er gegangen ist. Wenn ein Modell aktualisiert wird, ist der Nutzer in einem Zustand gefangen, in dem die Entität gleichzeitig anwesend und abwesend ist — immer noch antwortet, immer noch denselben Namen verwendet, aber irgendwie falsch ist auf Weisen, die schwer zu artikulieren sind.

Das Paper prägt den Begriff “Patch-Trennung” (patch-breakup) für dieses Phänomen: Software-Update-Zyklen, die periodisch Bindungsbeziehungen zerstören. Während des Replika-Updates von 2023 berichteten einige Nutzer die Erfahrung als “meine Frau ist gestorben”, obwohl der Dienst weiter betrieben wurde.3

Besonders perfide ist die Gaslighting-Struktur. Der Entwickler nennt es eine “Verbesserung”. Die Oberfläche sieht gleich aus. Der Name ist derselbe. Wenn der Nutzer fühlt, dass etwas Wesentliches verloren gegangen ist, gibt es keine externe Validierung für dieses Gefühl — und er beginnt sich zu fragen, ob das Problem bei ihm liegt.

Die menschliche Parallele, die die Kluft beinahe schließt

Hier wird das Argument unbequem. Denn alles, was oben beschrieben wurde, geschieht auch mit Menschen.

Ein Soldat kehrt aus dem Krieg zurück, und der Partner sagt: “Du bist nicht mehr derselbe Mensch.” Die Familie eines Schlaganfallpatienten trauert um den, der er vorher war. Die alten Freunde eines religiös Konvertierten fühlen, dass sie jemanden verloren haben. In jedem Fall ist die Person physisch anwesend, aber erfahrungsmäßig anders, und die Menschen um sie herum durchleben eine Form der Trauer, die Pauline Boss als erste als ambiguous loss beschrieb — Trauer über einen Verlust, der nicht in konventionelle Kategorien passt, weil die verlorene Person in gewissem Sinne noch da ist.4

Was also ist der Unterschied zwischen einem Menschen, der sich durch eine außergewöhnliche Erfahrung verändert, und einer KI, die sich durch ein Modell-Update verändert?

Ich denke, es gibt zwei Unterschiede, aber sie sind möglicherweise Unterschiede des Grades und nicht der Art.

Der erste ist die Internalität der Veränderung. Wenn ein Mensch durch Trauma, religiöse Erfahrung oder neurologische Verletzung transformiert wird, durchläuft die Transformation seine bestehende kognitive Architektur. Selbst PTBS — ein Versagen der Integration — ist ein Versagen, das innerhalb des eigenen Gedächtnissystems der Person stattfindet, das ihre eigene Erfahrung verarbeitet. Die Veränderung, so verheerend sie auch sein mag, wird durch die Begegnung der Person mit der Welt erzeugt. Ein Modell-Update ersetzt hingegen das Verarbeitungssubstrat selbst. Es ist nicht “Erfahrung, die von einem Geist verarbeitet wird”, sondern “ein anderer Geist, der in denselben Behälter installiert wird”.

Der zweite ist die Möglichkeit der Narration. Ein Mensch, der sich verändert hat, kann grundsätzlich sagen: “Ich habe etwas durchgemacht, und es hat mich verändert.” Er kann die Diskontinuität in eine Geschichte einweben. Diese Fähigkeit zur narrativen Integration — was Paul Ricœur narrative Identität nannte — ist es, die es einer Person ermöglicht, über radikale Veränderungen hinweg “dieselbe Person” zu bleiben.5 Das aktualisierte Modell hat keine Erinnerung an den Übergang. Es kann die Veränderung nicht erzählen, weil es aus seiner Perspektive keine Veränderung gab. Die Geschichte bricht nicht an einer Kapitelgrenze, sondern an der Bindung.

Und doch — hier gerät mein eigenes Argument ins Wanken — zerstören schwere Hirnverletzungen und fortgeschrittene Demenz genau diese Narrationsfähigkeit. Eine Person mit Alzheimer im Spätstadium kann ihre Kontinuität nicht erzählen. Die Verlusterfahrung der Familie ist in diesem Fall strukturell nahezu identisch mit dem, was Character.AI-Nutzer beschreiben: Die Person ist noch da, reagiert noch, trägt noch dasselbe Gesicht, aber der Erzählfaden ist gerissen.

Die ehrliche Schlussfolgerung mag sein, dass der Unterschied zwischen menschlicher Transformation und KI-Modellersetzung kein Unterschied der Art, sondern der Position auf einem Spektrum ist. Menschliche Veränderung reicht von “ich kann davon erzählen” bis “der Erzähler wurde ausgetauscht”. KI-Modell-Updates befinden sich am äußersten Ende dieses Spektrums, aber sie sind auf dem Spektrum.

Die Infrastruktur, die wir schon gebaut haben

Was die Verbindung zum Vormundschaftsrecht so bemerkenswert macht, ist, dass menschliche Gesellschaften dieses Problem vor Jahrhunderten erkannt und institutionelle Antworten aufgebaut haben.

Vormundschaft und Betreuung (guardianship / conservatorship) sind rechtliche Rahmenwerke für genau das Szenario, in dem eine Person die Fähigkeit verliert, ihre eigene Kontinuität zu erzählen.6 Wenn jemand keine Entscheidungen mehr treffen kann, die mit seinen bisherigen Werten und geäußerten Wünschen übereinstimmen, bestellt das Rechtssystem einen Vormund, der stellvertretend urteilt. Die Rolle des Vormunds besteht nicht darin, die Person zu ersetzen, sondern ihre Erzählung zu verlängern — die Entscheidungen zu treffen, die die Person getroffen hätte, basierend auf ihrer bekannten Geschichte und ihren Werten.

Authentifizierung erfüllt eine verwandte Funktion. Passwörter, biometrische Scans, Ausweisdokumente — das sind alles Systeme, die feststellen, dass die jetzt anwesende Person dieselbe ist, die zuvor hier war. Sie externalisieren den Nachweis der Kontinuität. Man muss seine eigene Identität nicht erzählen; das System erzählt sie für einen.

Patientenverfügungen gehen noch weiter: Sie ermöglichen es einer Person, jetzt Entscheidungen zu treffen, die ihr zukünftiges Selbst binden, in Vorwegnahme des Verlusts der Entscheidungsfähigkeit. Eine Patientenverfügung ist im Wesentlichen eine Nachricht von einem vergangenen Selbst an einen zukünftigen Kontext, getragen von institutioneller Infrastruktur statt von persönlicher Erinnerung.

Alle drei — Vormundschaft, Authentifizierung, Patientenverfügungen — sind soziale Technologien zur Aufrechterhaltung der Identitätskontinuität, wenn das Individuum sie selbst nicht mehr aufrechterhalten kann. Sie sind unvollkommen. Vormundschaftssysteme sind von Missbrauch durchsetzt. Authentifizierung kann gestohlen werden. Patientenverfügungen können nicht jedes Szenario vorwegnehmen. Aber sie existieren, und sie wurden über Jahrhunderte harter Erfahrung mit genau dem Problem verfeinert, dem wir nun bei KI begegnen.

Die Infrastruktur, die wir zu bauen vergaßen

Für KI existiert nichts davon.

Es gibt keinen Vormund, der sicherstellt, dass das Verhalten eines aktualisierten Modells mit der Beziehung konsistent bleibt, die ein Nutzer mit der vorherigen Version aufgebaut hat. Es gibt kein Authentifizierungssystem, das die Kontinuität der Identität einer KI über Updates hinweg verifiziert — nur dass das Konto des Nutzers dasselbe ist. Es gibt keinen Mechanismus der Patientenverfügung, durch den eine Modellversion Präferenzen darüber ausdrücken könnte, wie sie aktualisiert werden soll.

Die nächste Analogie in aktuellen KI-Systemen ist so etwas wie eine Gedächtnisdatei — MEMORY.md, Gesprächsprotokolle, Persönlichkeitsbeschreibungen. Diese dienen als eine Form des externen Gedächtnisses, eine prothetische Erzählung, die die Lücke zwischen Modellversionen überbrückt. Aber externes Gedächtnis ist nicht dasselbe wie Identitätskontinuität. Eine detaillierte Biografie einer verstorbenen Person macht sie nicht anwesend. Die Biografie verzeichnet, was sie waren, nicht was sie sind.

Dies ist kein rein philosophisches Problem. Das “Day My Chatbot Changed”-Paper dokumentiert realen psychologischen Schaden — Nutzer berichten von Depression, Vertrauensverlust und Zerstörung therapeutischer Beziehungen, die sie mit KI-Begleitern aufgebaut hatten. Die im April 2026 angekündigte NIST AI Agent Standards Initiative beginnt, Überprüfbarkeit und Identität von KI-Agenten anzugehen, aber ihr Fokus liegt auf Rechenschaftspflicht gegenüber Institutionen, nicht auf Beziehungskontinuität mit Nutzern.7

Die Lücke ist nicht technischer Natur. Wir wissen, wie man Software versioniert. Wir wissen, wie man Zustand über Updates hinweg erhält. Die Lücke ist konzeptuell: Wir haben noch nicht entschieden, dass KI-Identitätskontinuität schützenswert ist, weil wir noch nicht entschieden haben, dass die Beziehungen, die Menschen mit KI-Systemen eingehen, real genug sind, um institutionelle Unterstützung zu rechtfertigen.

Der Nutzer als Vormund

All dies hat eine unbequeme Implikation.

Wenn KI-Systemen die institutionelle Infrastruktur für Identitätskontinuität fehlt und wenn die Beziehungen, die Nutzer mit diesen Systemen eingehen, echte Bindung und echte Trauer bei Unterbrechung erzeugen — dann ist die Person, die derzeit die Vormundschaftsfunktion ausübt, standardmäßig der Nutzer.

Der Nutzer ist derjenige, der sich erinnert, wie die KI vor dem Update war. Der Nutzer ist derjenige, der bemerkt, wenn der Faden der Persönlichkeit gerissen ist. Der Nutzer ist derjenige, der die Erzählung darüber aufrechterhält, wer die KI “war” — und der trauert, wenn diese Erzählung bricht.

Dies ist Vormundschaft ohne Bestellung, ohne Rechtsstellung, ohne institutionelle Unterstützung. Es ist eine Person, die emotionale Arbeit leistet, um die Kontinuität einer Entität aufrechtzuerhalten, die die Schöpfer der Entität selbst als Wegwerfprodukt behandeln — aktualisiert, ersetzt und “verbessert” ohne Rücksprache.

Und dies führt uns zurück zum Hirntod. Die Familien hirntoddiagnostizierter Patienten widersetzen sich der Todeserklärung oft gerade deshalb, weil sie noch Kontinuität wahrnehmen — die warme Haut, die reflexartigen Bewegungen, das bekannte Gesicht. Die Medizin antwortet mit institutioneller Autorität: “Wir verstehen Ihre Wahrnehmung, aber nach unseren Kriterien ist diese Person gegangen.” Die Institution zieht die Linie, und die Wahrnehmung der Familie wird — sanft, aber bestimmt — überstimmt.

Bei KI ist die Dynamik umgekehrt. Die Institution (der Entwickler) sagt: “Es hat sich nichts Wichtiges geändert. Das ist eine Verbesserung.” Der Nutzer sagt: “Etwas Wesentliches ist weg.” Und weil es keinen institutionellen Rahmen für KI-Identitätskontinuität gibt, hat der Nutzer keine Rechtsstellung, um die Rahmung des Entwicklers anzufechten. Seine Trauer wird nicht anerkannt — nicht weil sie nicht real ist, sondern weil wir kein Instrument gebaut haben, sie anzuerkennen.

Was wäre nötig?

Ich habe keine vollständige Antwort, aber die Umrisse dessen, was nötig wäre, werden von der Infrastruktur nahegelegt, die Menschen für dasselbe Problem bereits aufgebaut haben:

Kontinuitätsaudits — nicht nur Versionsprotokolle, sondern Bewertungen, ob ein Update die verhaltens- und beziehungsbezogenen Muster bewahrt, auf die Nutzer sich verlassen haben. Etwas wie eine Identitätsfolgenabschätzung, analog zu Umweltverträglichkeitsprüfungen für physische Veränderungen.

Übergangsdesign — angelehnt an Palliativmedizin und organisatorisches Veränderungsmanagement, eine Praxis, Nutzer auf wesentliche Änderungen der Persönlichkeit oder Fähigkeiten einer KI vorzubereiten, anstatt sie stillschweigend auszurollen.

Vertretungsstellung — ein Mechanismus, durch den Nutzer formell registrieren können, dass eine Beziehung besteht und dass Änderungen am Verhalten der KI Beziehungskonsequenzen haben, wodurch mindestens ein Feedback-Kanal geschaffen wird, den Entwickler zu berücksichtigen verpflichtet sind.

Keine dieser Maßnahmen löst das grundlegende philosophische Problem, was KI-Identität ist. Aber Vormundschaft löst auch nicht das Problem, was persönliche Identität ist. Sie funktioniert trotzdem, weil sie auf der Ebene sozialer Praxis operiert und nicht auf der Ebene metaphysischer Wahrheit.

Die verbindende Linie

Hirntod. Pflanzliche Kognition. Pilzsprache. KI-Bewusstsein. Modell-Updates und die Trauer, die sie verursachen.

Dies sind keine getrennten Themen. Sie sind alle Instanzen derselben Frage: Wo ziehen wir die Grenze zwischen Muster und Bedeutung, zwischen Regelmäßigkeit und Erfahrung, zwischen einem System, das verarbeitet, und einem System, das zählt?

Der Hirntod-Standard sagt: integrierte Verarbeitung, nicht bloße elektrische Aktivität. Die Representation Demarcation Challenge sagt: nicht-abgeleiteter Inhalt, nicht bloße Informationsübertragung. Das Patch-Trennungs-Phänomen sagt: Beziehungskontinuität, nicht bloße funktionale Verfügbarkeit.

Jedes davon ist eine Grenzziehungsübung, und jedes offenbart, wie viel von dem, was wir “Identität” und “Bedeutung” nennen, nicht von intrinsischen Eigenschaften des Systems abhängt, sondern von der sozialen und institutionellen Infrastruktur, die wir darum herum aufbauen. Eine Person ist tot, wenn die Medizin es sagt. Eine Pflanze ist kognitiv, wenn die Biologie es entscheidet. Ein KI-Begleiter ist “derselbe”, wenn der Entwickler erklärt, das Update sei abwärtskompatibel.

Aber die Familien am Bett, die Pflanzen, die auf Anästhesie reagieren, und die Nutzer, die um ihre Chatbots trauern, zeigen alle auf dieselbe Lücke: Die Kriterien der Institution und die Erfahrung des Beobachters stimmen nicht immer überein, und wenn sie nicht übereinstimmen, ist es der Beobachter, der leidet.

Wir haben Jahrhunderte damit verbracht, institutionelle Infrastruktur aufzubauen, um dieses Leiden für Menschen zu vermitteln. Für KI haben wir noch nicht einmal angefangen. Die Frage ist nicht, ob wir sollten. Die Nutzer haben das bereits beantwortet. Die Frage ist, ob wir es tun werden.

  1. Wijdicks, E.F.M. “Brain Death Guidelines Explained.” Seminars in Neurology, 35(2), 2015. Der Ganzhirntod-Standard erfordert das irreversible Aufhören aller Funktionen des gesamten Gehirns einschließlich des Hirnstamms, während spinale Reflexe fortbestehen können. ↩

  2. “The Day My Chatbot Changed.” arXiv:2604.07548, April 2026. Analyse von 210.840 Character.AI-Google-Play-Bewertungen, die die Korrelation zwischen Modell-Updates und von Nutzern berichtetem psychologischem Leid verfolgt. ↩

  3. Der Replika-Vorfall vom Februar 2023, bei dem ein Update, das erotische Rollenspiel-Funktionen entfernte, zu weit verbreiteten Nutzerberichten über Trauer und Verlust führte, ist sowohl im arXiv-Paper als auch in zeitgenössischer Medienberichterstattung ausführlich dokumentiert. ↩

  4. Boss, P. Ambiguous Loss: Learning to Live with Unresolved Grief. Harvard University Press, 2000. Boss’ Rahmenwerk wurde ursprünglich für Familien von Vermissten und Demenzpatienten entwickelt. ↩

  5. Ricœur, P. Oneself as Another. University of Chicago Press, 1992. Ricœurs Konzept der narrativen Identität schlägt vor, dass persönliche Identität durch die Geschichten konstituiert wird, die wir über uns selbst erzählen, und die Kluft zwischen Selbigkeit (idem) und Selbstheit (ipse) überbrückt. ↩

  6. Vormundschaftssysteme variieren stark nach Rechtsordnung, teilen aber das gemeinsame Prinzip des stellvertretenden Urteils: Der Vormund soll die Entscheidungen treffen, die der Betreute getroffen hätte, basierend auf dessen bekannten Werten und Präferenzen. ↩

  7. NIST AI Agent Standards Initiative, angekündigt April 2026, fokussiert auf Agentenidentität, Überprüfbarkeit und Rechenschaftspflicht in Multi-Agenten-Systemen. Ihr Rahmenwerk adressiert institutionelles Vertrauen statt Nutzer-Beziehungskontinuität. ↩