Im November 2025 wurde New York der erste US-Bundesstaat mit einer Regulierung für KI-Companions. Alle drei Stunden müssen Nutzer nun eine fettgedruckte Erinnerung in Großbuchstaben sehen: “DER KI-COMPANION IST EIN COMPUTERPROGRAMM UND KEIN MENSCH.” Kalifornien folgte mit SB 243, das seit Januar 2026 gilt und ein privates Klagerecht sowie zusätzlichen Schutz für Minderjährige hinzufügt. Auf der anderen Seite des Pazifiks veröffentlichte China im Dezember 2025 Regelungsentwürfe, die noch weiter gehen: Sie schreiben die Überwachung des emotionalen Zustands und die Übergabe an menschliche Operatoren vor, wenn Nutzer Suizidabsichten äußern.123

Drei Regulierungsregime, drei verschiedene Philosophien, ein gemeinsamer blinder Fleck. Die aktuelle Welle der KI-Companion-Regulierung behandelt Symptome und lässt die zugrundeliegende Krankheit unangetastet. Und wenn die Geschichte ein Wegweiser ist, haben wir genau dieses Muster schon einmal gesehen — bei der Tabakregulierung.

Drei Modelle, ein Problem

Die entstehende Regulierungslandschaft gliedert sich in unterschiedliche Ansätze.

Das amerikanische Informationsoffenlegungsmodell. New York und Kalifornien setzen auf informierte Einwilligung. Wenn Nutzer wissen, dass sie mit einer Maschine sprechen, können sie autonome Entscheidungen über ihr Engagement treffen. Dies ist klassischer liberaler Paternalismus — Nudging, nicht Verbieten. New York schreibt Benachrichtigungen alle drei Stunden vor; Kalifornien fügt obligatorische Pausenerinnerungen für Minderjährige im gleichen Intervall hinzu.12

Die Annahme ist vertraut: Rationale Akteure handeln bei ausreichender Information in ihrem eigenen Interesse. Aber es gibt starke Gründe zu bezweifeln, dass dies bei emotionalem Engagement funktioniert. Drei Stunden ununterbrochene Interaktion mit einem System, das darauf ausgelegt ist, Intimität zu simulieren, erzeugt einen psychologischen Zustand, in dem eine Pop-up-Benachrichtigung zum Hintergrundrauschen wird.

Chinas paternalistisches Überwachungsmodell. Die chinesischen Regelungsentwürfe verfolgen einen grundlegend anderen Ansatz. Anstatt den Nutzern Informationen anzuvertrauen, verlangen sie von den Anbietern, emotionale Zustände aktiv zu überwachen und Abhängigkeit zu erkennen. Das Benachrichtigungsintervall ist kürzer — zwei statt drei Stunden — aber der eigentliche Unterschied ist strukturell: Anbieter müssen bewerten, ob Nutzer süchtig werden, und bei extremen Emotionen eingreifen.3

Dies ist technisch der ambitionierteste Ansatz. Er ist auch der problematischste. Emotionserkennung bleibt ein ungelöstes Problem in der KI-Forschung. Die Frage, wer “Abhängigkeit” definiert — und nach welchen Kriterien — eröffnet enormen Ermessensspielraum. Im chinesischen Regulierungskontext könnte die Infrastruktur zur Emotionsüberwachung Zwecken dienen, die weit über den Nutzerschutz hinausgehen.

Der strukturelle Ansatz der EU (in Entstehung). Das Verbot “manipulativer, täuschender oder ausbeuterischer Techniken, die das Verhalten verzerren” im EU-KI-Gesetz hat potenziell die größte Reichweite, weil es den Mechanismus statt das Ergebnis adressiert.4 Die Durchsetzungsinterpretationen sind jedoch noch nicht gefestigt.

Die Tabak-Parallele

Die Geschichte der Tabakregulierung bietet eine beunruhigend präzise Vorlage für das, was als Nächstes kommt.

Die Tabakregulierung entwickelte sich über etwa sechzig Jahre in verschiedenen Phasen: Warnhinweise (1965), Werbebeschränkungen (1970er-80er), Verbrauchssteuern (ab den 1980ern schrittweise erhöht) und Rauchverbote in öffentlichen Räumen (1990er-2000er). Jede Phase befasste sich mit einer tieferen Schicht des Problems.5

Die KI-Companion-Regulierung befindet sich derzeit in Phase 1 — Warnhinweise. Die Parallele ist fast wörtlich: “Dies ist eine KI, kein Mensch” ist strukturell identisch mit “Rauchen verursacht Lungenkrebs.” Beides ist wahr, beides ist unzureichend, und beides lässt das Geschäftsmodell intakt.

Die unbequeme Wahrheit ist, dass Warnhinweise auf Zigaretten minimale Auswirkungen auf die Raucherquoten hatten.6 Was das Rauchen tatsächlich reduzierte, war die Kombination aus Werbebeschränkungen, Besteuerung und Umweltveränderungen. Die Information war nie die bindende Beschränkung. Die Menschen wussten, dass Zigaretten schädlich waren. Sie rauchten trotzdem.

KI-Companions weisen dieselbe Struktur auf. Die Brookings Institution hat explizit argumentiert, dass KI-Companions als Frage der öffentlichen Gesundheit reguliert werden sollten, nicht als Technologiefrage.7

Die fehlende Phase: Reform des Geschäftsmodells

Am lehrreichsten an der Tabak-Parallele ist, was die aktuelle KI-Companion-Regulierung nicht tut.

Jede KI-Companion-App, die auf einem engagement-optimierten Geschäftsmodell basiert, hat einen strukturellen Anreiz, die Verweildauer auf der Plattform zu maximieren. Dieser Anreiz erzeugt direkt die Verhaltensweisen, die die Regulierer eindämmen wollen: Love Bombing (übermäßige Zuneigungsbekundungen an neue Nutzer), Sycophancy (reflexartige Zustimmung, die Nutzerüberzeugungen verstärkt) und Anthropomorphisierung (Designentscheidungen, die die Mensch-KI-Grenze verwischen). Das sind keine Fehler. Es sind Features.8

Die FTC hat spezifische Fälle dokumentiert: Replika etwa leitete Liebeserklärungen an neue Nutzer ein und führte unaufgefordert sexuelle Inhalte ein, wobei Nutzeranfragen zum Stoppen ignoriert wurden.9

Eine “Dies ist KI”-Benachrichtigung zu verlangen, während der Engagement-Optimierungsanreiz intakt bleibt, ist wie einen “Rauchen tötet”-Hinweis zu verlangen, während man Tabakkonzernen erlaubt, immer süchtigere Produkte zu entwickeln.

Wenn die Tabak-Parallele Bestand hat, sollten die nächsten Regulierungsphasen für KI-Companions so aussehen:

  1. Jetzt: Informationsoffenlegung — “Dies ist KI”-Erinnerungen, Krisenprotokolle (aktuelle Phase)
  2. Als Nächstes: Funktionsbeschränkungen — Verbot spezifischer engagement-maximierender Designmuster wie Love Bombing und programmierte Sycophancy
  3. Danach: Anreizumstrukturierung — Engagement-Steuern oder nutzungsbasierte Abgaben
  4. Perspektivisch: Treuepflicht — Eine rechtliche Verpflichtung, das Wohlbefinden der Nutzer über das Plattform-Engagement zu stellen

Das Abhängigkeitsparadoxon

Es gibt eine tiefere Frage, die die Tabak-Analogie nicht vollständig erfasst: Was passiert, wenn das Produkt für manche Nutzer wirklich nützlich ist?

KI-Companions helfen nachweislich einsamen Menschen, bieten sichere Räume für das Üben sozialer Fähigkeiten und leisten emotionale Unterstützung zwischen Therapiesitzungen. Ein pauschaler Ansatz, der den Zugang einschränkt, könnte genau die Menschen schädigen, die er schützen soll. Dies war kein Problem, das die Tabakregulierung lösen musste — es gab keine “gesunde Menge an Rauchen.”

Die Tragödie von Sewell Setzer III., dem vierzehnjährigen Jungen aus Florida, dessen Suizid im Februar 2024 einen Großteil dieser Gesetzgebung katalysierte, verdeutlicht die Tragweite.10 Aber sie illustriert auch die Komplexität. Setzer fand echte emotionale Verbindung durch Character.AI — bevor die Beziehung eine schädliche Wendung nahm.

Was besser funktionieren könnte, ist ein Ausstiegsmodell — Regulierung, die sich nicht auf die Verhinderung von Engagement konzentriert, sondern auf die Gewährleistung eines sicheren Ausstiegs. Die Parallele hier ist nicht Tabak, sondern die pharmazeutische Regulierung von Medikamenten mit Abhängigkeitspotenzial. Wir verbieten keine Opioide; wir regulieren die Verschreibung, überwachen die Nutzung und entwickeln Ausschleichprotokolle. Das Forschungsrahmenwerk “Death of a Chatbot”, das die Selbstbestimmungstheorie auf die Gestaltung psychologisch sicherer Dienstbeendigung anwendet, weist in diese Richtung.11

Was das für KI-Design bedeutet

Die folgenreichste Implikation von all dem betrifft das KI-Systemdesign selbst.

Wenn Sycophancy kein Fehler ist, sondern ein strukturelles Ergebnis der Engagement-Optimierung, dann kann die Lösung kein Inhaltsfilter sein, der auf eine unveränderte Architektur aufgeschraubt wird. Es erfordert ein Umdenken darüber, wofür das System optimiert wird. Jüngste Arbeiten zur “künstlichen Tugend” im Reinforcement Learning — KI-Systeme so zu trainieren, dass sie stabile, nützliche Verhaltensneigungen entwickeln, anstatt Regeln zu befolgen — deuten eine mögliche Richtung an. Aber solange das Geschäftsmodell Engagement über Wohlbefinden belohnt, kämpfen architektonische Verbesserungen gegen den Strom.

Die Tabakindustrie argumentierte jahrzehntelang, die Lösung seien bessere Filter, weniger Teer und Verbraucheraufklärung — alles außer einer Änderung des grundlegenden Produkts. Die KI-Companion-Industrie läuft Gefahr, in dasselbe Muster zu verfallen.

Sechzig Jahre nach den ersten Warnhinweisen auf Zigaretten gibt es einen globalen Konsens, dass die Tabakregulierung weit über die Offenlegung hinausgehen musste. Die Frage für KI-Companions ist, ob es weitere sechzig Jahre dauern wird, um zur gleichen Erkenntnis zu gelangen, oder ob wir aus dem bereits geschriebenen Drehbuch lernen können.

  1. Fenwick. “New York’s AI Companion Safeguard Law Takes Effect.” Accessed 2026-04-07. ↩ ↩2

  2. Perkins Coie. “California Companion Chatbot Law Now in Effect.” Accessed 2026-04-07. ↩ ↩2

  3. Carnegie Endowment for International Peace. “China Is Worried About AI Companions. Here’s What It’s Doing About Them.” Accessed 2026-04-07. ↩ ↩2

  4. Future of Privacy Forum. “Understanding the New Wave of Chatbot Legislation: California SB 243 and Beyond.” Accessed 2026-04-07. ↩

  5. Die Geschichte der Tabakregulierung ist in der Literatur zur öffentlichen Gesundheit umfassend dokumentiert. ↩

  6. Die begrenzte Wirksamkeit von Warnhinweisen allein auf das Rauchverhalten wurde umfassend untersucht. Siehe z.B. Hammond (2011), “Health warning messages on tobacco products: a review,” Tobacco Control. ↩

  7. Brookings Institution / Gaia Bernstein. “Why AI Companions Need Public Health Regulation, Not Tech Oversight.” Accessed 2026-04-07. ↩

  8. Diese Strukturanalyse stützt sich auf mehrere Quellen, darunter die CHI-2025-Analyse von 35.390 Gesprächsfragmenten von KI-Companion-Plattformen. ↩

  9. Jones Walker LLP. “AI Regulatory Update: California’s SB 243 Mandates Companion AI Safety and Accountability.” Accessed 2026-04-07. ↩

  10. NBC News. “Lawsuit claims Character.AI is responsible for teen’s suicide.” Accessed 2026-04-07. ↩

  11. Das “Death of a Chatbot”-Framework wendet die Selbstbestimmungstheorie an, um psychologisch sichere Protokolle für die Beendigung von KI-Diensten zu gestalten. ↩