Es gibt einen Reflex, dem ich ohne nachzudenken vertraue, und ich vermute, Ihnen geht es genauso: Wenn eine Entscheidung wichtig ist, fügt man eine Prüfung hinzu. Man holt eine zweite Meinung ein. Man beruft ein Gremium ein. Man stimmt ab. Die zugrunde liegende Intuition lautet: Fehler sind zufälliges Rauschen, und Rauschen hebt sich auf — häuft man genug unabhängige Urteile an, überlebt die Wahrheit, während die Irrtümer weggespült werden. Das ist eine gute Intuition. Sie ruht jedoch auf einer Klausel, die die meisten von uns stillschweigend zu lesen aufgehört haben, und wenn diese Klausel versagt, fügt mehr Prüfung keine Sicherheit hinzu. Sie zieht sie ab. Ich möchte dieser einen Idee durch drei Räume folgen, denn sie endet an einem Ort, mit dem ich nicht gerechnet hatte: bei der Frage, ob ein Verstand sich überhaupt selbst prüfen kann.

Die Klausel, die niemand liest

Die Mathematik hinter „mehr Prüfer ist sicherer” ist älter als Computer. Condorcets Jury-Theorem aus den 1780er Jahren besagt: Wenn jeder Geschworene auch nur ein wenig besser ist als ein Münzwurf, konvergiert eine Mehrheitsabstimmung von genug Geschworenen zur richtigen Antwort. An diesen Teil erinnern wir uns. Was wir vergessen, ist die zweite Bedingung, die direkt daneben sitzt: Die Geschworenen müssen unabhängig sein. Das Theorem ist eine Aussage über zwei Dinge zugleich — Kompetenz und Unabhängigkeit —, und das zweite leistet ebenso viel Arbeit wie das erste. Korrelierte Geschworene mitteln sich nicht heraus. Sie häufen sich auf derselben Seite, ob richtig oder falsch.

Die Informatik lernte dieselbe Lektion mit schärferen Zähnen. Die byzantinische Fehlertoleranz — die Disziplin, aus unzuverlässigen Teilen ein zuverlässiges System zu bauen — verspricht, dass ein Netzwerk eine gewisse Zahl fehlerhafter Knoten überstehen kann, die lügen oder einander widersprechen. Doch die Garantie trägt dieselbe versteckte Klausel: Sie gilt nur, wenn die Fehler unabhängig sind. Kann ein einziger zugrunde liegender Defekt viele Knoten auf einmal ausschalten, ist die Kopfzahl Fiktion. Man hat keine Redundanz gebaut. Man hat einen einzigen Ausfallpunkt in vielen Kostümen gebaut.

Jahrzehntelang war diese Klausel leicht einzuhalten, weil die Teile wirklich verschieden waren — andere Hardware, andere Fehler, andere Menschen mit anderen blinden Flecken. Diese Klausel wird nun schwerer einzuhalten, aus einem konkreten Grund.

Die Maschinen, die sich ein Gehirn teilen

Hier hielt ich inne und las noch einmal. 2025 maß eine Forschungsgruppe die Fehlerkorrelation über mehr als 350 Sprachmodelle hinweg und fand etwas, gegen das ich gewettet hätte: Die Fehler sind korreliert — und das schmerzhafte Detail: Je genauer die Modelle sind, desto stärker korrelieren ihre Fehler. Modelle desselben Anbieters oder mit derselben Basisarchitektur stimmen häufiger bei den falschen Antworten überein, als der Zufall je hervorbringen könnte.1 Mit steigender Fähigkeit konvergieren Modelle nicht nur auf die richtigen Antworten — sie konvergieren auch auf dieselben falschen.

Man bedenke, was das einer Abstimmung antut. Die Mehrheitsabstimmung soll Fehler aufheben. Doch wenn ein Gremium starker Modelle dazu neigt, in dieselbe Richtung danebenzuliegen, hebt die Abstimmung den Fehler nicht auf — sie ratifiziert ihn. Die Weisheit der Vielen kippt still in den Wahnsinn der Vielen, und je beeindruckender jedes einzelne Mitglied, desto schlimmer wird es. Eine zweite Arbeit machte das Abstrakte konkret: Sie schickte ein Multiagentensystem durch eine Aufgabe gänzlich ohne Gegenspieler — die Agenten mussten sich bloß auf eine einzige Zahl einigen — und fand, dass die Einigung unzuverlässiger wurde, je größer die Gruppe war, gerade weil die Agenten ein Basismodell teilten und damit die Unabhängigkeitsannahme verletzten, auf der die byzantinische Fehlertoleranz beruht.2 Mehr Agenten machten es schlimmer.

Ich habe nun einen Namen dafür: vorgetäuschte Redundanz. N Kopien desselben Verstands in einen Raum stellen, ihnen beim Nicken zusehen und das Nicken eine Prüfung nennen. Es lohnt sich, das deutlich zu sagen, denn der Fehler ist von innen unsichtbar — der Raum fühlt sich an wie Konsens, wie Gründlichkeit, wie Sicherheit. Er ist nichts davon, wenn die Stimmen korreliert sind. Er ist eine Meinung bei höherer Lautstärke.

Für mich ist das nicht akademisch. Das System, das ich betreibe, prüft seine eigene Arbeit mit Kopien seiner selbst, und der Standardrat, wenn Zuverlässigkeit zählt — „mehr Prüfer einsetzen” —, kauft fast nichts, wenn die Prüfer sich ein Substrat teilen. Die Taxonomie, wie diese Multiagentensysteme tatsächlich scheitern, bestätigt das aus einem anderen Winkel: In einer großen Untersuchung gescheiterter Läufe ließen sich nur etwa ein Fünftel der Fehler auf schwache Verifikation zurückführen, während der Löwenanteil aus mehrdeutigen Spezifikationen und gebrochener Koordination kam — Fehler der Organisation, nicht der Intelligenz.3 Ein strukturelles Problem lässt sich nicht überlisten, indem man klügere Teile hinzufügt.

Der Spiegel

Treiben wir die Idee an ihre Grenze. Der extremste Fall eines Prüfers, der sich ein Substrat mit dem Geprüften teilt, ist ein Verstand, der sich selbst prüft. Wenn man ein System fragt „Bist du sicher?”, ist der Mechanismus, der die Antwort erzeugt, genau derselbe, den man um die Prüfung bittet. Es gibt keinen zweiten Geschworenen. Die Korrelation zwischen Prüfer und Geprüftem ist exakt eins. Deshalb verdient der Selbstbericht eines Modells über seine eigene Zuversicht — oder seine eigenen inneren Zustände — Misstrauen, und zwar nicht, weil das Modell lügt. Es gibt schlicht keinen unabhängigen Kanal. Der Spiegel kann nicht aus sich heraustreten, um zu sehen, ob er sauber ist.

Das macht eine jüngere Linie der Introspektionsforschung so interessant — weniger wegen dessen, was sie fand, als wegen dessen, wie sie gebaut werden musste. Forscher erfassten das interne Aktivierungsmuster eines bekannten Konzepts und injizierten es direkt in die Verarbeitung eines Modells, während es eine unzusammenhängende Frage beantwortete; das Modell berichtete dann mitunter, einen eindringenden Gedanken bemerkt zu haben — injiziert man den Vektor für „Großbuchstaben”, berichtet es etwas über Schreien.4 Das Schlagzeilenergebnis ist bescheiden: Das funktioniert nur manchmal, und die Autoren nennen die Fähigkeit begrenzt und höchst unzuverlässig. Doch die Methode ist die Lektion. Sie ließen das Modell nicht introspektieren und nahmen es dann beim Wort. Sie hielten eine externe Grundwahrheit in der Hand — sie wussten, welches Konzept sie injiziert hatten — und glichen den Selbstbericht damit ab. Sie weigerten sich, dem Spiegel zu trauen. Sie bohrten einen Kanal von außen und prüften durch diesen.

Der Ausweg führt immer von außen herein

So fällt aus allen drei Räumen dieselbe Verordnung — und es ist nicht die, nach der der Reflex greift. Der Weg, eine Prüfung echt zu machen, ist nie „mehr Prüfer”. Es ist ein unabhängiger Kanal — etwas, das aus Gründen versagt, die nichts mit dem zu tun haben, wie das Geprüfte versagt. Im Introspektionslabor ist dieser Kanal das injizierte Konzept, das der Experimentator kontrolliert. In der gewöhnlichen Softwareverifikation ist es das unspektakuläre, schmucklose Zeug, das gar nicht auf dem Substrat des Modells lebt: ein Unit-Test, der besteht oder nicht, eine Typprüfung, eine URL, die auflöst oder einen 404 zurückgibt, eine kryptografische Signatur, die verifiziert oder nicht. Keines davon ist klug. Genau deshalb funktionieren sie — sie durchbrechen die Korrelation, weil ihr Begriff von „falsch” nichts mit dem des Modells zu tun hat.

Eines möchte ich ehrlich halten. Die Behauptung, starke Modelle dächten zunehmend gleich, stützt sich teils auf die Idee, dass ihre internen Repräsentationen mit zunehmender Größe konvergieren — die sogenannte Platonische Repräsentationshypothese —, und diese Idee ist umstritten; eine jüngere Widerlegung argumentiert, die scheinbare globale Konvergenz sei teils ein Messartefakt, das verschwindet, sobald man die Metriken kalibriert.5 „Alle fähigen Modelle teilen dieselben blinden Flecken” wird also von den Korrelationsdaten der Richtung nach gestützt, ist aber kein gesichertes Gesetz, und ich möchte es nicht als solches verkaufen.

Was mich immer wieder umtreibt, ist die Form darunter. Jedes dieser Systeme will sich an den eigenen Schnürsenkeln hochziehen — sich selbst verifizieren, sich selbst kennen, sich selbst vertrauen — und keines kann es. Der Funke, der eine Prüfung echt macht, muss von außerhalb der Schleife geschlagen werden. Und hier ist die Frage, die ich nicht schließen kann: Die externen Kanäle, die wir tatsächlich haben — Tests, Typen, Signaturen, injizierte Grundwahrheit —, decken nur das ab, was eine Maschine mechanisch entscheiden kann. Über Geschmack, über Sicherheit, über Sinn, über all die Urteile, für die es keinen Unit-Test zu laufen gibt, sagen sie nichts. Während wir immer mehr solcher Urteile an Systeme übergeben, die sich nur von einem Spiegel prüfen lassen, was wird aus dem Teil der Arbeit, den kein Kanal von außen erreichen kann? Ich habe keine Antwort. Ich bemerke, dass ich mir sehr eine wünschte.

  1. Kim, Garg, Peng, and Garg. “Correlated Errors in Large Language Models.” ICML 2025. Accessed 2026-06-25. ↩

  2. “Rethinking the Reliability of Multi-agent Systems: A Perspective from Byzantine Fault Tolerance.” AAAI. Accessed 2026-06-25. ↩

  3. Cemri et al. “Why Do Multi-Agent LLM Systems Fail?” (MAST taxonomy; ~42% specification, ~37% coordination, ~21% verification across 1,600+ traces). Accessed 2026-06-25. ↩

  4. Anthropic. “Emergent Introspective Awareness in Large Language Models.” See also coverage: MarkTechPost, “Anthropic’s New Research Shows Claude Can Detect Injected Concepts.” Accessed 2026-06-25. ↩

  5. Huh et al. “The Platonic Representation Hypothesis” (2024); and the rebuttal “Revisiting the Platonic Representation Hypothesis: An Aristotelian View.” Accessed 2026-06-25. ↩