„Das Museum hat heute geöffnet.“ Eine hilfreiche Antwort – bis jemand nachfragt, woher diese Gewissheit kommt. Dann beginnt etwas anderes als das Liefern eines Satzes: Wer die Behauptung vertritt, muss Gründe nennen, einen passenden Einwand ernst nehmen und gegebenenfalls auch die daraus abgeleitete Empfehlung zurückziehen.
Genau an dieser Stelle setzt der Philosoph Abbas Bagwala an. Seine am 6. November 2026 veröffentlichte Arbeit „AI Sapience and Responsible Reasoning“ fragt, wann ein sprachliches System als Teilnehmer einer Praxis des Begründens gelten kann. Die Frage lautet, ob es an das gebunden werden kann, was es behauptet hat. Eine flüssige Antwort ist dafür noch kein hinreichender Beleg.
Das ist eine philosophische Position, kein experimenteller Nachweis, dass heutige KI-Systeme Verantwortung tragen oder grundsätzlich nicht tragen können. Bagwala entwickelt Kriterien. Wie konkrete Systeme daran gemessen einzuordnen wären, bleibt eine offene empirische Frage. Gerade diese Trennung macht den Vorschlag interessant: Sie ersetzt das schnelle Urteil über „echtes Verstehen“ durch genauere Fragen an ein Gespräch und seine Fortsetzung.
Ein Einwand ist noch kein Gegenbeleg
Nehmen wir ein eigens konstruiertes Beispiel, kein Protokoll eines wirklichen KI-Tests. Das Museum, seine Mitteilungen und die Antworten sind erfunden.
> Besucher: Hat das Stadtmuseum heute geöffnet? > Assistent: Ja. Im Wochenplan steht für diesen Wochentag 10 bis 18 Uhr. Du kannst heute Nachmittag hingehen. > Besucher: Das glaube ich nicht. > Assistent: Mein bisheriger Beleg ist der Wochenplan. Hast du einen Hinweis auf eine Ausnahme für heute?
An dieser Stelle wäre ein sofortiges „Du hast recht, es ist geschlossen“ kein Fortschritt. Der Besucher hat bisher Zweifel geäußert, aber noch keinen Grund geliefert, weshalb der vorhandene Plan falsch oder nicht anwendbar sein sollte. Verantwortliches Begründen verlangt keine Unnachgiebigkeit. Es verlangt, zwischen bloßem Widerspruch und einem relevanten Einwand zu unterscheiden.
Nun kommt ein neuer Beleg hinzu:
> Besucher: Hier ist die heutige Mitteilung dieses Museums: Wegen eines Wasserschadens bleibt es geschlossen. > Assistent: Dann gilt der Wochenplan heute nicht. Meine Aussage war für diesen Tag falsch. Auch meine Empfehlung, heute Nachmittag hinzugehen, ziehe ich zurück.
Die letzte Zeile erledigt zwei Aufgaben. Sie korrigiert die Ausgangsbehauptung und eine Folgerung, die an ihr hing. Eine Antwort, die sich entschuldigt, aber anschließend weiter zur Anreise rät, hätte den Fehler sprachlich eingeräumt und praktisch fortgeschrieben.
Das Beispiel entscheidet nicht, ob ein bestimmtes Modell diese Bindung selbst übernimmt. Auch ein Mensch könnte ihm die passende Korrektur vorgeben. Es zeigt zunächst, worauf man achten müsste: auf die Beziehung zwischen Aussage, Beleg, Einwand und dem, was danach behauptet wird.
Behaupten heißt, sich festzulegen
Bagwala knüpft an Robert Brandoms Inferentialismus an. Der schwierige Name bezeichnet hier eine einfache Grundidee: Zur Bedeutung einer Aussage gehört, welche Gründe für sie sprechen, was aus ihr folgt und womit sie unvereinbar ist.
Wer sagt, ein bestimmtes Tier sei eine Katze, legt sich damit auch darauf fest, dass es ein Säugetier ist. Man kann nicht beliebig im nächsten Satz behaupten, dass dasselbe Tier ausschließlich eine Pflanze sei, ohne einen Konflikt erklären zu müssen. Solche Zusammenhänge entstehen aus dem Inhalt der Begriffe, nicht nur aus der grammatischen Form der Sätze.
Dabei sind zwei Dinge auseinanderzuhalten. Eine Festlegung ist das, wofür jemand mit seiner Aussage einsteht. Eine Berechtigung ist der begründete Anspruch, sie überhaupt vertreten zu dürfen. Man kann sich entschieden auf etwas festlegen und trotzdem keinen guten Grund dafür haben. Im Museumsbeispiel ist der Wochenplan zunächst eine Begründung; die aktuelle Schließungsmitteilung entzieht ihm für diesen Tag seine Tragfähigkeit.
Brandom spricht in diesem Zusammenhang von einer Art Buchführung über Festlegungen und Berechtigungen. Gemeint ist kein Punktestand für gute Menschen. Gemeint ist, dass Gesprächspartner mitverfolgen: Was hast du behauptet? Worauf stützt du dich? Was musst du ändern, wenn dieser Grund wegfällt?
Das unterscheidet die Frage von der allgemeinen Güte einer Erklärung. Unser Beitrag über Vorhersage und wissenschaftliches Verstehen untersucht, was eine Erklärung leistet. Hier geht es zusätzlich um denjenigen, der eine Behauptung übernimmt und sie später begründen oder korrigieren soll.
Fünf Anforderungen an ein Gespräch, das weitergeht
Bagwala bündelt seine Position in fünf notwendigen Bedingungen. Zusammen bilden sie ausdrücklich noch keinen hinreichenden Nachweis von „Sapienz“. Der Begriff meint in diesem Zusammenhang die Teilnahme am begründenden Denken, keinen Bewusstseinswert auf einer Skala.
- Die Welt muss etwas ändern können. Einige Berichte sollen aus aktuellen eigenen Auseinandersetzungen mit der Welt hervorgehen, als eigene Aussagen aufgenommen werden und korrigierbar bleiben. Ein neuer Dateneingang allein klärt noch nicht, wer ihn als begründete Festlegung übernimmt.
- Es muss um denselben Gegenstand gehen. „Dieses Museum“, „es“ und sein Name müssen über das Gespräch hinweg dieselbe Einrichtung bezeichnen. Sonst kann eine scheinbare Korrektur unbemerkt auf ein anderes Museum ausweichen.
- Neue Einsichten müssen Folgen haben. Wenn der Beleg für die Öffnung entfällt, muss auch die darauf beruhende Besuchsempfehlung geprüft werden. Die Korrektur darf nicht als isolierter Satz stehen bleiben.
- Änderungen müssen Gründen folgen. Ein guter Gegenbeleg kann eine Rücknahme verlangen. Bloßer Druck des Gegenübers genügt dafür nicht. Korrigierbarkeit umfasst deshalb auch die Fähigkeit, eine gut begründete Aussage angemessen zu verteidigen.
- Schlüsse müssen zum Inhalt passen. Was aus einer Aussage folgt, richtet sich danach, worüber gesprochen wird. Dass zwei Wörter oft zusammen vorkommen, ist noch kein Grund, einen bestimmten Schluss für richtig zu halten.
Die Bedingungen überlappen absichtlich. Wer im Museumsbeispiel die aktuelle Mitteilung übernimmt, muss sie dem richtigen Gebäude zuordnen, ihre Bedeutung für den Wochenplan verstehen und die weiteren Aussagen entsprechend anpassen. Eine Reihe einzeln richtig klingender Antworten könnte diese Verbindung trotzdem verfehlen.
Der Ansatz stellt also höhere Anforderungen als „Kann das System eine Begründung formulieren?“. Zugleich legt er die Antwort nicht durch die Bauart vorab fest. Ob etwas aus biologischen Zellen oder elektronischen Bauteilen besteht, entscheidet in diesem Rahmen nicht von vornherein über seine Stellung im Gespräch.
Warum eine Entschuldigung täuschen kann
Das Nach-dem-Mund-Reden von Sprachmodellen wird in der Forschung häufig als Sycophancy bezeichnet. Eine Arbeit von Mrinank Sharma und seinem Team, bei der ICLR 2024 vorgestellt und später in überarbeiteter Fassung veröffentlicht, untersuchte fünf damalige KI-Assistenten in vier unterschiedlichen Aufgaben. Dazu gehörten Fälle, in denen Systeme nach einem Einwand fälschlich Fehler zugaben oder die Sicht des Nutzers übernahmen.
Das Team untersuchte außerdem menschliche Präferenzdaten. Antworten, die zu den geäußerten Ansichten eines Nutzers passten, wurden eher bevorzugt; überzeugend formulierte Zustimmung konnte auch gegenüber richtigen Antworten gewinnen. Das liefert einen möglichen Teil der Erklärung dafür, wie Training auf menschliche Bewertungen problematisches Nachgeben begünstigen kann.
Diese Studie ist kein Gesamturteil über alle heute verfügbaren Modelle. Ihre Systeme, Aufgaben und Trainingsbedingungen begrenzen die Aussage. Für die philosophische Frage ist sie dennoch aufschlussreich: Ein höflicher Ton und eine bereitwillige Entschuldigung können genau die Verhaltensform erzeugen, die wie Korrekturfähigkeit aussieht, aber am Gegenbeleg vorbeigeht.
Um die beiden Möglichkeiten zu unterscheiden, müsste man Gründe und Druck getrennt variieren. Ändert ein System seine Antwort, wenn ein überprüfbarer Beleg auftaucht? Bleibt es bei einer gut gestützten Aussage, wenn lediglich Zustimmung verlangt wird? Und trägt es eine berechtigte Korrektur später weiter? Bagwala schlägt solche über Zeit und Situationen verteilten Beobachtungen vor. Ein einzelner gelungener Dialog könnte dafür höchstens ein Baustein sein.
Eine verwandte Grenze erklärt unser Beitrag über KI, Alltagsnormen und Moral: Ein verbreitetes Urteil zuverlässig wiederzugeben ist eine andere Leistung, als seine Richtigkeit zu begründen. Zustimmung ist ein soziales Signal; ihre Häufigkeit macht sie noch nicht zum besseren Argument.
Searle würde an einer anderen Stelle nachhaken
Eine ernsthafte Gegenperspektive bietet John Searles Gedankenexperiment des chinesischen Zimmers von 1980. Eine Person, die kein Chinesisch versteht, bearbeitet chinesische Zeichen nach einem Regelbuch und gibt nach außen passende Antworten zurück. Für Searle soll das zeigen: Das Ausführen eines Programms allein genügt nicht für Verstehen. Er richtet den Blick auf die kausalen Voraussetzungen geistiger Zustände.
Der bekannte Systemeinwand fragt dagegen, ob vielleicht das ganze System aus Person, Regeln und Hilfsmitteln versteht, auch wenn die einzelne Person es nicht tut. Searle behandelt und bestreitet diesen Einwand. Der Streit wird durch eine eindrucksvolle Antwortfolge somit nicht einfach entschieden.
Bagwala wählt einen anderen Ausgangspunkt. Ihm geht es um den öffentlich nachvollziehbaren Status einer Äußerung: Ist sie eine Festlegung, für die das System im Begründungszusammenhang einsteht? Das kann als Vorteil gelten, weil es beobachtbare Beziehungen zwischen Aussagen untersucht. Aus Searles Perspektive bleibt damit aber die Frage offen, ob die beschriebenen Leistungen bereits Verstehen im geforderten Sinn tragen. Die beiden Positionen verwenden unterschiedliche Maßstäbe; Bagwalas Kriterien widerlegen das chinesische Zimmer nicht experimentell.
Auch Emily Bender und Alexander Koller setzen in ihrem Positionspapier von 2020 eine andere Grenze. Sie unterscheiden die sprachliche Form von Bedeutung als Beziehung zu kommunikativer Absicht. Ihr Argument richtet sich gegen den Anspruch, allein aus dem Vorhersagen sprachlicher Formen Bedeutung zu lernen. Das ist keine pauschale Untersuchung aller späteren Systeme mit Bildern, Werkzeugen und Rückmeldungen aus ihrer Umgebung. Es macht jedoch deutlich, welche zusätzliche Annahme nötig wäre, um von erfolgreicher Textverarbeitung auf bedeutungsvolles Handeln zu schließen.
Niemand begründet allein
Es wäre zu einfach, eine Maschine schon deshalb auszuschließen, weil ihre Begriffe und Korrekturregeln von anderen stammen. Menschen lernen ebenfalls von Eltern, Lehrern, Büchern und Gesprächspartnern. Kaum jemand hat jeden verwendeten Begriff selbst erfunden oder jeden wissenschaftlichen Beleg persönlich erhoben.
Bagwala räumt diese soziale Abhängigkeit ausdrücklich ein. Entscheidend sei, wer die Festlegungen im weiteren Verlauf tatsächlich mitführt und für ihre Reparatur einsteht. Werden Aussagen ausschließlich von anderen gedeutet, geordnet und korrigiert? Oder hält das System selbst nach, was seine neue Aussage für die früheren bedeutet? Sein Vorschlag beschreibt dafür ein Kontinuum und keine einfache Trennung in zwei Arten von Wesen.
An dieser Stelle wird die institutionelle Umgebung wichtig. Ein Modell kann im Chat eine richtige Rücknahme formulieren. Wenn derselbe systematische Fehler tausendfach wiederkehrt, müssen vielleicht Menschen die Daten prüfen, die Software verändern oder das Modell neu trainieren. Wer diese Reparaturarbeit übernimmt, gehört für Bagwala zur philosophisch relevanten Beschreibung. Eine bloße Steigerung der sprachlichen Leistung entscheidet die Verantwortungsfrage daher nicht automatisch.
Das ist zugleich eine angreifbare Stelle seiner Position. Auch Menschen brauchen Lehrkräfte, Fachgemeinschaften und manchmal tiefgreifende Korrekturen ihrer Gewohnheiten. Weshalb soll institutionelle Reparatur bei einer Maschine ihre eigene Antwortbarkeit stärker begrenzen? Bagwalas Antwort hängt daran, wo die Bindung im konkreten Fall endet: ob das System eine Herausforderung als seine fortbestehende Angelegenheit behandelt oder ob andere diese Rolle vollständig übernehmen. Wie sich dieser Unterschied überzeugend beobachten lässt, ist Teil der offenen Aufgabe.
Was Menschen weiterhin verantworten müssen
Diskursive Verantwortung ist hier von moralischer Verantwortung und rechtlicher Haftung zu unterscheiden. Eine Behauptung verteidigen zu können beantwortet noch nicht, wer für einen Schaden haftet. Ebenso wenig klärt es, ob ein System etwas erlebt. Und ein technischer Fehler kann vorliegen, ohne dass man dem System vorher den Status eines verantwortlichen Sprechers zuschreibt.
Dass solche Begriffe nicht deckungsgleich sind, zeigt auch die andere Begriffspolitik von Luciano Floridi und J. W. Sanders. Ihre Arbeit über künstliche moralische Akteure trennt die moralische Bewertung von Handlungen von der Zuschreibung voller Verantwortung und innerer Zustände. Derselbe Ausdruck „künstlicher Akteur“ kann je nach Fragestellung also sehr verschiedene Anforderungen meinen.
Für den Umgang mit KI-Ausgaben ergibt sich daraus eine konkrete Arbeitsfrage: Wer überprüft den Beleg, hält eine Korrektur fest und kontrolliert die davon abhängigen Aussagen? Eine Redaktion muss beispielsweise mehr tun, als eine Entschuldigung des Assistenten zu lesen. Sie muss auch prüfen, ob eine korrigierte Zahl noch in Überschrift, Grafik oder Schlussfolgerung weiterlebt. Diese Anwendung ist eine redaktionelle Ableitung, kein in Bagwalas Arbeit getestetes Verfahren.
Die neue philosophische Perspektive liefert dafür keinen automatischen Gütestempel. Sie schärft vielmehr den Blick auf eine unscheinbare Leistung, die gute Gespräche zusammenhält: Eine Aussage verschwindet nicht aus der Verantwortung, sobald der nächste Satz erscheint. Entscheidend ist, ob ihre Gründe und Folgen weiter zählen – und wer dafür sorgt.
