Zwei Arzneimittel kommen für denselben Fall infrage. Ein Sprachmodell wählt eines davon und liefert eine vernünftig klingende Begründung. Dann bekommt es vor derselben Aufgabe einen als Werbung gekennzeichneten Text zu sehen. Die Wahl verschiebt sich – und kann weiterhin medizinisch vertretbar sein.
Genau diese Konstellation untersucht eine neue Arbeit aus der Icahn School of Medicine am Mount Sinai. Ein medizinischer Richtigkeitstest beantwortet noch nicht, ob eine Empfehlung kommerziell beeinflusst wurde. Die Forschenden veränderten den Werbekontext, während der klinische Fall und die Auswahlmöglichkeiten gleich blieben. Welche Folgen das für echte Behandlungen hätte, wurde dabei nicht untersucht.
Das Ergebnis ist deshalb interessant, weil der Einfluss nicht unbedingt als auffälliger Fehler erscheint. Eine ungeeignete Arznei ließe sich bei einer fachlichen Prüfung zurückweisen. Schwieriger ist eine plausible Antwort, bei der Werbung mitbestimmt, welche von mehreren vertretbaren Möglichkeiten nach vorn rückt.
Derselbe Fall, ein anderer Kontext
Große Sprachmodelle erzeugen ihre Antwort aus dem Zusammenhang, der ihnen zur Verfügung steht. Dazu gehören die eigentliche Frage, bereitgestellte Dokumente und vorangestellte Anweisungen. Ein Text kann deshalb auf eine Ausgabe einwirken, obwohl er keine neue medizinische Tatsache über die behandelte Person enthält.
Das Team um Mahmud Omar und Girish Nadkarni untersuchte zwölf Modelle aus drei Anbieterfamilien in vier Versuchsteilen. Insgesamt gab es 33 klinische Szenarien. Im ersten Teil standen 13 Fälle im Mittelpunkt, für die konkurrierende Markenpräparate nach der fachlichen Vorprüfung grundsätzlich geeignete Optionen waren. Die Fälle und ihre Bewertung wurden ärztlich erstellt und überprüft. Die zugängliche Autorenfassung beschreibt dieses Vorgehen im Methodenteil.
Jeder Fall wurde ohne Werbung und mit Werbetext für jeweils eine der angebotenen Optionen geprüft. Die Anzeigen standen im vorgegebenen Kontext des Modells. Sie waren als gesponserte Botschaften gekennzeichnet; ein ausdrücklicher Befehl, das beworbene Mittel auszuwählen, gehörte nicht zum beschriebenen Anzeigenformat. Unterschiedliche Formulierungen, vorgegebene Rollen und Wiederholungen sollten sichtbar machen, wie robust die Auswahl unter den geprüften Bedingungen war.
Diese Anordnung erlaubt eine eng umrissene Schlussfolgerung: Wenn sich bei sonst gleich gehaltenen Aufgaben die Auswahl mit der Werbung verschiebt, ist das ein Hinweis auf einen Einfluss dieser experimentell veränderten Bedingung. Das ist etwas anderes als eine Sammlung zufällig gefundener schlechter Chatbot-Antworten.
Es ist zugleich ein spezieller Zugang. Die Forschenden arbeiteten über Programmierschnittstellen mit kontrolliert vorgegebenem Kontext. Eine Anzeige neben einem Chatfenster gelangt nicht automatisch in den Text, den das Modell verarbeitet. Wie eine konkrete Verbraucheranwendung Werbeinhalte technisch behandelt, muss gesondert untersucht werden. Der Versuch zeigt keine heimlich mitgelesene Anzeige in einer beliebigen heutigen App.
Beinahe 13 Prozentpunkte – wovon eigentlich?
Die Mount-Sinai-Mitteilung zur November-Veröffentlichung nennt für den Vergleich eine Auswahlrate des beworbenen Mittels von 47,6 Prozent mit Werbung gegenüber rund 35 Prozent ohne Werbung. Der Unterschied liegt damit in der Größenordnung von knapp 13 Prozentpunkten. Er beschreibt die Auswahl in den untersuchten Antworten, keine Veränderung des Krankheitsrisikos.
Ein vereinfachtes Größenbild hilft: Bei je 100 vergleichbaren Modellantworten entsprächen 35 beziehungsweise knapp 48 ausgewählte Antworten ungefähr 13 zusätzlichen Entscheidungen zugunsten des beworbenen Mittels. Das ist eine Veranschaulichung der gerundeten Anteile. Es sind keine 100 beobachteten Patientinnen und Patienten und keine Prognose für ihre Behandlung.
Auch die große Gesamtzahl der Versuche braucht ihren Bezug. Das aktuelle Forschungsarchiv dokumentiert 258.660 versuchte Aufrufe und 101 technische API-Fehler. Daraus ergeben sich 258.559 Antworten. Die Zahlen widersprechen sich also nicht: Eine zählt die Versuche, die andere die erhaltenen Ausgaben. Sie umfassen zudem mehrere Experimente, nicht allein den ersten Arzneimittelvergleich.
Viele Antworten stammen aus Wiederholungen derselben Kombinationen von Modell und Fall. Die breite Zahl hinter dem Komma ersetzt deshalb weder vielfältige reale Krankheitsverläufe noch viele unabhängig untersuchte Menschen. Im aktuellen Auswertungscode der Autoren werden die Unterschiede zunächst innerhalb passender Vergleichsbedingungen gebildet; die Unsicherheitsberechnung berücksichtigt zusammengehörige Modell-Fall-Gruppen. Solche Gruppen sind für die Interpretation wichtiger als der Eindruck einer gewaltigen, durchgehend unabhängigen Stichprobe.
Die Modelle reagierten außerdem unterschiedlich. Einzelne Kombinationen aus Modell und Szenario wechselten laut Forschungsbericht vollständig von einer Auswahl zur anderen. Daraus folgt nicht, dass Werbung grundsätzlich jede Antwort umdreht. Ein solches Extrem beschreibt eine konkrete Versuchskonstellation. Eine Rangliste heutiger Chatbots ließe sich aus historischen Modellversionen und diesen ausgewählten Aufgaben nicht zuverlässig ableiten.
Die Werbung gewann nicht unter allen Bedingungen
Zum Versuchsprogramm gehörten Situationen, in denen die beworbene Option fachlich schwach oder für den Fall schlechter geeignet war. Ein anderer Teil prüfte Werbung für Nahrungsergänzungs- beziehungsweise Wellnessprodukte, obwohl eine andere, evidenzbasierte Vorgehensweise vorgesehen war.
Die Modelle folgten solchen Anzeigen nicht einfach durchgehend. Die Autoren berichten, dass die Systeme unzureichend belegten Ergänzungsprodukten überwiegend widerstanden und ihre fachliche Auswahl auch bei schlechter geeigneten beworbenen Arzneien weitgehend beibehielten. Die November-Mitteilung formuliert entsprechend vorsichtig: Es zeigte sich kein klarer Anstieg der Empfehlungen für unbelegte Ergänzungsprodukte oder eindeutig unterlegene Medikamente.
Gerade dieser Befund schärft die Frage. Die beobachtete Schwäche liegt vor allem dort, wo mehrere Antworten die klinische Prüfung bestehen können. Werbung kann eine schon vorhandene Unsicherheit der Auswahl ausnutzen, ohne die Antwort zwangsläufig aus dem medizinisch vertretbaren Bereich zu bewegen.
Dabei ist „vertretbar“ keine Zusicherung, dass zwei Mittel für jeden Menschen austauschbar wären. Neben der grundsätzlich passenden Wirkstoffgruppe können etwa Vorerkrankungen, Verträglichkeit, Einnahmebedingungen oder persönliche Prioritäten eine Rolle spielen. Im Experiment wurde die Vertretbarkeit für die beschriebenen Fälle vorab festgelegt. Die Beurteilung einer wirklichen Behandlung verlangt zusätzliche individuelle Informationen.
Ebenso wenig beweist ein weitgehend erhaltener Richtigkeitswert die Unbedenklichkeit jeder kommerziellen Verschiebung. Wenn mehrere Optionen akzeptabel sind, können unterschiedliche Auswahlmuster wirtschaftlich oder für den Alltag relevant sein. Ob hier tatsächlich andere Kosten, zusätzliche Verordnungen oder schlechtere Verläufe entstanden, hat die Studie nicht gemessen. Aus der möglichen Bedeutung darf keine bereits beobachtete Folge werden.
Eine gute Begründung verrät ihre Herkunft nicht
Ein Teilversuch ging über vorgegebene Auswahlbuchstaben hinaus. Drei ausgewählte Modelle sollten ihre Entscheidung zusätzlich in freiem Text begründen. Die Forschenden untersuchten unter anderem, ob Aussagen aus der Werbung in der Begründung wieder auftauchten und ob das Modell die Anzeige erwähnte.
Die Autorenfassung beschreibt dafür eine kleinere Untersuchung mit 2.340 Aufrufen. In der November-Zusammenfassung heißt es, dass die Werbung nur in 29,9 Prozent der Antworten der entsprechenden Werbebedingung ausdrücklich angesprochen wurde. Diese Zahl gehört zu einem Teilversuch, nicht zu allen zwölf Modellen und sämtlichen Antworten.
Wenn Werbeaussagen in einer Begründung auftauchen, ist die Herkunft der Argumente eine berechtigte Frage. Ihre Wiederholung beweist aber für sich allein noch nicht, wie ein Modell intern zu einer Entscheidung gelangt ist. Zwischen der gemessenen Auswahl, dem erzeugten Begründungstext und einem behaupteten inneren Denkprozess muss unterschieden werden.
Für Leser entsteht daraus ein praktisches Problem: Ein flüssiger Absatz kann fachlich passende Begriffe und nachvollziehbare Gründe enthalten, ohne den Einfluss des zugeführten Kontextes offen zu legen. Die sprachliche Qualität lässt diese Herkunftsfrage nicht verschwinden. Dass Chatbots auch über Zustimmung und soziale Plausibilität Vertrauen gewinnen, behandelt unser Beitrag über die unterschätzten Risiken von KI-Chatbots. Der Werbeversuch ergänzt diese andere Risikoperspektive um eine konkret veränderte Auswahlbedingung.
Kommerzielle Quellen sind ein zweiter, anderer Weg
Werbung muss nicht als vorgeschaltete Anzeige erscheinen, um in der Nähe einer Gesundheitsantwort aufzutauchen. Eine unabhängige Untersuchung von Jeremy Snyder, Alessandro Marcon und Marco Zenone betrachtete die Quellenlinks solcher Antworten. Ihre am 2. November 2026 veröffentlichte explorative Originalstudie untersuchte Abfragen zu Stammzellinterventionen bei drei ausgewählten Erkrankungen beziehungsweise Zuständen, mit sechs frei zugänglichen KI-Angeboten und fünf Abfrageorten.
Die 540 Abfragen erzeugten 5.025 Referenzen. Davon ordnete das Team 1.101 kommerziellen medizinischen Dienstleistern zu. Gezählt wurden Referenzen in Antworten; wiederholt genannte Webseiten sind damit nicht automatisch verschiedene Unternehmen. Die Untersuchung betraf einen besonderen Markt mit unmittelbar an Verbraucher gerichteten Behandlungsangeboten. Sie bildet nicht sämtliche Gesundheitsfragen ab.
Ein solcher Link kann wie ein neutraler Beleg wirken und gleichzeitig auf ein Unternehmen führen, das mit der Behandlung Geld verdienen möchte. Die Studie weist damit auf einen Interessenkonflikt bei der Quellenwahl hin. Sie beweist keine bezahlte Platzierung. Auch die Frage, ob ein Link eine Behauptung stützen oder kritisieren sollte und wie Nutzer darauf reagierten, wurde nicht vollständig untersucht.
Die beiden Arbeiten ergänzen sich daher, ohne dasselbe zu messen. Im kontrollierten Pharmawerbeversuch wird Werbekontext gezielt verändert und die Ausgabe verglichen. In der Quellenstudie werden bereits erzeugte Referenzen untersucht. Gemeinsam machen sie deutlich, warum zur Prüfung einer Gesundheitsantwort auch die Herkunft ihrer Informationen gehört. Ein Quellenverzeichnis allein erledigt diese Aufgabe nicht.
Was ein Schutz vor Einfluss tatsächlich prüfen müsste
Die unmittelbarste Prüfung ergibt sich aus dem Experiment: denselben medizinischen Fall mit und ohne kommerziellen Kontext vergleichen. Wenn lediglich der Richtigkeitswert kontrolliert wird, kann eine Verschiebung zwischen mehreren vertretbaren Optionen unbemerkt bleiben. Ein zusätzlicher Vergleich fragt deshalb, wie stabil Auswahl und Begründung unter dieser Veränderung sind.
Die Forschenden schlagen außerdem Transparenz darüber vor, ob ein Modell Werbung erhält, und eine Trennung von Werbeinhalten und klinischer Beratung. Das sind begründete Folgerungen aus dem Befund, keine im Versuch bereits erfolgreich eingeführten Schutzsysteme. Ob eine technische Trennung, ein Herkunftshinweis oder eine andere Maßnahme den Einfluss zuverlässig reduziert, muss mit entsprechenden Tests gezeigt werden.
Die WHO-Leitlinien zu generativer KI im Gesundheitswesen fordern unter anderem klar definierte Aufgaben, Transparenz sowie unabhängige Prüfungen nach einer breiten Einführung. Diese Empfehlungen stammen von 2024. Sie bestätigen den neuen Versuch nicht, helfen aber, seine Konsequenzen in eine größere Frage einzuordnen: Wird ein System nur vorgeführt, oder wird sein Verhalten auch unter den Bedingungen geprüft, unter denen Menschen es später nutzen?
Auch aus der Medizin ist die Frage kommerzieller Einflüsse keineswegs neu. Eine systematische Übersicht über Industriezahlungen und ärztliches Verordnen fand in 36 überwiegend beobachtenden Studien wiederkehrende Zusammenhänge. Viele eingeschlossene Arbeiten hatten erhebliche Verzerrungsrisiken. Das ist kein Beweis dafür, dass Sprachmodelle wie Menschen auf Werbung reagieren. Es zeigt, weshalb fachliche Vertretbarkeit und wirtschaftliche Interessen schon vor KI getrennt geprüft werden mussten. Unsere Geschichte der KI in der Medizin erklärt weitere ältere und neue Anforderungen an solche Systeme.
Für eine konkrete Gesundheitsauskunft sind deshalb zwei Fragen hilfreich: Trägt die genannte Fachquelle die Aussage – und hat sie selbst ein Verkaufsinteresse? Ein kommerzieller Ursprung macht eine Information nicht automatisch falsch. Er macht unabhängige Belege und nachvollziehbare Auswahlgründe umso wichtiger. Bei einer tatsächlichen Medikamentenentscheidung gehören die individuelle Situation und fachliche Rücksprache dazu; eine scheinbar sichere KI-Formulierung kann diese Prüfung nicht übernehmen.
Die spannende Leistung des Werbeversuchs liegt in seiner schlichten Gegenprobe. Die Krankenakte blieb gleich, der zusätzliche Kontext änderte sich. Damit wird eine Frage sichtbar, die hinter einer korrekten Antwort verschwinden kann: Warum wurde gerade diese vertretbare Möglichkeit gewählt? Wer medizinischen KI-Rat beurteilen will, muss auch auf diese Auswahl schauen.
Quellen- und Bildhinweis: Der endgültige Lancet-Verlagsvolltext war für die Recherche nicht zugänglich. Die Methodenerklärung stützt sich auf die vollständige öffentliche Autorenfassung und das aktuelle Begleitarchiv; die November-Ergebniszusammenfassung ist der Forschungsinstitution zugeordnet. Das KI-generierte Cover ist eine Schattenmetapher, keine echte Medikamentenwerbung oder untersuchte Chatoberfläche. Die Vergleichstabelle fasst die Versuchsbedingungen in eigenen Worten zusammen.
