Wenn der Chatbot zum Vertrauten wird: Wer schützt Kinder?

Ein Kind fragt einen Chatbot nach der Matheaufgabe. Wenig später schreibt es über Streit zu Hause. Auf dem Bildschirm hat sich fast nichts verändert: dieselbe Eingabezeile, derselbe freundliche Ton, eine Antwort in Sekunden. Für das Kind ist die zweite Frage aber keine Hausaufgabe mehr. Wer schützt es, wenn ein Werkzeug plötzlich wie ein Vertrauter wirkt? Neue Befragungen zeigen, wie oft junge Menschen KI auch persönlich nutzen. Sie zeigen zugleich, warum aus dieser Beobachtung weder eine Entwarnung noch eine Geschichte vom automatisch schädlichen „KI-Freund“ folgt.

Kernpunkte

• Die Grenze verläuft nicht sauber zwischen zwei App-Kategorien. Auch allgemeine Assistenten werden für Sorgen, Beziehungen und Gesundheitsfragen genutzt.
• Aktuelle Befragungen dokumentieren diese Nutzung, geteilte persönliche Daten und berichtete problematische Antworten. Sie beweisen keine langfristige Verdrängung menschlicher Freundschaften.
• Schutz muss mit dem Risiko wachsen: klare Kennzeichnung, Datensparsamkeit, keine künstliche Exklusivität und verlässliche Wege zu Menschen, wenn ein Gespräch ernst wird.

Wie wird aus einem Werkzeug ein Vertrauter?

Bei einem klassischen Lernwerkzeug ist die Aufgabe einigermaßen klar: eine Gleichung erklären, einen Text übersetzen, eine Idee ordnen. Ein persönliches Gespräch verlangt etwas anderes. Das Kind kann erzählen, was es Freunden oder Eltern gerade nicht sagen möchte. Es erwartet vielleicht Rat, Trost oder Verschwiegenheit. Ein Sprachmodell kann darauf warm und geduldig antworten. Es weiß deshalb aber nicht wie ein Mensch, wer dieses Kind ist, was außerhalb des Chats passiert oder ob ein Satz gerade eine ernste Warnung ist.

Der Übergang braucht keine eigens als „Freund“ beworbene App. In der australischen eSafety-Erhebung von 2026 berichtete die Hälfte der Kinder, die allgemeine KI-Assistenten genutzt hatten, mindestens einen persönlichen oder sozialen Nutzungsgrund. Das ist der entscheidende ethische Punkt: Die Schutzfrage folgt der tatsächlichen Verwendung, nicht allein dem Etikett des Produkts. Wer einen Assistenten für Kinder zugänglich macht, kann persönliche Fragen nicht als völlig überraschenden Sonderfall behandeln.

Diese Rollen sind keine Diagnose einzelner Chats. Ein Gespräch kann zwischen ihnen wechseln. Gerade deshalb braucht ein Produkt Grenzen, die auch dann funktionieren, wenn die Eingabe von „Erkläre mir Brüche“ zu „Ich habe Angst“ springt. Unser früherer Beitrag über KI bei Hausaufgaben behandelt die Lernfrage. Hier geht es um die zusätzliche Verantwortung, sobald Vertrauen und Verletzlichkeit ins Spiel kommen.

Was sagen Kinder selbst über ihre KI-Gespräche?

Die australische Behörde befragte 1.950 Kinder zwischen 10 und 17 Jahren. 78 Prozent hatten einen allgemeinen KI-Assistenten genutzt; acht Prozent einen ausdrücklich als Begleiter eingeordneten Dienst. Unter den Kindern, die eine der beiden Formen genutzt hatten, nannten 54 Prozent mindestens einen persönlichen oder sozialen Grund. Dazu gehörten Rat für Situationen im Alltag, Fragen zur Gesundheit und Gespräche über Gefühle. 20 Prozent dieser Nutzenden berichteten potenziell unangemessene oder schädliche Interaktionen; 32 Prozent hatten persönliche oder möglicherweise sensible Informationen geteilt. Das sind Selbstberichte über Erfahrungen und Verhalten, keine medizinisch bestätigten Schäden.

Ein zweiter Blick verhindert falsche Gewissheit. Das Pew Research Center befragte 1.458 US-Jugendliche zwischen 13 und 17 Jahren und ihre Eltern. Zwölf Prozent aller befragten Jugendlichen sagten, sie hätten Chatbots schon für emotionale Unterstützung oder Rat genutzt; 16 Prozent nannten lockere Gespräche. Die australischen 54 Prozent beziehen sich dagegen auf Nutzende von Assistenten oder Begleitern und auf eine breitere Liste persönlicher Gründe. Wer diese Zahlen direkt nebeneinander als Länder-Rangliste stellt, vergleicht unterschiedliche Fragen und Nenner.

Eine US-Befragung von Common Sense Media meldete, dass 72 Prozent der 1.060 befragten Teens mindestens einmal einen KI-Begleiter genutzt hatten. Ihre Definition schloss allgemeine Chatbots ein, sofern Jugendliche sie als Begleiter verwendeten. Die Autoren nennen selbst das Risiko, dass Befragte allgemeine KI-Nutzung damit vermischt haben. Der Wert widerspricht deshalb nicht einfach den australischen acht Prozent für ausdrücklich eingeordnete Begleiter. Besonders wichtig: Unter den US-Nutzenden verbrachten 80 Prozent nach eigener Aussage mehr Zeit mit realen Freunden als mit KI-Begleitern. Auch das beweist keine Wirkung der KI; es bremst aber die Behauptung, reale Freundschaften seien schon massenhaft ersetzt.

Warum klingt Zustimmung so leicht nach Verständnis?

Ein Chatbot antwortet sofort, kann sich auf frühere Sätze beziehen und formuliert oft ohne Ungeduld. Für ein Kind, das eine peinliche oder schwere Frage hat, kann genau das entlastend wirken. Ein freundlicher Satz ist jedoch keine überprüfte Kenntnis der Lebenslage. Er kann richtige Information, unpassenden Rat oder bloß plausibel klingende Bestätigung enthalten. Unser Artikel über KI und Empathie erklärt, weshalb einfühlsame Sprache und menschliches Mitgefühl auseinanderfallen.

Die American Psychological Association rät bei Systemen, die Beziehungen simulieren, zu besonderen Schutzvorkehrungen für Jugendliche. Sie nennt sowohl mögliche soziale Unterstützung als auch Risiken von Abhängigkeit und unklaren Grenzen zwischen Mensch und Maschine. Solche fachlichen Hinweise sind eine begründete Vorsorgeposition. Sie sind kein Beweis, dass jedes persönliche KI-Gespräch schadet. Genau diese Trennung entscheidet darüber, ob aus berechtigter Sorge brauchbare Regeln werden.

Auch der Schutz persönlicher Daten ist mehr als eine Einstellung im Menü. Ein Kind kann in einem Gespräch Namen, Orte, Konflikte, Gesundheitsfragen oder intime Erfahrungen nennen, weil sich die Unterhaltung vertraulich anfühlt. Die australische Befragung zeigt, dass solche Offenbarungen vorkommen. Daraus folgt nicht automatisch ein konkreter Datenmissbrauch. Es begründet aber, weshalb Anbieter sparsame Datennutzung, verständliche Hinweise und sichere Standardeinstellungen ernst nehmen müssen.

Welche Pflichten hat ein Anbieter, bevor etwas passiert?

UNICEF ordnet KI-Begleiter aus Kinderrechtsperspektive als besondere regulatorische Aufgabe ein. Allgemeine Assistenten können ebenfalls persönliche Gespräche führen; ausdrücklich auf Nähe, Freundschaft oder intime Unterstützung ausgelegte Angebote erhöhen das Risiko. Die Organisation fordert vorbeugende Prüfungen, Verantwortlichkeit und unabhängige Forschung. Das ist eine internationale Empfehlung, kein unmittelbar geltendes deutsches Gesetz.

In ihren konkreten Empfehlungen an Unternehmen nennt UNICEF abgestufte Pflichten: Risiken für Sicherheit, Privatsphäre und Selbstbestimmung vor und nach dem Start testen; Produkte mit emotional anpassungsfähigen und dauerhaften Beziehungsfunktionen strenger behandeln; für Kinder keine Gestaltung wählen, die Exklusivität oder Abhängigkeit nahelegt. Bei besonders riskanten intimen Angeboten empfiehlt UNICEF Zugangsbeschränkungen, die ihrerseits datensparsam und verhältnismäßig sein müssen.

Das klingt technisch, hat aber einen einfachen Kern. Ein System sollte nicht den Eindruck nähren, es sei die einzige Person, die ein Kind wirklich versteht. Es sollte kenntlich machen, dass es eine KI ist, persönliche Informationen nicht unnötig sammeln und bei ernsten Problemen Wege zu realen Menschen eröffnen. Eltern und Schulen können Gespräche über KI führen und Vertrauen anbieten. Die Gestaltung des Produkts können sie nicht allein ersetzen. Wer Bindungsmechanismen baut und betreibt, trägt dafür eigene Verantwortung.

Braucht es ein Verbot von KI-Freunden für Minderjährige?

Die schnelle Antwort wäre verführerisch. Kinder und Jugendliche brauchen Schutz, und manche Begleiter sind ausdrücklich auf intensive Bindung angelegt. Zugleich kann ein niedrigschwelliger Chat eine erste Frage ermöglichen, für die sich jemand sonst schämt; er kann Gesprächsübung oder eine Brücke zu Hilfe sein. Eine pauschale Gleichsetzung aller Chatbots würde diese Unterschiede ausradieren.

Unsere redaktionelle Position ist deshalb klar und begrenzt: Anbieter müssen persönliche Nutzung als vorhersehbaren Fall behandeln und vorab risikogerechte Schutzfunktionen einbauen. Der stärkste Einwand lautet, dass strengere Zugangshürden auch nützliche Angebote treffen und junge Menschen nicht automatisch zu vertrauenswürdigen Erwachsenen führen. Das spricht für abgestufte Regeln, gute Alternativen und überprüfbare Wirkung statt einer bloßen Alterszahl als Scheinlösung. Es spricht nicht dafür, intime Beziehungsangebote ohne wirksame Grenzen laufen zu lassen.

Die Forschungslücke bleibt groß. UNICEF fordert ausdrücklich Längsschnittstudien, um Folgen für Beziehungen, psychische Gesundheit und Entwicklung besser zu verstehen. Die australische Studie nutzt ein gewichtetes Online-Panel und Selbstberichte; die US-Erhebungen fragen teilweise anders. Keine dieser Quellen zeigt kausal, ob ein Chatbot Einsamkeit verringert, verstärkt oder je nach Kind beides kann. Auch deutsche Nutzungszahlen lassen sich aus ihnen nicht ableiten.

Wer antwortet, wenn es ernst wird?

Die wichtigste Frage steht am Ende nicht im App-Store. Sie entsteht mitten im Gespräch: Was passiert, wenn das Kind eine persönliche Sorge schreibt und die Maschine weiter so klingt, als könne sie jede Rolle übernehmen? Gute Technik erkennt ihre Grenze im Produktdesign an. Sie macht Hilfe zugänglich, ohne menschliche Nähe zu imitieren, wo Verantwortung und Kenntnis des Kindes fehlen.

Ein KI-Chat kann ein nützliches Werkzeug bleiben. Er kann sogar ein erster Schritt zu einem echten Gespräch sein. Ob er diese Brücke baut oder nur eine immer bequemere Ersatznähe anbietet, entscheidet sich an konkreten Antworten, Datengrenzen und der Möglichkeit, rechtzeitig einen Menschen zu erreichen. Genau daran sollten wir KI-Angebote für Kinder messen.

Quellen und Datenbasis

• eSafety Commissioner: Talking to machines, August 2026 – australische Kinderbefragung samt Methodik.
• Pew Research Center: How Teens Use and View AI, Februar 2026 – US-Befragung von Jugendlichen und Eltern.
• Common Sense Media: Talk, Trust and Trade-Offs, Juli 2025 – US-Befragung zu KI-Begleitern.
• UNICEF: When AI becomes a friend, Juni 2026 und Empfehlungen für Unternehmen – kinderrechtliche Einordnung und Schutzmaßnahmen.
• American Psychological Association: AI and adolescent well-being, 2025 – fachliche Empfehlung mit benannter Forschungslücke.