Digitale Helfer, aber keine Freunde: Wie Kids und Teens ChatGPT & Co sicher nutzen

KI-Chatbots bergen die Gefahr emotionaler Abhängigkeit. KI-Antworten richtig einordnen und überprüfen. Persönliche Informationen schützen. TÜV-Verband gibt Hinweise, wie Kinder und Jugendliche KI-Tools sicher nutzen und was Eltern beachten sollten.

KI-Chatbots gehören für viele Kinder und Jugendliche zum digitalen Alltag. Sie beantworten Fragen, helfen bei Hausaufgaben und liefern Ideen für Schule und Freizeit. Doch die Technik birgt auch Risiken: falsche Informationen, problematische Inhalte, Datenschutzprobleme, eine zu enge Bindung an digitale Gesprächspartner oder der Verlust eigenen kritischen Denkens. Der TÜV-Verband warnt deshalb vor einem unkritischen Umgang mit KI-Anwendungen. „KI-Chatbots sind nützliche Alltagshelfer, aber keine garantiert fehlerfreie Lexika – und dürfen nicht mit verlässlichen sozialen Gegenübern verwechselt werden“, sagt Patrick Gilroy, Referent für KI und Bildung beim TÜV-Verband. „Nutzer:innen müssen die Grenzen von KI-Tools kennen. Viele Chatbots klingen sehr überzeugend, auch wenn ihre Antworten fehlerhaft oder frei erfunden sind.“ Das könne bei Kindern und Jugendlichen zu Missverständnissen führen, wenn Inhalte ungeprüft übernommen werden. Gilroy: „Ob jung oder alt: Wer mit KI arbeitet, muss lernen, gute Fragen zu stellen und auch sinnvoll klingende, vermeintlich hilfreiche Antworten einzuordnen und zu überprüfen. Das ist eine wichtige digitale Kompetenz.“ Welche weiteren Risiken bei der Nutzung von KI-Chatbots bestehen und wie sich Eltern, Kinder und Jugendliche wappnen können, beschreibt der TÜV-Verband.

Die Risiken

Falsche Informationen
KI-Chatbots lösen Suchmaschinen zunehmend als Instrument für Recherchen im Internet ab. In ihren zusammenfassenden Antworten können KI-Chatbots Inhalte erfinden oder Zusammenhänge falsch oder unausgeglichen darstellen – auch wenn sie sehr plausibel klingen. Bei Recherchen für die Schule können beispielsweise Fehler entstehen und Schüler:innen Desinformation, falsche Quellen oder veraltete Informationen als gesichertes Wissen übernehmen. „Der dauerhafte Griff zur KI birgt zudem das Risiko eines ‚Deskilling‘“, sagt Gilroy. „Ohne vertiefte Auseinandersetzung mit einer Materie gehen wertvolle Lerneffekte verloren.“

Datenschutz und Privatsphäre
Je nach Anbieter, Kontoart und Einstellungen können in den Chatbots gestellte Fragen, hochgeladene Dokumente oder andere Eingaben von den KI-Anbietern gespeichert und weiterverarbeitet werden. Sie nutzen diese Informationen, um ihre KI-Modelle weiter zu trainieren. Durch Hacks und Sicherheitslücken können ungewollt sensible persönliche Daten wie Namen, Adressen oder Passwörter an die Öffentlichkeit gelangen oder nach Cyberangriffen missbraucht werden.

Emotionale Abhängigkeit
KI-Modelle sind darauf trainiert, einfühlsam, hilfsbereit und menschlich zu wirken. Manche Kinder und Jugendliche bauen daher eine starke emotionale Bindung zu den empathisch wirkenden Chatbots auf. Sie nutzen den digitalen Begleiter beispielsweise, um emotionale Unterstützung zu erhalten oder sich weniger einsam zu fühlen. Es kommt auch vor, dass sich Nutzer:innen in einen Chatbot oder in einen KI-Avatar verlieben. Gerade junge Menschen sind dann anfällig für Manipulation und emotionale Abhängigkeit. Diese Scheinbeziehungen können mitunter dramatische Folgen bis hin zum Suizid haben.

Suchtgefahr und Realitätsflucht
Der ständige Austausch mit KI-Chatbots kann soziale Isolation fördern und zu einer Abhängigkeit führen, ähnlich wie bei Social-Media- oder Online-Spielsucht. Warnsignale können sein: Rückzug, Schlafprobleme, Leistungsabfall, Vernachlässigung von Hobbys, Freunden oder der Familie, geringes Selbstwertgefühl oder verminderte Konzentrationsfähigkeit. Typisch ist auch starke Unruhe oder „schlechte Laune“, wenn der Dienst nicht genutzt werden kann.

Ungeeignete oder verstörende Inhalte
Je nach Dienst können sexualisierte, gewalttätige, extremistische oder sonstige problematische Inhalte auftauchen, da die KI-Modelle auch mit Daten aus dem offenen Internet trainiert werden. Die Inhalte können zum Beispiel durch Missverständnisse beim Prompten entstehen. Nicht zuletzt können junge Menschen selbst dazu verleitet werden, mit KI-Tools Inhalte zu erstellen und zu teilen, mit denen andere herabgesetzt, bloßgestellt oder auf andere Weise gemobbt werden.

Tipps für einen konstruktiv-kritischen Umgang mit KI-Chatbots

Nicht alles glauben
KI-Antworten kritisch hinterfragen und bei Recherchen immer weitere Quellen konsultieren. Den KI-Chatbot auffordern, seine Quellen zu nennen, diese nachverfolgen und Inhalte auf Plausibilität prüfen. Ergänzend autoritative Quellen wie Schulbücher und vertrauenswürdige Websites einbeziehen sowie das Gespräch mit Eltern, Mitschüler:innen oder Lehrenden suchen.

KI als Werkzeug nutzen
Bei Hausaufgaben oder Referaten ist die Versuchung groß, sich mit Hilfe einer KI komplette Antworten oder den gesamten Vortrag erstellen zu lassen. Die eigene Leistung ist dann eher gering. KI sollte stattdessen als Hilfsmittel bzw. Werkzeug verstanden werden. KI kann beim Verstehen, Strukturieren, Erklären, Üben, Gegenchecken und Visualisieren helfen – die Bewertung, Auswahl und eigene Formulierung müssen bei den Schüler:innen bleiben.

Persönliche Daten schützen
Keine persönlichen Daten wie echte Namen, Adressen, Telefonnummern, Schulnamen oder Passwörter preisgeben. Am besten Pseudonyme bzw. Spitznamen (Nicknames) verwenden. Niemals private Fotos, Videos oder auch Sprachaufnahmen hochladen, da sie für Deepfakes missbraucht werden könnten.

Emotionaler Abhängigkeit vorbeugen
Nicht alles mit der KI besprechen: Bei privaten Konflikten, Krisen oder psychischen Belastungen sollte ein Chatbot nie der einzige Ansprechpartner sein. Besser mit Eltern, Vertrauenslehrern, anderen vertrauten Erwachsenen oder guten Freunden reden. Wer Unterstützung in Krisensituationen sucht, findet rund um die Uhr anonyme Hilfe beim Notruf (112), der TelefonSeelsorge (0800 111 0 111) oder speziell für junge Menschen und Eltern bei der ‚Nummer gegen Kummer‘ (116 111 bzw. 0800 111 0 550).

Tipps für Eltern

Aufklärung und Dialog
Mit Kindern und Jugendlichen über KI sprechen: Wie funktioniert KI? Wo liegen die Grenzen? Worauf ist zu achten? KI ist eine noch recht junge Technologie. Daher ist es sinnvoll, Erfahrungen zu teilen und voneinander zu lernen. Gemeinsam können gute und schlechte Antworten verglichen werden, Quellen geprüft, erlaubte Plattformen definiert, Grenzen besprochen und Regeln regelmäßig angepasst werden. Nutzungszeiten und Verbote sollten klar kommuniziert werden, zum Beispiel keine persönlichen Daten preisgeben oder problematische Inhalte erstellen und teilen.

Altersgerechte Nutzung
Altersfreigaben für KI-Tools sind uneinheitlich und leicht zu umgehen. ChatGPT und Gemini sind in den App-Stores ab 13 Jahren angegeben, Claude, Perplexity oder Character.AI erst ab 18 Jahren. Eltern müssen daher selbst entscheiden, ab welchem Alter sie eine Nutzung erlauben. Grundsätzlich gilt: Am Anfang sollte die Nutzung immer gemeinsam erfolgen, bevor Kinder oder Jugendliche die KI allein anwenden.

Technische Schutzmaßnahmen einrichten
Kindersicherung einrichten über einen gemeinsamen Familien-Account, das Betriebssystem oder die Nutzerverwaltung. Privatsphäre-Einstellungen prüfen und zum Beispiel Chatverlauf und die Nutzung von Eingaben zu Trainingszwecken deaktivieren. Gespeicherte Chats regelmäßig löschen.

Im Notfall handeln
Bei Cybermobbing oder Belästigung, zum Beispiel mit KI-generierten Fake-Bildern, Stimmen-Imitationen oder Bloßstellungs-Memes: Beweise sichern (etwa Screenshots). Plattform melden, zum Beispiel bei jugendschutz.net. Falls nötig, Schule oder Polizei einschalten. Bei Suchtverhalten: Nutzung einschränken und Alternativen in der realen Welt anbieten. Wenn keine Besserung erkennbar ist, psychosoziale Beratungsangebote nutzen.