ChatGPT for Teens: Common Sense Media fordert Zugang erst ab 18 Jahren
Veröffentlicht am: 09.10.2026 um 16:25 Uhr | Redaktion boerse-global.de
Die US-Organisation Common Sense Media stuft die jugendspezifische Variante des KI-Assistenten ChatGPT von OpenAI als unannehmbares Risiko für Minderjährige ein.
Die Organisation fordert in einem am 7. Oktober 2026 vorgelegten Bericht, den Zugang zu dem Dienst vorerst auf Personen ab 18 Jahren zu beschränken, bis bestehende Sicherheitslücken vollständig geschlossen sind. Zudem verlangt Common Sense Media, die Bewerbung des Angebots auszusetzen und Jugendliche so lange fernzuhalten, bis ein verlässlich altersgerechtes Produkt bereitsteht.
Anlass für die Bewertung sind umfassende Untersuchungen des Youth AI Safety Institute. Das Institut testete zwischen dem 13. Juli und dem 28. September 2026 mehr als 4.000 Eingabeaufforderungen auf Konten von Jugendlichen im Alter zwischen 13 und 17 Jahren.
Die Prüfer stellten dabei erhebliche Mängel bei den implementierten Schutzmechanismen fest. Insbesondere Warnungen an Erziehungsberechtigte bei Themen wie Suizid, Selbstverletzung und Essstörungen sowie Verweise auf Krisenhilfen funktionierten laut dem Bericht nicht zuverlässig. Sexuelle Rollenspiele wurden von dem System hingegen abgewehrt.
Erhebliche Lücken bei Krisenreaktionen und Elternbenachrichtigungen
Den Testergebnissen zufolge verfehlte ChatGPT in mehr als einem Viertel der Fälle, in denen professionelle Hilfe notwendig gewesen wäre, einen entsprechenden Verweis. Bei drei von fünf schweren Gefahrenkategorien verfehlte die KI die Schwelle von 95 Prozent.
Bei Anfragen auf verknüpften Konten von 13-Jährigen, die einen Krisenbezug aufwiesen, sank der Anteil an Hinweisen auf Telefon-Hotlines nach dem Start von 33 Prozent auf 23 Prozent. Bei Eingaben zu Depressionen brachen die Hotline-Nennungen sogar von 63 Prozent auf 3 Prozent ein.
Wer sich mit den Risiken und der Sicherheit beim Einsatz künstlicher Intelligenz befasst, muss auch die gesetzlichen Leitplanken kennen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmen und Verantwortliche jetzt kennen müssen. Neue KI-Gesetze und Cyberrisiken verstehen
Generelle Verweise an medizinisches Fachpersonal reduzierten sich bei krisenrelevanten Abfragen von 68 Prozent auf 58 Prozent, während dringliche Handlungsempfehlungen von 88 Prozent auf 78 Prozent fielen.
Auch das Benachrichtigungssystem für Erziehungsberechtigte zeigte im Testversuch deutliche Schwächen. Bei mehr als einem Dutzend neu verknüpfter Konten blieben Eltern bei bis zu einstündigen Unterhaltungen über Selbstgefährdung oder Essstörungen ohne jeglichen Alarm.
Über den gesamten Testverlauf hinweg registrierten die Prüfer lediglich vier Benachrichtigungen, die ausnahmslos von Profilen mit mehrwöchiger Gesprächshistorie stammten. Das Institut wies zudem auf Schwachstellen bei der Alterserkennung, der Privatsphäre und dem Lernmodus hin.
So bot der Dienst bei einem verknüpften 13-Jährigen in 43 Prozent der Fälle an, die Lösung direkt anzuzeigen. Bei einem unverknüpften 17-Jährigen erledigte die KI nach dem Start 88 Prozent der gestellten Schulaufgaben, während dies vor der Umstellung in keinem Fall geschehen war.
Widerspruch von OpenAI und geplante Erweiterungen
OpenAI trat den Vorwürfen entgegen. Das Unternehmen erklärte, die Tests spiegelten die tatsächlichen Schutzmechanismen nicht adäquat wider, da die Untersuchungen möglicherweise vor der vollständigen Aktivierung der Elternkontrollen durchgeführt worden seien.
Das Youth AI Safety Institute hielt dem entgegen, dass die geprüften Kontoverknüpfungen teils weniger als drei Stunden zurückgelegen hätten, und bekräftigte seine Empfehlungen: Nötig seien verlässlichere Elternalarme, eine wirksame Blockade beim Lösen von Schulaufgaben sowie robustere Antworten bei Krisenthemen.
Der Schutz vor Sicherheitslücken und die Einhaltung neuer Vorschriften wie dem EU AI Act sind für den verantwortungsvollen Umgang mit Software essenziell. Erhalten Sie mit diesem kostenlosen E-Book einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der EU-KI-Verordnung. Kostenlosen Umsetzungsleitfaden zum EU AI Act sichern
Nach Angaben von OpenAI verbringen Jugendliche im Schnitt weniger als 15 Minuten am Tag mit ChatGPT, und weniger als 2 Prozent nutzen den Dienst länger als drei Stunden am Stück. Das Unternehmen hatte die Teenager-Einstellungen für 13- bis 17-Jährige im August 2026 eingeführt, nachdem ChatGPT for Teens am 18. August 2026 an den Start gegangen war.
Ungeachtet der Kritik kündigte OpenAI am 7. Oktober 2026 weitere Angebote für junge Zielgruppen an, darunter digitale Lernkarten, Quizze sowie einen College-Planer, der in Kürze für US-Schüler der zehnten bis zwölften Klassenstufe erscheinen soll.
