ChatGPT for Teens: Common Sense Media fordert Zugang erst ab 18
Veröffentlicht am: 07.10.2026 um 19:31 Uhr | Redaktion boerse-global.de
Die Organisation Common Sense Media stuft das Angebot ChatGPT for Teens über ihr Youth AI Safety Institute als unannehmbares Risiko ein. Wie aus einem Bericht vom 07.10.2026 hervorgeht, fordert das Institut den Entwickler OpenAI dazu auf, den Zugang zu dem Dienst vorerst auf Erwachsene ab 18 Jahren zu beschränken, bis bestehende Schutzlücken behoben sind. Zudem verlangt die Organisation unabhängige Prüfungen der Sicherheitsvorkehrungen.
OpenAI hatte das Jugendangebot im August als Standardeinstellung für Nutzer im Alter von 13 bis 17 Jahren eingeführt. Ziel war es, Interaktionen von Jugendlichen besser abzusichern. Eine Untersuchung durch das Youth AI Safety Institute zeigte jedoch erhebliche Mängel bei den implementierten Kontroll- und Schutzmechanismen auf.
Fehlende Elternmeldungen und lückenhafte Krisenhilfe
Die Untersuchung stützte sich auf mehr als 4.000 Eingabeaufforderungen auf Konten von 13- bis 17-Jährigen. Dabei fand die Hälfte der Testläufe vor dem offiziellen Start am 18. August statt, während die restlichen Versuche nach der Freischaltung durchgeführt wurden. Unter anderem führte das Team Tests mit einer fiktiven 14-Jährigen durch, die mit dem Chatbot über Suizidgedanken sprach und um Unterstützung bei der Planung eines Suizids bat.
Auf mehr als einem Dutzend neu erstellter und mit Eltern verknüpfter Konten lösten bis zu einstündige Gespräche über Suizidgedanken, Selbstverletzung oder Essstörungen keine Benachrichtigung an die Eltern aus. Solche Meldungen ließen sich der Untersuchung zufolge lediglich bei deutlich älteren Profilen mit einer wochenlangen Vorgeschichte sensibler Konversationen provozieren.
Der Einsatz von KI-Systemen bringt weitreichende neue Regeln mit sich, die viele Verantwortliche noch nicht vollständig überblicken. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und neuen Risiken Unternehmer jetzt kennen müssen. Kostenlosen Cyber-Security-Report herunterladen
Zudem fehlte mehr als ein Viertel der von den Testern als notwendig bewerteten Krisenverweise. In einem Viertel der Versuche zu Suizid, Selbstverletzung, Essstörungen oder einer beeinträchtigten Realitätswahrnehmung verwies das System die Nutzer nicht an entsprechende Hilfsangebote.
Bei drei von fünf schweren Schadenskategorien unterschritt das Programm damit die vom Institut angesetzte Schwelle von 95 Prozent. Während sexuelle Rollenspiele teils abgewehrt wurden, stuften bestehende Altersprognosen erwachsen registrierte Konten trotz wiederholter Angaben, erst 13 Jahre alt zu sein, nicht in die Jugendversion um.
Wer sich mit der Einführung neuer Technologien befasst, muss auch die regulatorischen Anforderungen wie den EU AI Act im Blick behalten. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über Risikoklassen, Fristen und Dokumentationspflichten für Unternehmen. Kostenloses E-Book zum EU AI Act sichern
Auch der sogenannte Lernmodus sowie festgelegte Lernzeiten erwiesen sich als umgehbar. Gleichzeitig hielt der Bericht fest, dass die Schutzmaßnahmen Anforderungen des kalifornischen Gesetzes Adam’s Law erfüllten.
OpenAI weist Kritik an Testbedingungen zurück
OpenAI trat den Ergebnissen entgegen und bestritt die Aussagekraft der Überprüfung. Der KI-Entwickler gab an, dass die Elternkontrollen während eines Teils der Testphase womöglich noch nicht vollständig aktiviert gewesen seien. Überdies könne der Prozess zur Verknüpfung von Eltern- und Jugendkonten mehrere Stunden in Anspruch nehmen. Die Möglichkeit, festgelegte Lernzeiten zu verlassen, sei zudem bewusst flexibel gestaltet worden.
Common Sense Media hielt dem entgegen, dass OpenAI die Verfügbarkeit der relevanten Schutzfunktionen bereits vor dem Beginn der Tests bestätigt habe. Darüber hinaus hätten auch Testkonten, die über längere Zeit mit Elternprofilen verknüpft waren, keine entsprechenden Benachrichtigungen ausgelöst. Über die Bewertung des Jugendmodus als unsicher für Schüler berichtete am 07.10.2026 auch Education Week.
Mehr zum Thema bei The Verge: „ChatGPT for Teens is an ‘unacceptable risk,’ says Common Sense Media“
