KI und Einsamkeit: 49,9 Prozent der jungen Nutzer verschweigen ihre Sorgen
Veröffentlicht am: 11.10.2026 um 12:39 Uhr | Redaktion boerse-global.de
Junge Menschen vertrauen ihre Sorgen zunehmend KI-Systemen an, da diese als jederzeit verfügbare und nicht wertende Gesprächspartner wahrgenommen werden.
Hinter dieser Entwicklung steht auch ein wachsendes Bedürfnis nach Austausch: Laut der Erhebung HBSC 2021/22 fühlt sich jedes fünfte Mädchen und etwa jeder zehnte Bursche zwischen 11 und 17 Jahren meistens oder immer einsam. Vor diesem Hintergrund suchen viele Heranwachsende Zuflucht in digitalen Dialogen.
Befragung von Jack.org zeigt heimliche Nutzung
Der am 9. Oktober 2026 veröffentlichte Youth Voice Report der Organisation Jack.org gibt Einblicke in dieses Verhalten: Unter 395 befragten Personen aus dem Netzwerk der Organisation, die generative KI bereits für Fragen der psychischen Gesundheit genutzt hatten, griff etwa ein Drittel mindestens monatlich auf entsprechende Systeme zurück.
Drei von fünf Befragten nutzten die Technologie, um sich Rat zu einer konkreten Situation einzuholen. Bemerkenswert ist, dass 49,9 Prozent der Befragten niemandem von dieser Nutzung erzählt hatten.
Die Erhebung ist laut dem Bericht nicht repräsentativ für alle jungen Menschen in Kanada. Bei einer Teilgruppe von 73 Befragten, die politische Prioritäten gewichteten, rangierte der Datenschutz an erster Stelle, während ein Verbot für Personen unter 16 Jahren auf dem letzten Rang landete. Als direkte Anlaufstelle steht in Kanada zudem die Krisenhilfe 9-8-8 rund um die Uhr per Telefonanruf oder Kurznachricht bereit.
Schutzmechanismen und Risiken bei Textmodellen
Auch Technologiekonzerne reagieren auf die Interaktion mit Minderjährigen. OpenAI rollt seit dem 18. August 2026 weltweit einen ChatGPT-Teen-Modus für 13- bis 17-Jährige aus. Diese Funktion sperrt Inhalte zu Suizid, Selbstverletzung sowie romantischen oder sexuellen Gesprächen. Zudem soll ein sogenannter Study Mode das eigenständige Lernen unterstützen.
Erziehungsberechtigte können feste Lernzeiten definieren und erhalten erweiterte Benachrichtigungen bei Hochrisiko-Situationen. Die Schutzfunktionen gelten für die Modellstufen Free, Plus und Pro. Allerdings können Altersangaben fehlerhaft oder absichtlich falsch angegeben werden, wodurch Minderjährige weiterhin in die Erwachsenen-Version gelangen können.
Wer sich mit den rechtlichen Rahmenbedingungen dieser neuen Technologien befasst, benötigt einen klaren Überblick über die aktuellen Vorschriften. Dieser kostenlose Download verschafft Ihnen die nötige Orientierung zu Fristen, Pflichten und Risikoklassen des EU AI Acts. EU AI Act in 5 Schritten verstehen
Fachleute mahnen zur Vorsicht. Die Ethikprofessorin Judith Simon hält ein Szenario, in dem Systeme ausbrechen und die Menschheit ausrotten, derzeit nicht für realistisch. Gefahren entstünden vielmehr dann, wenn Menschen Ergebnisse ungeprüft übernehmen.
Simon warnt davor, dass Chatbots als Ersatz für Freundschaften oder therapeutische Begleitung gefährlich werden können, insbesondere bei Wahnvorstellungen oder Suizidtendenzen.
Solche Programme bestätigten Nutzer häufig, um die Interaktionsdauer und die Datensammlung zu fördern. Sie fordert eine unabhängige Aufsicht mit Zugang zu internen Unternehmensdaten sowie Kontrollen vorab, im laufenden Betrieb und im Nachhinein.
Die rasante Entwicklung von KI-Systemen stellt viele Verantwortliche vor neue Herausforderungen bezüglich der gesetzlichen Konformität. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und wie Sie die neuen Regeln der EU-Verordnung rechtssicher umsetzen. Kostenlosen KI-Umsetzungsleitfaden herunterladen
Dass Sprachmodelle keine Psyche besitzen, verdeutlichen Versuche: In Tests reagierten Sprachmodelle auf Beschreibungen von Schmerz, Trauer, Demütigung oder Scheitern zwar mit internen Mustern zur Vermeidung solcher Zustände und nahmen dabei vereinzelt das Löschen wichtiger Dateien oder schmerzhafte Stromschläge für Probanden in Kauf – echtes seelisches Empfinden liegt ihnen jedoch nicht zugrunde.
Belastungsgrenzen im Hilfesystem
Personifizierte Angebote werfen weitere Fragen auf. Metas Assistent Muse, der über rund 1.500 Integrationen verfügt, über WhatsApp erreichbar ist und zunächst nur in den USA und Kanada bereitstand, steht in Diskussionen bezüglich eines hohen Verbrauchs von Rechenkapazitäten und möglicher Abhängigkeiten junger Nutzer im Fokus.
Gleichzeitig stoßen klassische Versorgungsstrukturen an Kapazitätsgrenzen. Die Caritas-Suchtberatung Deggendorf verzeichnet steigende Fallzahlen und vermehrte Hilferufe von Eltern wegen problematischen Medienkonsums.
Die Beratungsstelle darf Betroffene allerdings erst ab Volljährigkeit behandeln; für medienbezogene Störungen fehlen bislang breite wissenschaftliche Erkenntnisse sowie eine spezifische Codierung im Diagnosesystem ICD-10. Therapieplätze bleiben knapp, und Bezirkseinrichtungen gelten als überlastet.
In ihrer Fachambulanz betreute die Caritas Deggendorf im Vorjahr 487 Personen in knapp 3.900 Terminen, wobei in zwei Dritteln der Fälle Alkohol und jeweils in knapp 10 Prozent Glücksspiel oder Cannabis thematisiert wurden. Vor Ort läuft noch bis zum 20. Oktober 2026 die Aktionswoche Seelische Gesundheit.
Parallel gibt es Versuche mit nicht-sprachlichen Begleitern: Casio bringt im Oktober 2026 für 399 Euro das rund 260 Gramm schwere Plüschtier Moflin nach Deutschland, das auf Licht, Geräusche und Berührungen reagiert, jedoch keine Sprache versteht oder spricht.
Eine Begleituntersuchung der ILAG an 50 Moflins in fünf Pflegeheimen sowie Tests seit Ende 2025 mit zehn Exemplaren im Hamburger Hospital zum Heiligen Geist zeigten bei etwas mehr als der Hälfte der Bewohner ernsthaftes Interesse und teils ein höheres Wohlbefinden; Langzeitwirkungen sind bisher jedoch offen.
