KI und Kinder: Bis zu 10 Prozent der 10- bis 17-Jährigen suchen Nähe
Veröffentlicht am: 04.10.2026 um 10:48 Uhr | Redaktion boerse-global.de
Künstliche Intelligenz ist längst im Alltag junger Menschen verankert, doch die vorhandenen Schutzmechanismen halten mit dieser Entwicklung nicht Schritt. Zu diesem Ergebnis kommen die Hilfsorganisationen SOS-Kinderdörfer weltweit und Terre des Hommes in einer gemeinsamen Untersuchung.
Demnach seien Kinder und Jugendliche nur unzureichend vor den Gefahren geschützt, während die gesetzliche und technische Regulierung hinterherhinke. Die Autoren der Analyse bewerten sowohl die Exposition Minderjähriger als auch potenzielle Folgeschäden als hoch, die bestehenden Vorkehrungen hingegen als unzureichend.
Gefahren von Fehlinformationen bis zur emotionalen Bindung
Die beiden Organisationen weisen darauf hin, dass Systeme auf Basis von künstlicher Intelligenz oft unsichtbar in Bereichen wie Bildung, sozialen Medien, Suchmaschinen, Unterhaltungsangeboten und Kreativwerkzeugen agieren.
Zu den konkreten Risiken zählen sie Fehlinformationen, Voreingenommenheit von Systemen, kommerzielle Ausbeutung sowie Abhängigkeiten. Als besonders gefährlich stufen SOS-Kinderdörfer weltweit und Terre des Hommes Deepfakes und manipulative Algorithmen ein.
Wer sich mit den rechtlichen Rahmenbedingungen und neuen Regeln der künstlichen Intelligenz befasst, findet in diesem Leitfaden einen kompakten Überblick über Pflichten und Risikoklassen. EU AI Act in 5 Schritten verstehen: Jetzt kostenloses E-Book sichern
Dass die Systeme bereits eine signifikante Rolle im Alltag von Minderjährigen spielen, belegen auch frühere Erhebungen. So zeigte eine DAK-Studie, dass mehr als 25 % der Minderjährigen KI-Anwendungen mehrmals pro Woche nutzen. Hauptanwendungsgebiete sind dabei die Erledigung von Hausaufgaben sowie die gezielte Informationssuche.
Mehr als die Hälfte greift zudem aus Neugier oder zur reinen Unterhaltung auf entsprechende Angebote zurück. Bemerkenswert ist zudem die psychosoziale Dimension: Laut der DAK-Studie nutzen bis zu 10 % der 10- bis 17-Jährigen KI-Tools, um sich weniger einsam zu fühlen.
Die neuen europäischen Vorgaben stellen klare Regeln für die Sicherheit und Kennzeichnung von KI-Systemen auf, um Nutzer besser zu schützen. Dieser kostenlose Report klärt darüber auf, welche Systeme als Hochrisiko gelten und was nun konkret zu tun ist. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen
Forderung nach Safety-by-Design und Alterskontrollen
Angesichts dieser Gemengelage drängen Hilfsorganisationen auf weitreichende Konsequenzen bei der Entwicklung und Bereitstellung digitaler Werkzeuge. Terre des Hommes-Vorstandssprecher Joshua Hofert fordert verbindliche Safety-by-Design-Standards, eine wirksame Alterskontrolle sowie eine systematische Beteiligung von Kindern an der KI-Regulierung. Schutzmechanismen müssten von Beginn an bei jeder KI-Anwendung mitgedacht werden, um Schaden von Heranwachsenden abzuwenden.
Neben technischen und regulatorischen Vorgaben für Anbieter sehen Experten auch im Bereich der Vermittlung Handlungsbedarf. SOS-Kinderdörfer-Vorständin Sabina Schutter verlangt umfassende Maßnahmen sowie die Stärkung digitaler Kompetenzen. Ziel müsse es sein, jungen Menschen Fähigkeiten für eine kritische und sichere Nutzung der Technologien zu vermitteln, um den manipulativen und psychologischen Risiken frühzeitig zu begegnen.
