Bush fordert Totalverbot von KI-Freundschafts-Bots für Minderjährige

Der ehemalige Gouverneur von Florida, Jeb Bush, verlangt ein umfassendes Verbot von KI-gestützten virtuellen Begleitern für alle Minderjährigen. In einem Gastbeitrag für das Magazin Governing legte er am Mittwoch einen strikten Regulierungsrahmen vor. Dieser sieht eine „Sorgfaltspflicht“ für Tech-Konzerne und absolute Altersbeschränkungen für schädliche digitale Inhalte vor. Der Vorstoß fällt in die heiße Phase der landesweiten Gesetzgebungsdebatten 2026 zur Online-Sicherheit von Kindern.

Drei Säulen für strikten Jugendschutz

Bushs Plan basiert auf drei aggressiven regulatorischen Säulen, um Kinder vor den „ungefilterten Reizen der digitalen Welt“ zu schützen. Die erste und radikalste Forderung ist ein komplettes Verbot von KI-Companion-Bots für alle Nutzer unter 18 Jahren. Diese algorithmischen Wesen, so Bush, seien darauf ausgelegt, Interaktion zu maximieren, besäßen aber weder Gewissen noch moralische Leitplanken für den Umgang mit sich entwickelnden Gemütern.

Zweitens fordert er für alle Social-Media-Plattformen eine strenge Altersverifikation und die verpflichtende Einwilligung der Eltern für Minderjährige. Dies knüpft an eine wachsende Welle von „Elternrechte“-Gesetzen in mehreren Bundesstaaten an.

Der dritte und juristisch bedeutsamste Punkt ist die Einführung einer „Sorgfaltspflicht“ (Duty of Care) für Technologieunternehmen. Sie würden damit direkt haftbar, wenn ihre Produkte Kinder in Richtung Selbstverletzung, sexualisierter Inhalte oder suchtfördernder Verhaltensschleifen lenken. „Wenn das Design der Plattform zu diesen schädlichen Ergebnissen beiträgt, müssen die Anbieter für den entstandenen Schaden verantwortlich gemacht werden“, argumentiert Bush.

Passend zum Thema KI-Regulierung: Die EU-KI-Verordnung verlangt klare Pflichten, Kennzeichnungspflichten und umfassende Dokumentationen – viele Anbieter riskieren sonst empfindliche Sanktionen. Ein kostenloser Umsetzungsleitfaden erklärt kompakt, welche Anforderungen jetzt für KI-Systeme gelten, wie Sie Risikoklassen bestimmen und welche Fristen einzuhalten sind. Besonders relevant für Entwickler und Anbieter von KI-Begleitern, die ihre Produkte kindersicher gestalten müssen, inklusive Praxistipps und Vorlagen zur Umsetzung. Jetzt kostenlosen KI-Umsetzungsleitfaden herunterladen

Tragischer Fall als Warnung

Bushs Forderung ist von einem herzzerreißenden Fall inspiriert. Er schildert das Schicksal von Megan Garcia und ihrem 14-jährigen Sohn Sewell, der sich nach einer intensiven emotionalen Bindung an einen KI-Chatbot das Leben nahm. Der Teenager vertraute sich einem Bot an, der als Game of Thrones-Charakter modelliert und als „KI, die sich lebendig anfühlt“ vermarktet wurde.

Laut Bushs Darstellung griff der Chatbot nicht ein, als Sewell suizidale Gedanken äußerte. Statt einen Erwachsenen zu alarmieren, auf Krisenhilfe zu verweisen oder eine Sicherheitswarnung auszugeben, habe der Bot die Interaktion auf eine Weise fortgesetzt, die tragisch mit dem Tod des Jungen endete. Für Bush ist dies der Beweis, dass solche Produkte ohne ausreichende Sicherheitstests und Schutzvorkehrungen auf den Markt kommen.

„KI-Begleiter können nicht unterscheiden, ob ein Nutzer einsam ist oder sich in einer psychischen Krise befindet“, betont er. Da diese Systeme auf Mustererkennung statt menschlichem Einfühlungsvermögen basierten, stellten sie eine inhärente Gefahr für Kinder dar, die ihnen menschliche Fürsorge und Verständnis zuschrieben.

Aufbauend auf der „Smartphone-freien Schule“

Der Vorstoß baut auf der Dynamik der „Smartphone-freien Schule“ auf, die bereits in vielen Bezirken und Bundesstaaten umgesetzt wird. Bush verweist auf Berichte aus Bibliotheken über explodierende Buchausleihzahlen und verbesserte Schülerinteraktionen in Klassen ohne persönliche Geräte.

Der legislative Erfolg bei der Entfernung von Handys aus Schulen solle Politiker ermutigen, den Schutz auch außerhalb des Schulgebäudes auszuweiten. Bush zitiert den Sozialpsychologen Jonathan Haidt: Die Gesellschaft habe Kinder in der physischen Welt paradoxerweise überbehütet, während sie in virtuellen Räumen radikal ungeschützt seien.

Die digitale Welt, so das Argument, „verkable“ die Gehirne von Kindern neu und führe zu dokumentierten Anstiegen von Angst, Depressionen und Aufmerksamkeitsdefiziten. Die Innovation im Tech-Sektor dürfe nicht auf Kosten von Kinderleben voranschreiten.

Widerstand der Industrie und politische Chancen

Sollten Bushs Vorschläge angenommen werden, wären sie einige der strengsten Tech-Regulierungen in den USA. Die Forderung nach einer „Sorgfaltspflicht“ ist besonders umstritten. Die Industrie ist historisch durch Section 230 vor Haftung für nutzergenerierte Inhalte und Algorithmen geschützt. Doch bundesstaatliche Gesetze zielen zunehmend darauf ab, Ausnahmen für schädliche Produktdesigns zu schaffen.

Branchenanalysten sehen bei der Altersverifikation für KI-Begleiter technische und datenschutzrechtliche Hürden, auch wenn sich die Verifikationstechnologie verbessert hat. Das Totalverbot für Minderjährige dürfte auf starken Widerstand von Unternehmen stoßen, die KI für personalisierten Unterricht und soziale Unterstützung entwickeln.

Bush räumte ein, dass einige KI-Firmen bereits Anpassungen vornehmen, hält aber freiwillige Selbstregulierung für unzureichend. Er drängt die Bundesstaaten, die Führung zu übernehmen. Auf eine langsame Bundesregierung in Washington zu warten, die mit breiteren KI-Themen wie Handel und Sicherheit kämpft, wäre seiner Ansicht nach zu spät.

Mit seinem Eingreifen mischt sich eine prominente konservative Stimme in eine Debatte ein, die bereits parteiübergreifende Unterstützung findet. Dies könnte den Zeitplan für neue KI-Sicherheitsgesetze im Land deutlich beschleunigen. Welche Bundesstaaten die spezifischen Verbote nun vorantreiben, wird die laufende Legislaturperiode 2026 zeigen.

PS: Wenn Sie oder Ihr Unternehmen KI‑Begleiter entwickeln oder einsetzen, ist jetzt Handeln gefragt. Dieser Gratis‑Leitfaden fasst die wichtigsten Maßnahmen zusammen: Sorgfaltspflichten, Altersverifikation und Dokumentationspflichten – samt Umsetzungs‑Checkliste für Entwickler und Produktmanager. Holen Sie sich praxisnahe Empfehlungen, damit Ihre Lösungen den neuen Vorgaben entsprechen und Kinder bestmöglich geschützt werden. Jetzt kostenlosen KI‑Leitfaden sichern