KI-Chatb Acht Datentypen gehören niemals in ChatGPT & Claude
Veröffentlicht am: 23.08.2026 um 17:13 Uhr | Redaktion boerse-global.de
Die Annahme, dass technische Sicherheitsvorkehrungen wie Sandboxen einen umfassenden Schutz für Unternehmensdaten bieten, greift laut aktuellen Analysen zu kurz. Während diese isolierten Ausführungsumgebungen zwar die unmittelbare IT-Infrastruktur vor bösartigem Code schützen, bleibt die eigentliche Datenverarbeitung durch die Anbieter ein erhebliches Risiko.
Wie Branchenexperte Doug Levin darlegt, schützen Sandboxen lediglich die Ausführungsumgebung, nicht jedoch die Handhabung der Daten durch die Betreiber von Systemen wie ChatGPT, Claude oder Copilot.
Je nach gewähltem Tarifmodell variiert der Umgang mit den eingegebenen Informationen erheblich. Zwar werden Enterprise-Daten in vielen Fällen nicht für das Training künftiger Modelle herangezogen, dennoch finden eine Verarbeitung und Speicherung auf den Servern der Anbieter statt.
Besondere Vorsicht ist bei Tools wie Claude Code geboten, da diese lokale Transkripte speichern. Unternehmen sind daher angehalten, den gesamten Pfad der Datenverarbeitung lückenlos zu prüfen, um Compliance-Verstöße zu vermeiden.
Identifizierte Risikogruppen für die Datensicherheit
Analysten identifizierten insgesamt acht Kategorien von sensiblen Informationen, die unter keinen Umständen mit KI-Chatbots geteilt werden sollten. Hierzu zählen Kontozugangsdaten, Finanzinformationen, medizinische Unterlagen sowie Details zur persönlichen Identität und zum Gesundheitszustand. Auch Informationen über psychische Probleme, private Fotos mit EXIF-Metadaten und vertrauliche Arbeitsdokumente bergen hohe Risiken.
Wer sich mit der Verarbeitung sensibler Informationen befasst, muss die neuen rechtlichen Rahmenbedingungen für künstliche Intelligenz genau kennen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen
Die Gefahren reichen von Datenlecks über Betrug bis hin zum Identitätsdiebstahl. Forscher der Stanford University wiesen in diesem Zusammenhang darauf hin, dass eine Vielzahl von KI-Unternehmen die anfallenden Gesprächsdaten weiterhin für Trainingszwecke nutzt, was die Wahrscheinlichkeit einer unbeabsichtigten Offenlegung sensibler Inhalte erhöht.
Defizite bei Notfallplänen der KI-Labore
Eine aktuelle Untersuchung der Organisation Guidelight verdeutlicht zudem, dass führende KI-Entwickler kaum über öffentliche Pläne für den Umgang mit Modellen verfügen, die außer Kontrolle geraten könnten. Im Rahmen dieser Studie erreichte OpenAI lediglich 3 von 5 möglichen Punkten. Die Unternehmen Anthropic und Meta schnitten bei der Bewertung der Sicherheitsvorkehrungen am schlechtesten ab.
Angesichts dieser Defizite fordern Experten die Implementierung klarer Notfallstrategien. Politische Initiativen wie der California SB 53 oder der New York RAISE Act verlangen bereits umfassende Offenlegungspflichten. Zudem wurde ein Gesetzentwurf für einen sogenannten AI Kill Switch eingebracht, der eine sofortige Abschaltung riskanter Systeme ermöglichen soll.
Die rasanten technologischen Entwicklungen bringen neue rechtliche Pflichten mit sich, die viele Unternehmen bisher noch nicht auf dem Schirm haben. Ein kostenloser Experten-Report klärt darüber auf, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Kostenlosen Report zur KI-Verordnung herunterladen
Regulatorische Reaktionen auf Sicherheitsrisiken
Neben dem Datenschutz rücken auch gesellschaftliche Risiken in den Fokus der Behörden. In China durchgeführte Tests bescheinigen generativer KI erhebliche Gefahren für Minderjährige. Die Raten für die Nichteinhaltung von Sicherheitsstandards lagen in sieben Kategorien zwischen 28 % und 50 %.
Besonders kritisch wurden die Bereiche Sucht und Konsum mit einer Quote von 49,86 % sowie die Anfälligkeit für Manipulationen durch Nutzer, sogenannte Jailbreaks, mit 67,87 % eingestuft. Berichte über mindestens drei Suizide von Minderjährigen in den USA, die mit KI-Chats in Verbindung gebracht werden, erhöhen den Druck auf die Regulierungsbehörden weltweit.
Im US-Bundesstaat Colorado wurden bereits konkrete Regeln für den ADMT Act sowie den Chatbot Safety Act vorgeschlagen, die ab dem 1. Januar 2027 wirksam werden sollen. Diese sehen detaillierte Offenlegungspflichten bei nachteiligen automatisierten Entscheidungen vor.
Zudem wird eine menschliche Überprüfung gefordert, bei der eine Bestätigung innerhalb von 10 Tagen und ein Abschluss des Verfahrens nach 45 Tagen erfolgen muss. Auch Mechanismen zur Altersschätzung für Chatbot-Nutzer sind Teil der geplanten Gesetzgebung, zu der bis zum 4. September Kommentare eingereicht werden können.
