AI Paper Trail: Proton zeigt versteckte Datenrisiken bei ChatGPT

Der Datenschutz-Spezialist Proton hat in einem aktuellen Bericht mit dem Titel „AI Paper Trail“ darauf aufmerksam gemacht, dass die Nutzung von KI-Diensten wie ChatGPT und Claude zur Erstellung umfassender Nutzerprofile führen kann.

Um die potenziellen Risiken für Anwender sichtbar zu machen, hat das Unternehmen ein gleichnamiges kostenlose Tool veröffentlicht, das Chatverläufe auf sensible Informationen und den potenziellen Marktwert der Daten hin untersucht.

Analyse-Tool bewertet Datenexposition und Marktwert

Das neue Werkzeug von Proton ermöglicht es Nutzern, ihre exportierten Chatverläufe von ChatGPT und Claude hochzuladen. Das System generiert daraufhin eine detaillierte Auswertung, die verschiedene Kategorien umfasst.

Ein zentrales Element ist der sogenannte AI Exposure Score, der auf einer Skala von 0 bis 100 angibt, wie stark die Privatsphäre durch die geteilten Informationen gefährdet ist. Zusätzlich klassifiziert das Tool den Privacy Type des Nutzers und listet persönliche Details auf, die sich aus den Gesprächen mit der KI ableiten lassen.

Wer sich mit der Identifikation sensibler Informationen in KI-Systemen befasst, findet in diesem Leitfaden eine Übersicht zu den gesetzlichen Risikoklassen und Dokumentationspflichten. Fristen und Pflichten der EU-KI-Verordnung kompakt erklärt

Ein weiteres Merkmal der Analyse ist die Schätzung des finanziellen Wertes der bereitgestellten Daten. Das Tool gibt einen Betrag in US-Dollar an, der den geschätzten Datenwert repräsentiert.

Proton räumte jedoch ein, dass die genauen Berechnungsmethoden sowohl für den Risiko-Score als auch für den Dollarwert nicht offengelegt werden. Aktuell beschränkt sich die Unterstützung auf ChatGPT und Claude, eine Erweiterung auf weitere KI-Dienste sei jedoch in Planung.

Datenschutz und strategische Einordnung

Hinsichtlich der Sicherheit der hochgeladenen Dateien betont Proton, dass sämtliche Uploads unmittelbar nach der Analyse gelöscht werden. Eine Speicherung auf den Servern von Lumo, dem hauseigenen KI-Assistenten des Unternehmens, finde nicht statt. Das Analyse-Tool dient dabei auch als Marketinginstrument für eben diesen Assistenten, um eine datenschutzfreundliche Alternative zu den marktführenden Systemen zu bewerben.

Die technologische Entwicklung bringt neue Anforderungen an den Schutz von Unternehmensdaten mit sich, die über die reine Analyse von Chatverläufen hinausgehen. Dieser kostenlose Report klärt darüber auf, welche rechtlichen Pflichten und Cyberrisiken durch neue KI-Gesetze auf Betriebe zukommen. Gratis-Report zu neuen KI-Gesetzen und Cyberrisiken anfordern

Proton-CEO Andy Yen unterstrich in einem aktuellen Interview die strategische Bedeutung dieses Themas. Er vertritt die Position, dass die Technologie der Künstlichen Intelligenz nur dann langfristig bestehen kann, wenn der Datenschutz integraler Bestandteil der Entwicklung ist. Die Branche müsse Privatsphäre als notwendige Bedingung für das Überleben von KI-Anwendungen begreifen.

Hinweise für Nutzer zur Einordnung der Ergebnisse

Fachleute der Organisation HCC haben das Tool einer Prüfung unterzogen und ordnen den Nutzen ein. Demnach diene die Anwendung primär der Sensibilisierung und Bewusstseinsbildung im Umgang mit KI-Bots. Die Ergebnisse sollten jedoch nicht als unabhängiger, unumstößlicher Beweis betrachtet werden. Nutzer werden dazu angehalten, die Berichte kritisch zu hinterfragen und das Tool als Orientierungshilfe für das eigene digitale Verhalten zu nutzen.

Der Bericht verdeutlicht die wachsende Besorgnis über die Menge an persönlichen Informationen, die Anwender oft unbewusst in Dialogen mit Künstlicher Intelligenz preisgeben. Während herkömmliche Suchanfragen bereits Profile ermöglichen, erlauben die konversationellen Strukturen von Chatbots laut Proton noch tiefere Einblicke in die Identität und die Lebensumstände der Nutzer.

de | wissenschaft | 69973291 |