OpenAI führt Sicherheitsnetz für psychische Krisen bei ChatGPT ein

Mai 2026 eine neue Sicherheitsfunktion namens „Trusted Contact" vorgestellt. Erwachsene Nutzer von ChatGPT können damit eine Vertrauensperson benennen, die benachrichtigt wird, wenn die KI Gesprächsmuster erkennt, die auf Selbstgefährdung oder Suizidrisiko hindeuten. Der Schritt erfolgt zu einem Zeitpunkt, an dem die gesamte Branche unter wachsendem Druck von Regulierungsbehörden und Geschäftskunden steht, nachzuweisen, dass KI-Modelle ethisch und sicher arbeiten können.

Die Einführung des Sicherheits-Tools fällt in eine Phase intensiver technischer Neuerungen und regulatorischer Verschiebungen. Während OpenAI sein Sicherheitsnetz für Verbraucher ausbaut, haben EU-Gesetzgeber Anfang Mai die Umsetzungsfristen des AI Acts angepasst. Die US-Regierung wiederum formalisierte neue Sicherheitspartnerschaften mit mehreren der weltweit größten Technologiekonzerne.

Während Unternehmen wie OpenAI neue Sicherheitsfunktionen einführen, stellt die EU mit dem AI Act bereits die rechtlichen Weichen für die gesamte Branche. Dieser kostenlose Umsetzungsleitfaden hilft Firmen dabei, die neuen Anforderungen an Risikoklassen und Dokumentation rechtzeitig zu erfüllen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

So funktioniert der „Trusted Contact"-Mechanismus

Die Funktion ist ein freiwilliges Sicherheitsangebot für Erwachsene und baut auf bestehenden Schutzmechanismen für jüngere Nutzer auf. Erkennt das System eine hochriskante Interaktion, wird eine zuvor festgelegte Kontaktperson benachrichtigt. Aus Datenschutzgründen gibt OpenAI keine konkreten Gesprächsverläufe an den Kontakt weiter. Stattdessen bietet die KI weiterhin Standardhilfen wie Links zu Krisentelefonen an, während die Benachrichtigung als externer Alarm für eine Intervention in der realen Welt dient.

Das Sicherheits-Update war Teil einer größeren technischen Präsentation am 7. Mai. OpenAI veröffentlichte drei neue Echtzeit-Audiomodelle über seine API. Dazu gehört GPT-Realtime-2, das über Reasoning-Fähigkeiten auf dem Niveau der GPT-5-Klasse verfügt. GPT-Realtime-Translate unterstützt Live-Übersetzungen für über 70 Eingabesprachen, und GPT-Realtime-Whisper ist ein Streaming-Transkriptionswerkzeug. Die Preise liegen bei 32 Dollar pro Million Audio-Input-Tokens für das Reasoning-Modell, während Übersetzungs- und Transkriptionsdienste mit 0,034 beziehungsweise 0,017 Dollar pro Minute berechnet werden. Zu den ersten Anwendern der Sprachtechnologien gehören die Deutsche Telekom, Zillow und Priceline.

Zudem erweiterte OpenAI sein Angebot für die Cybersicherheitsbranche: Das Modell GPT-5.5-Cyber (intern „Spud" genannt) wurde geprüften Verteidigern zur Verfügung gestellt. Tests des britischen KI-Sicherheitsinstituts zeigten, dass das Modell zwei von zehn komplexen 32-stufigen Cyberangriffen erfolgreich ausführte – ein Ergebnis, das knapp hinter dem Modell Mythos von Anthropic liegt, das drei von zehn ähnlichen Tests bestand.

EU lockert KI-Regulierung – Industrie atmet auf

Parallel zu den Sicherheitsbemühungen der Entwickler hat die EU ihren regulatorischen Kurs angepasst. Am 7. Mai 2026 einigten sich die EU-Gesetzgeber darauf, bestimmte Aspekte des AI Acts abzumildern. Die Frist für eigenständige Hochrisiko-KI-Modelle wurde von August 2026 auf den 2. Dezember 2027 verschoben. KI-Systeme, die in physische Produkte wie Spielzeug oder Maschinen integriert sind, haben nun bis zum 2. August 2028 Zeit, die Auflagen zu erfüllen.

Dieser Kurswechsel folgte auf massiven Lobbydruck von Industriegiganten wie Siemens, Bosch, SAP und Airbus. Der daraus resultierende „Digital Omnibus on AI" nimmt industrielle KI in Maschinen weitgehend von den strengsten Regeln aus – eine Entwicklung, die von deutschen Industrieführern begrüßt wurde. Trotz der Verzögerungen bleibt die EU bei bestimmten Straftatbeständen hart: Ein Verbot von KI-generiertem Missbrauchsmaterial an Kindern und der Erstellung nicht-einvernehmlicher intimer Deepfakes soll am 2. Dezember 2026 in Kraft treten. EU-Kommissionspräsidentin Ursula von der Leyen bezeichnete den überarbeiteten Rahmen als innovationsfreundlich, ohne die akutesten gesellschaftlichen Risiken zu verzichten.

Die technologische Entwicklung von OpenAI und die neuen EU-Regeln verdeutlichen die enorme wirtschaftliche Bedeutung von Big-Data-Unternehmen. Welche zehn Aktien aktuell am stärksten vom KI-Megatrend profitieren, verrät dieser fundierte Experten-Report für Anleger. Top 10 KI-Aktien: Diese Unternehmen könnten Ihr Depot revolutionieren

In den USA haben das Handelsministerium und das National Institute of Standards and Technology (NIST) ihre Aufsicht ebenfalls verschärft. Anfang Mai 2026 unterzeichnete die Regierung Vereinbarungen mit Google DeepMind, Microsoft und xAI zur Sicherheitsprüfung von KI-Modellen vor deren öffentlicher Veröffentlichung. Diese Firmen schließen sich Anthropic und OpenAI an, die bereits seit 2024 unter ähnlichen Vereinbarungen arbeiten. Das Weiße Haus erwägt zudem eine Executive Order, die ein zentrales Vetosystem für KI-Veröffentlichungen etablieren könnte – ausgelöst durch Sicherheitsbedenken rund um fortschrittliche Reasoning-Modelle wie Anthropics Claude Mythos.

Globale Nutzung boomt – aber die Schere öffnet sich

Der Fokus auf Sicherheit und Regulierung fällt in eine phase massiver Kapitalinvestitionen und rasanter Verbreitung. Aktuelle Daten von Microsoft zeigen, dass im ersten Quartal 2026 rund 17,8 Prozent der Weltbevölkerung zwischen 15 und 64 Jahren generative KI nutzen. Allerdings klafft eine wachsende Schere zwischen den Regionen: In entwickelten Volkswirtschaften liegt die Nutzung bei 27,5 Prozent, in Entwicklungsländern bei nur 15,4 Prozent.

Die finanziellen Verpflichtungen in diesem Sektor bleiben enorm. In China sicherte sich das Startup Moonshot AI am 7. Mai 2026 Finanzmittel in Höhe von zwei Milliarden Dollar und erreichte eine Bewertung von 20 Milliarden Dollar. Der jährliche wiederkehrende Umsatz des Unternehmens erreichte im April 2026 200 Millionen Dollar, angetrieben durch die Popularität seiner Kimi-Modelle. In den USA gab Scale AI einen 500-Millionen-Dollar-Vertrag mit dem Pentagon-Büro für KI und digitale Entscheidungsunterstützung bekannt – zur Datenkennzeichnung und Bereitstellung von Entscheidungshilfen für militärische Anwendungen.

Anthropic sicherte sich derweil die physische Infrastruktur für sein Wachstum. Anfang Mai 2026 vereinbarte das Unternehmen mit SpaceX die Nutzung der gesamten Kapazität des terrestrischen Rechenzentrums Colossus 1, das über 220.000 Nvidia-Chips beherbergt und mehr als 300 Megawatt Strom verbraucht. Anthropic-CEO Dario Amodei betonte, das Wachstum habe sich im Vergleich zum ersten Quartal des Vorjahres annualisiert um das 80-Fache erhöht. Zu den langfristigen Plänen beider Unternehmen gehört die Erkundung orbitaler Rechenzentren mit Gigawatt-Kapazität.

Glaube und KI: Erster interreligiöser Dialog

Jenseits rechtlicher und finanzieller Strukturen suchen einige Branchenführer nach moralischen Rahmenwerken für die KI-Entwicklung. Am 8. Mai 2026 nahmen Vertreter von OpenAI und Anthropic am ersten „Faith-AI Covenant"-Rundtischgespräch in New York teil. Die Veranstaltung brachte Führungspersönlichkeiten aus christlichen, Sikh- und buddhistischen Traditionen zusammen, um über universelle ethische Prinzipien für künstliche Intelligenz zu diskutieren. Während Kritiker argumentieren, solche Initiativen könnten von harten regulatorischen Anforderungen ablenken, betonten Teilnehmer, dass religiöse Perspektiven helfen könnten, die moralische „Verfassung" zukünftiger Modelle zu prägen.

Ausblick: Was 2026 noch bringt

Die Hinwendung zu proaktiven Sicherheitsfunktionen wie OpenAIs „Trusted Contact" und die Formalisierung staatlicher Tests deuten auf eine Branche hin, die versucht, über experimentelle Chatbots hinauszuwachsen. Dieser Wandel zeigt sich auch in den sich verändernden Produktstrategien großer Player. Google stellte etwa am 4. Mai 2026 sein autonomes Surf-Projekt Project Mariner ein – ein Zeichen dafür, dass sich die Industrie von visuellen Screenshot-basierten Agenten hin zu effizienterer codebasierter Automatisierung bewegt.

Mehrere wichtige Meilensteine werden den Rest des Jahres 2026 prägen. Google wird voraussichtlich seinen proaktiven persönlichen Assistenten (Codename „Remy") auf der Google I/O ab dem 19. Mai 2026 vorstellen. Am selben Datum wird Google die Fitbit-App offiziell durch eine konsolidierte Google Health App ersetzen, die einen auf Gemini basierenden Gesundheitscoach integriert, der bereits mit 500.000 Beta-Testern erprobt wurde.

Für OpenAI könnte der Erfolg der „Trusted Contact"-Funktion als Blaupause für künftige soziale Verantwortungstools dienen. Während das Unternehmen mit laufenden rechtlichen Herausforderungen kämpft – darunter ein Verfahren in Oakland, in dem Elon Musk Bedenken über OpenAIs Abkehr von der ursprünglichen Non-Profit-Mission geäußert hat – bleibt die Implementierung konkreter Sicherheitsfunktionen eine zentrale Strategie, um das Vertrauen der Öffentlichkeit und der Regulierungsbehörden zu erhalten. Die formelle Verabschiedung des abgemilderten EU-AI-Acts wird vor der Sommerpause erwartet und bietet Entwicklern, die im europäischen Markt tätig sind, einen klareren – wenn auch verzögerten – Fahrplan.

de | wissenschaft | 69290514 |