OpenAI führt Trusted Contact ein: Notfallmeldung bei Suizidrisiko
Veröffentlicht am: 12.08.2026 um 13:52 Uhr | Redaktion boerse-global.de
In der psychologischen Beratung zeichnet sich eine deutliche Verschiebung der Nutzungsgewohnheiten ab. Wie die Telefonseelsorge Würzburg berichtet, nutzen Ratsuchende bei persönlichen Sorgen zunehmend Anwendungen auf Basis Künstlicher Intelligenz (KI) als Gesprächspartner. Während diese Technologien einen niederschwelligen Zugang bieten, warnen Experten vor den Grenzen von Systemen wie ChatGPT, wenn es um den Ersatz menschlicher Nähe und tiefgehender Empathie geht.
Neue Sicherheitsfunktionen und Nutzerverhalten
Als Reaktion auf die steigende Nutzung von KI in sensiblen Lebensbereichen hat der Entwickler OpenAI die Funktion „Trusted Contact“ eingeführt. Dieses Werkzeug ermöglicht es volljährigen Nutzern in den meisten Ländern, eine Vertrauensperson zu hinterlegen. Diese soll automatisch benachrichtigt werden, falls die KI in einem Chat Anzeichen für eine mögliche Suizidgefährdung erkennt. Die Einrichtung erfolgt über die Einstellungen der Anwendung, wobei die eingeladene Person die Anfrage innerhalb einer Woche bestätigen muss. Details aus den Gesprächsverläufen werden laut dem Unternehmen dabei nicht an den Kontakt übermittelt.
Aktuelle Daten unterstreichen die Relevanz solcher Funktionen. Eine Untersuchung der Stanford University unter der Leitung von Caroline Figueroa ergab, dass etwa 20 Prozent der 13- bis 22-Jährigen KI-Anwendungen für Belange ihrer psychischen Gesundheit nutzen. Als Hauptgründe nannten die Befragten die ständige Verfügbarkeit und das Ausbleiben zwischenmenschlicher Verurteilung. Gleichzeitig identifizierten die Forscher erhebliche Risiken, darunter die Gefahr einer emotionalen Abhängigkeit, den Erhalt potenziell schädlicher Ratschläge sowie negative Auswirkungen auf reale soziale Beziehungen.
Herausforderungen in der medizinischen Einordnung
Auch im breiteren Gesundheitssektor ist die Technologie bereits fest etabliert. Eine Umfrage der Organisation KFF im Juni 2026 zeigte, dass 29 Prozent der Erwachsenen in den USA monatlich KI für Gesundheitsinformationen heranziehen. Die Verlässlichkeit bleibt jedoch ein kritischer Punkt: Eine Studie belegte, dass ChatGPT in rund 50 Prozent der Fälle medizinische Notfälle unterdiagnostizierte. Dennoch existieren Erfolgsberichte, wie der Fall einer Patientin, bei der das System eine Lungenentzündung korrekt identifizierte.
Wer sich mit der Integration von KI-Systemen im professionellen Umfeld befasst, muss neben der Verlässlichkeit auch die rechtlichen Rahmenbedingungen genau kennen. Dieser kostenlose Umsetzungsleitfaden bietet Unternehmen einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Die Forschung befasst sich intensiv mit der Validierung dieser Werkzeuge. Im Rahmen des EU-Projekts ResPECT entwickeln 22 Partner unter Koordination der Universität Heidelberg KI-Assistenten für die Bereiche Brustkrebs und Depression. Parallel dazu konnte die Universität Oxford in der sogenannten PETRUSHKA-Studie zeigen, dass eine KI-gestützte Personalisierung von Antidepressiva die Wahrscheinlichkeit, dass Patienten ihre Behandlung fortsetzen, um 40 Prozent erhöht.
Marktwachstum und regulatorische Gegenbewegungen
Der Markt für spezialisierte KI-Beratung wächst global. Das Berliner Start-up Arab Therapy sicherte sich vor kurzem eine Pre-Series-A-Finanzierung in Höhe von 2 Millionen US-Dollar, um seine Plattform für arabischsprachige Nutzer in Saudi-Arabien und der Region auszuweiten. In China startete JD Health gemeinsam mit der Beihang-Universität die Plattform „Hang Xiao Ai“, die nach Unternehmensangaben herkömmliche Modelle in den Bereichen Empathie und Fachberatung übertrifft.
Trotz des technologischen Fortschritts verstärken staatliche Stellen die Regulierung. In China wurde zum 15. Juli 2026 ein Verbot für KI-Begleiter-Apps erlassen, die gezielt emotionale Abhängigkeiten fördern, wobei die Nutzung für Minderjährige komplett untersagt wurde. Hintergrund ist unter anderem die Sorge um die soziale Entwicklung angesichts sinkender Geburtenraten. Auch in Europa steigen die Anforderungen: Anthropic versieht Texte seines Modells Claude seit August 2026 mit unsichtbaren Wasserzeichen, um den Transparenzpflichten der EU-KI-Verordnung zu entsprechen.
Die neuen Regeln der EU-KI-Verordnung stellen viele Organisationen vor komplexe Aufgaben bei der Dokumentation und Risikobewertung ihrer Systeme. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und wie Sie die rechtlichen Vorgaben jetzt konkret umsetzen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Branchenbeobachter und Psychologen betonen gleichermaßen, dass KI zwar als kognitive Entlastung und Übungsinstrument fungieren kann, die Tiefe und Gegenseitigkeit menschlicher Bindungen jedoch unerreicht bleiben. Eine Untersuchung in der Fachzeitschrift Current Psychology kam zu dem Schluss, dass Chatbots zwar Interaktionsressourcen bieten, aber keine echte soziale Motivation oder menschliche Tiefe ersetzen können.
