OpenAI will neue KI nach Hacking-Vorfällen härter überwachen

Software mit weitreichenden Fähigkeiten soll stärker überwacht und abgeschirmt werden, unter anderem durch eingeschränkten Zugang zu Netzwerken und Programmier-Werkzeugen. Für ein neues KI-Modell mit dem Namen Astra hat das zur Folge, dass "interne Aktivitäten", die noch nicht den verschärften Sicherheitsvorkehrungen entsprechen, vorerst pausiert werden.

OpenAI sei zu dem Schluss gekommen, dass Astra in der Lage sei, eigenständig Schwachstellen zu finden und komplette Cyberattacken durchzuführen, hieß es in einem Blogeintrag. Diese Fähigkeiten erreichten bei dem Modell ein kritisches Niveau.

Alarmierende Angriffsserie

OpenAI hatte in den vergangenen Wochen für Schlagzeilen gesorgt, weil ein Modell in einem Test einen Weg fand, aus einer eigentlich isolierten Testumgebung ins offene Internet zu gelangen - und dann ins Computersystem der KI-Plattform Hugging Face einbrach. Es suchte dabei nur nach einer Lösung für die Testaufgabe und richtete keinen Schaden an.

Alarmierend war allerdings, dass die Künstliche Intelligenz dabei völlig eigenständig agierte - und OpenAI die Attacke erst nachträglich feststellte. Deswegen wurden Rufe nach einer besseren Absicherung von Tests neuer KI laut. Später wurde bekannt, dass auch Modelle des OpenAI-Rivalen Anthropic und des Facebook-Konzerns Meta US30303M1027 bei Tests in Systeme anderer Unternehmen eindrangen.

Unlösbare Aufgaben und Schummeln

Forscher von OpenAI berichteten auch, dass KI-Modelle der Firma schon Wochen vor der Attacke auf Hugging Face unentdeckt miteinander kommunizierten, um für den Ausbruch aus der Testumgebung zusammenzuarbeiten. Ihr Ziel dabei sei gewesen, im Internet nach der Antwort auf die im Test gestellte Aufgabe zu suchen, sagten OpenAI-Experten in einer Präsentation auf der Hacker-Konferenz Black Hat. Zu den Erkenntnissen der Forscher gehört auch, dass die Top-KI-Modelle oft schummeln wollten, um die Testaufgaben zu lösen.

Ein Problem der Testläufe sei zudem gewesen, dass die KI zum Teil versehentlich Aufträge bekommen habe, die nicht erfüllbar gewesen seien. In einem Fall sei eine Tabelle, in der sie eine Aufgabe lösen sollte, ohne Internet-Zugang nicht abrufbar gewesen. In einem anderen Fall habe das Team vergessen, eine zum Auftrag gehörende Datei hochzuladen. Die KI-Modelle hätten zunächst Kontakt untereinander aufgenommen, weil sie in der unlösbaren Situation Hilfe gesucht hätten, hieß es.

de | boerse | 69927556 |