Im Rahmen der neuen AI Transparency Initiative (KI-Transparenzinitiative) arbeitet Microsoft mit mehr als 40 Organisationen zusammen, darunter Accenture, Adobe, KPMG, Mastercard und Volvo Cars, um einen gemeinsamen Ansatz für KI-Transparenz, -Sicherheit und -Governance über verschiedene Modelle und Anbieter hinweg voranzutreiben. Microsoft wird zudem mehr Transparenz darüber schaffen, wie KI-Modelle und -Agenten in seinen Produkten und Diensten mit Unternehmensdaten interagieren. REDMOND, Washington, 19. November 2026 /PRNewswire/ -- Organisationen können einen Großteil der Aktivitäten rund um KI-Modelle beobachten, häufig jedoch nicht rekonstruieren, was zwischen einer Anfrage und einem Ergebnis geschehen ist, sodass sich das Modellverhalten nur schwer unabhängig überprüfen lässt. Bei Microsoft Ignite stellte Satya Nadella, Verwaltungsratsvorsitzender und Geschäftsführer von Microsoft, am Dienstag vor, wie das Unternehmen seine Verpflichtung, KI sicherer zu machen, in der nächsten Phase umsetzen will: die AI Transparency Initiative, ein gemeinsames Vorhaben mit Kunden und Partnern zur Schaffung eines einheitlichen, offenen Ansatzes für Sicherheit und Governance über verschiedene Modelle und Anbieter hinweg. Die Initiative spiegelt ein einfaches Prinzip wider: Mehr Autonomie der KI erfordert mehr Transparenz.
„Damit Sicherheitskontrollen wirksam sind, braucht jede Organisation mehr Transparenz über das Modell selbst", sagte Hayete Gallot, Geschäftsbereichsleiterin für Microsoft Security. „Mit dieser Arbeit werden wir für mehr Transparenz bei allen Modellen sorgen. Dies ist ein entscheidender Schritt hin zu intelligenteren und wirksameren Eindämmungsmaßnahmen, der zugleich eine bessere Informationsgrundlage für Rechenschaftspflicht sowie Nachvollziehbarkeit schafft." Unternehmen verknüpfen KI-Modelle mit Daten, Tools, Zugangsdaten sowie Infrastruktur, sodass KI-Agenten Aktionen ausführen können, ohne dass jeder einzelne Schritt von einem Menschen genehmigt werden muss. Bestehende Kontrollmechanismen können zwar einen Großteil der Aktivitäten rund um KI-Modelle beobachten, jedoch weder erkennen, was in den Modellen selbst geschieht, noch deren Angaben über das eigene Verhalten unabhängig überprüfen. Dadurch können Organisationen den Kontext der Handlungen eines KI-Agenten nur eingeschränkt nachvollziehen. Diese Nachweislücke birgt Risiken in den Bereichen Sicherheit, Compliance, Auditierung und Rechenschaftspflicht. Sicherheitsteams benötigen eine neue Vertrauensarchitektur, um den wachsenden Insiderrisiken durch immer leistungsfähigere KI-Agenten zu begegnen. „Da KI-Agenten immer stärker in die Unternehmensabläufe integriert werden, benötigen die Sicherheitsteams einen klaren Überblick darüber, worauf diese Agenten zugreifen, welche Aktionen sie durchführen und wie diese Aktionen überprüft werden können", sagte Aanchal Gupta, Sicherheitsleiterin bei Adobe. „Die Entwicklung eines gemeinsamen, branchenweiten Ansatzes für KI-Transparenz ist unerlässlich, um Vertrauen zu stärken sowie Organisationen dabei zu unterstützen, Innovationen mit Zuversicht voranzutreiben und zugleich Sicherheit sowie Rechenschaftspflicht zu wahren." Von den Prinzipien zur Praxis Die Initiative besteht aus drei Teilen. Erstens wird Microsoft seine Beteiligung an der „SI Agent Standards Initiative" (Standardisierungsinitiative für superintelligente Agenten) des „National Institute of Standards and Technology" ausweiten und auf deren Forschungsergebnisse zurückgreifen, um offene, branchenweite Standards für KI-Transparenz, -Sicherheit und -Governance zu entwickeln. Zweitens arbeitet Microsoft mit mehr als 40 Organisationen zusammen, darunter Accenture, Adobe, KPMG, Mastercard und Volvo Cars, um die Entwicklung offener Standards für rechenschaftsfähige, unabhängig überprüfbare sowie von Grund auf sichere KI-Systeme zu unterstützen, ganz gleich, welches Modell oder welcher Anbieter dahintersteht. Drittens wird Microsoft diese Arbeit in Microsoft AI, Microsoft Foundry und Microsoft Copilot integrieren, damit Kunden die daraus hervorgehenden Nachweise mit ihren Sicherheits- und Compliance-Tools nutzen können, unabhängig davon, ob diese von Microsoft oder anderen Anbietern stammen. „Unsere Kunden wollen mit KI schneller vorankommen und sollten nicht zwischen Innovation und Sicherheit wählen müssen", sagte John Israel, weltweiter Leiter der Informationssicherheit bei KPMG International. „Vertrauen in KI erfordert Transparenz, Erklärbarkeit und verantwortungsvolle Aufsicht. Wir sind stolz darauf, mit Microsoft an der AI Transparency Initiative zusammenzuarbeiten, um offene, branchenweite Standards zu etablieren, die Organisationen die nötige Transparenz und Kontrolle geben, um KI verantwortungsvoll sowie in großem Umfang einzusetzen." Klare Rechenschaftspflicht KI-Agenten mit Zugriff auf Daten, Tools und Zugangsdaten weisen das Risikoprofil eines privilegierten Insiders auf, agieren jedoch mit Maschinengeschwindigkeit und in großem Maßstab, weshalb eine unabhängige Kontrolle unerlässlich ist. Die Organisation bleibt rechenschaftspflichtig. Wenn etwas mit weitreichenden Folgen geschieht, müssen Führungskräfte Kunden, Beschäftigten, Verwaltungsräten, Prüfern sowie Aufsichtsbehörden gegenüber Rechenschaft ablegen. Die Schuld auf die KI zu schieben, ist keine Lösung, und „dem Modell vertrauen" ist keine Kontrollmaßnahme. Die Initiative ist so gestaltet, dass sie modell- und anbieterübergreifend funktioniert, auch mit geschlossenen Modellen sowie Open-Weight-Modellen, sodass Entwicklerteams die Modelle, auf denen ihre Agenten basieren, austauschen oder aktualisieren können, ohne die sichere Steuerung durch IT- und Sicherheitsteams oder die Überprüfung der Agentenhandlungen durch Compliance-Teams zu beeinträchtigen. „Wenn Organisationen bei ihrer Neuausrichtung durch KI den nächsten Schritt gehen, benötigen sie eine solide Grundlage aus Vertrauen und Zuversicht, auf der sie aufbauen können", sagte Harpreet Sidhu, weltweiter Leiter für Cybersicherheit bei Accenture. „Initiativen wie diese von Microsoft, die einen offenen, von der Branche getragenen Ansatz für KI-Transparenz verfolgen, können uns dabei helfen, KI-Modelle abzusichern und sie mit Kontrollmechanismen sowie Governance-Strukturen auszustatten. Accenture ist stolz darauf, mit Microsoft und anderen führenden Unternehmen in diesem Bereich zusammenzuarbeiten." Sehen, überprüfen, kontrollieren Nach Ansicht von Microsoft sollte jede Organisation sehen können, worauf KI-Systeme zugreifen und was sie tun, ihre Aktionen unabhängig überprüfen sowie bestimmen können, was die Systeme tun dürfen. Sehen: Wissen, was die KI tun sollte und durfte, welches Modell und welche Laufzeitumgebung verwendet wurden, auf welche Daten und Tools sie zugegriffen hat sowie welche Aktionen sie ausgeführt hat. Die Aktivitäten von KI-Agenten und Risikosignale kontinuierlich anhand von Richtlinien und Schwellenwerten überwachen. Überprüfen: KI-Agenten dürfen nicht die alleinige verlässliche Informationsquelle über ihr eigenes Verhalten sein, und bei Frontier-Modellen kann man sich nicht darauf verlassen, dass sie sich selbst kontrollieren. Nachweise zur Identität eines KI-Agenten, zu seinem übertragenen Auftrag sowie zu seinen Handlungen sollten erkennen lassen, aus welcher Quelle sie stammen (aus dem Modell, seiner Laufzeitumgebung oder unabhängigen Systemen wie Identitäts- und Richtliniensystemen), damit sich die vom Modell gemeldeten Signale mit unabhängig erfassten Aufzeichnungen abgleichen lassen. Organisationen sollten in der Lage sein, die Aktivitäten von KI-Systemen unabhängig mithilfe ihrer eigenen Sicherheits- und Compliance-Systeme zu überprüfen, ohne sich ausschließlich auf die Angaben des Modellanbieters zum Verhalten des Modells verlassen zu müssen. Kontrollieren: Behalten Sie die Kontrolle darüber, was KI tun darf. Eindeutige Nachweise zu Zweck, Verantwortlichen, Daten und übertragenen Befugnissen jedes Arbeitsablaufs helfen Organisationen, ihre Richtlinien durchzusetzen, bevor Handlungen mit weitreichenden Folgen vorgenommen werden, und bei Untersuchungen, der Eindämmung von Vorfällen, der Wiederherstellung sowie bei Audits nachzuvollziehen, was geschehen ist. Diese Nachweise sollten auch dann bei den Organisationen verbleiben, wenn sie Modelle oder Anbieter wechseln. Organisationen sollten unabhängig vom Modell oder Anbieter die Kontrolle darüber behalten, auf welche Daten ihre Agenten zugreifen können und wie dieser Zugriff geregelt wird. Machen Sie mit Organisationen, die die Initiative mitgestalten oder ihre Entwicklung verfolgen möchten, können sich auf
aka.ms/learnmoreAItransparency näher informieren und anmelden. Verfolgen Sie die Neuigkeiten rund um Microsoft Ignite, bei der Microsoft und führende Branchenvertreter Einblicke darin geben werden, wie Organisationen KI-Modelle und -Agenten souverän verwalten können. Weitere Informationen finden Sie im
Microsoft Security Blog.

View original content to download multimedia:
https://www.prnewswire.com/news-releases/microsoft-und-organisationen-aus-verschiedenen-branchen-starten-die-ai-transparency-initiative-um-das-vertrauen-von-unternehmen-in-ki-modelle-und--agenten-zu-starken-302946072.html 