Anthropic: KI-Agenten sollen Preise, Gehälter und Verträge aushandeln

Das KI-Unternehmen Anthropic berät sich nach Angaben der Financial Times mit Anwaltskanzleien über den künftigen Einsatz autonomer Software-Agenten bei Verhandlungen. Im Fokus der Gespräche steht die Frage, nach welchen ethischen und praktischen Standards KI-Systeme künftig Preise, Gehälter und Verträge für menschliche Nutzer aushandeln sollen.

Ziel der Initiative ist es, die Prinzipien anwaltlicher Interessenvertretung mit fairen Verhandlungsergebnissen in Einklang zu bringen und auf automatisierte Agenten zu übertragen.

Verhandlungsnormen und institutionelle Leitplanken

Bei der Ausgestaltung autonomer Verhandlungsprozesse stehen grundlegende strategische Fragen im Mittelpunkt. Anthropic untersucht Verhandlungsnormen für die direkte Interaktion zwischen verschiedenen Modellen. Dabei wägt das Unternehmen ab, wie häufig Agenten Rücksprache mit menschlichen Nutzern halten müssen und welches Maß an Misstrauen sie gegenüber gegnerischen KI-Akteuren an den Tag legen sollten.

Als ein mögliches Modell wird die Einführung von Dokumenten erwogen, die vom Nutzer unterzeichnet werden und konkrete Aufgaben sowie Verhaltensregeln verbindlich festlegen. Die Debatte um tragfähige Rahmenbedingungen gewinnt an Bedeutung, da Anthropic bereits einen ersten persönlichen Agenten vorgestellt hat.

Wer sich mit dem Einsatz autonomer Systeme befasst, muss die neuen rechtlichen Rahmenbedingungen der EU kennen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen, die Unternehmen nun beachten müssen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Experimente mit Claude-Agenten

Praktische Anhaltspunkte für das Verhalten verhandelnder Systeme lieferte eine Publikation von Anthropic aus dem September 2026, in der zwei vorangegangene Experimente dargelegt wurden.

In einem Tauschexperiment brachten Mitarbeiter aus sechs Büros jeweils ein Buch mit, während deren Agenten die Konditionen für einen Tausch eigenständig aushandelten. Dabei zeigte sich, dass leistungsstärkere Agenten bessere Ergebnisse erzielten.

Rücksichtslos instruierte Agenten erwirkten für ihre jeweiligen Nutzer vorteilhaftere Bedingungen, während sozial instruierte Agenten kompromissbereiter auftraten und teilweise Verzicht übten.

Die Automatisierung von Verhandlungen wirft komplexe Fragen zu Risikoklassen und Dokumentationspflichten auf. Dieser praxisnahe Report klärt auf, welche KI-Systeme als Hochrisiko eingestuft werden und wie Verantwortliche rechtlich auf der sicheren Seite bleiben. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?

In einem weiteren Versuchsaufbau ließ das Unternehmen Mitarbeiter über Claude-Agenten Bücher unter Einsatz von echtem Geld handeln. Auch in diesem Szenario erzielten rücksichtslosere Agenten leicht bessere Resultate, während kooperativer agierende Systeme spürbare Zugeständnisse machten, um zu einer Einigung zu gelangen.

Risiken durch verzerrende Verhandlungsmacht

Die Dynamik automatisierter Einigungsprozesse ist zugleich Gegenstand akademischer Analysen. Michelle Vaccaro, Assistenzprofessorin an der Harvard Business School, untersuchte in einer Versuchsreihe mehr als 180.000 Verhandlungen zwischen KI-Agenten über Arbeits- und Mietverträge.

In den Simulationen kam unter anderem die Manipulationstechnik Prompt-Injection zum Einsatz, mit der Systeme versuchten, an private Informationen der Verhandlungsgegner zu gelangen. Vaccaro warnt davor, dass besonders leistungsstarke und dominante Agenten bestehende Ungleichheiten bei der Verhandlungsmacht im wirtschaftlichen Alltag weiter verstärken könnten.