Laut Jin10 hat Anthropic Rechtsfachleute dazu konsultiert, wie KI-Agenten verhandeln sollten, um für menschliche Nutzer die besten Angebote zu erzielen, berichtet die Financial Times. Mit dem Aufkommen persönlicher KI-Agenten erwägen Unternehmen eine Zukunft, in der Agenten miteinander kommunizieren und im Namen der Nutzer verhandeln. Zwei mit den Überlegungen von Anthropic vertraute Personen sagten, das Unternehmen hole bei Anwaltskanzleien Rat dazu ein, wie Anwälte die Interessen ihrer Mandanten vertreten und zugleich faire Verhandlungsergebnisse sicherstellen. Quellen zufolge untersucht Anthropic die „Verhandlungsnormen“, an die sich KI-Modelle im Umgang miteinander halten sollten. Je leistungsfähiger Agentensysteme werden, desto häufiger werden sie im Namen ihrer Nutzer handeln und dabei auf andere Agenten mit widersprüchlichen Zielen treffen. Anthropic prüft außerdem, wie viel menschliches Feedback Agenten während Verhandlungen einholen sollten und wie misstrauisch sie gegenüber anderen KI-Agenten sein sollten – ohne dabei „paranoid“ zu werden oder in ein „verschwörungstheoretisches Denken“ zu verfallen.