Según Jin10, Anthropic está consultando a profesionales del derecho sobre cómo deberían negociar los agentes de IA para conseguir las mejores ofertas para los usuarios humanos, informó The Financial Times. A medida que surgen los agentes personales de IA, las empresas contemplan un futuro en el que los agentes se comuniquen entre sí y negocien en nombre de los usuarios. Dos personas familiarizadas con la postura de Anthropic dijeron que la empresa está solicitando asesoramiento a bufetes de abogados sobre cómo los abogados representan los intereses de sus clientes y, al mismo tiempo, garantizan resultados de negociación justos. Según las fuentes, Anthropic ha estado estudiando las «normas de negociación» que deberían seguir los modelos de IA al interactuar entre sí. A medida que los sistemas de agentes se vuelvan más capaces, actuarán en nombre de los usuarios y se encontrarán con otros agentes cuyos objetivos estén en conflicto. Anthropic también está sopesando cuánta retroalimentación humana deberían solicitar los agentes durante las negociaciones y cuán cautelosos deberían ser con otros agentes de IA, evitando al mismo tiempo volverse «paranoicos» o caer en «teorías conspirativas».