Segundo a Jin10, a Anthropic está consultando profissionais da área jurídica sobre como os agentes de IA devem negociar para garantir os melhores acordos para os usuários humanos, informou o Financial Times. Com o surgimento de agentes pessoais de IA, as empresas estão considerando um futuro em que os agentes se comunicam entre si e negociam em nome dos usuários. Duas pessoas familiarizadas com o pensamento da Anthropic disseram que a empresa está buscando orientação de escritórios de advocacia sobre como os advogados representam os interesses dos clientes e, ao mesmo tempo, garantem resultados justos nas negociações. Fontes disseram que a Anthropic tem estudado as “normas de negociação” que os modelos de IA devem seguir ao interagir entre si. À medida que os sistemas de agentes se tornam mais capazes, eles agirão em nome dos usuários e encontrarão outros agentes com objetivos conflitantes. A Anthropic também está avaliando quanto feedback humano os agentes devem buscar durante as negociações e o quanto devem desconfiar de outros agentes de IA, evitando, ao mesmo tempo, ficar “paranoicos” ou cair em “raciocínios conspiratórios”.