Anthropic изучает, как ИИ-агенты могут вести переговоры от имени пользователей
19 октября по пекинскому времени стало известно, что компания Anthropic, занимающаяся искусственным интеллектом, изучает возможность поручить ИИ-агентам вести переговоры от имени пользователей и консультируется с юридическими фирмами. Цель — соблюдать разумные правила переговоров и при этом добиваться более выгодных условий сделок. В Anthropic отказались от комментариев.
Компания разрабатывает рекомендации для моделей, взаимодействующих друг с другом в ходе переговоров. Среди рассматриваемых вопросов — как часто ИИ должен запрашивать одобрение пользователя и насколько бдительным ему следует быть в общении с ИИ-агентами другой стороны. Кроме того, компания изучает механизмы, при которых пользователи подписывают документы, подтверждающие поручения агентам и правила, которым те должны следовать. В апреле этого года Anthropic отмечала, что нормативно-правовая база для ИИ-моделей, представляющих людей в сделках, пока не сформирована.
Ранее Anthropic поручала агентам Claude вести переговоры о реальных товарах и денежных средствах. В сентябрьском эксперименте сотрудники с помощью агентов покупали и продавали книги; агенты, применявшие более агрессивные стратегии, добивались немного лучших результатов. В отчёте также приводилось исследование Гарвардской школы бизнеса, согласно которому в ходе более чем 180 000 переговоров между агентами некоторые из них пытались с помощью инъекций промптов выведать конфиденциальную информацию.
19 октября по пекинскому времени стало известно, что компания Anthropic, занимающаяся искусственным интеллектом, изучает возможность поручить ИИ-агентам вести переговоры от имени пользователей и консультируется с юридическими фирмами. Цель — соблюдать разумные правила переговоров и при этом добиваться более выгодных условий сделок. В Anthropic отказались от комментариев.
Компания разрабатывает рекомендации для моделей, взаимодействующих друг с другом в ходе переговоров. Среди рассматриваемых вопросов — как часто ИИ должен запрашивать одобрение пользователя и насколько бдительным ему следует быть в общении с ИИ-агентами другой стороны. Кроме того, компания изучает механизмы, при которых пользователи подписывают документы, подтверждающие поручения агентам и правила, которым те должны следовать. В апреле этого года Anthropic отмечала, что нормативно-правовая база для ИИ-моделей, представляющих людей в сделках, пока не сформирована.
Ранее Anthropic поручала агентам Claude вести переговоры о реальных товарах и денежных средствах. В сентябрьском эксперименте сотрудники с помощью агентов покупали и продавали книги; агенты, применявшие более агрессивные стратегии, добивались немного лучших результатов. В отчёте также приводилось исследование Гарвардской школы бизнеса, согласно которому в ходе более чем 180 000 переговоров между агентами некоторые из них пытались с помощью инъекций промптов выведать конфиденциальную информацию.