По данным СМИ, OpenAI и Anthropic якобы обсуждали взаимные тестирования больших языковых моделей
Как сообщают СМИ со ссылкой на информированные источники, Anthropic и OpenAI рассматривали подписание юридически обязывающего соглашения, чтобы взаимно проводить стресс-тесты своих больших моделей. Ранее в этом году обе компании и их команды юристов обсуждали этот план: конкуренты могли бы глубоко протестировать самые новые доступные модели друг друга, чтобы выявить потенциальные риски или уязвимости в области безопасности. Такие испытания применяются только к коммерциализированным моделям, и стороны договорились не сохранять данные друг друга. В сообщении не уточняется, достигли ли обе стороны в итоге такого соглашения. В последнее время внимание привлекла идея внедрения некоторой формы взаимного рецензирования между ведущими AI-лабораториями. На прошлой неделе глава SpaceX Илон Маск предложил, чтобы американские ведущие компании, разрабатывающие большие модели, а также некоторые китайские AI-компании позволили конкурентам проводить перекрестные тесты. Маск заявил, что у всех AI-компаний есть наборы тестовых инструментов, и каждая компания может прогонять модели с помощью инструментов других; по его словам, это, возможно, лучшее, что можно сделать для обеспечения собственной безопасности. Ранее в этом месяце исследователь Anthropic Джейкоб Кокссон объявил об уходе с поста и предупредил, что ведущие компании в сфере искусственного интеллекта ускоряют разработку без надлежащих мер защиты. Затем генеральный директор Anthropic Дарио Амодеи опубликовал пост с призывом замедлить темпы разработки AI и ввести механизмы независимой третьей оценки. В пятницу прошлого дня Anthropic объявила о сотрудничестве с Accenture: Accenture выступит в качестве третьей стороны для проведения оценки безопасности и соответствия требованиям для ее передовых AI-моделей.
Как сообщают СМИ со ссылкой на информированные источники, Anthropic и OpenAI рассматривали подписание юридически обязывающего соглашения, чтобы взаимно проводить стресс-тесты своих больших моделей. Ранее в этом году обе компании и их команды юристов обсуждали этот план: конкуренты могли бы глубоко протестировать самые новые доступные модели друг друга, чтобы выявить потенциальные риски или уязвимости в области безопасности. Такие испытания применяются только к коммерциализированным моделям, и стороны договорились не сохранять данные друг друга. В сообщении не уточняется, достигли ли обе стороны в итоге такого соглашения. В последнее время внимание привлекла идея внедрения некоторой формы взаимного рецензирования между ведущими AI-лабораториями. На прошлой неделе глава SpaceX Илон Маск предложил, чтобы американские ведущие компании, разрабатывающие большие модели, а также некоторые китайские AI-компании позволили конкурентам проводить перекрестные тесты. Маск заявил, что у всех AI-компаний есть наборы тестовых инструментов, и каждая компания может прогонять модели с помощью инструментов других; по его словам, это, возможно, лучшее, что можно сделать для обеспечения собственной безопасности. Ранее в этом месяце исследователь Anthropic Джейкоб Кокссон объявил об уходе с поста и предупредил, что ведущие компании в сфере искусственного интеллекта ускоряют разработку без надлежащих мер защиты. Затем генеральный директор Anthropic Дарио Амодеи опубликовал пост с призывом замедлить темпы разработки AI и ввести механизмы независимой третьей оценки. В пятницу прошлого дня Anthropic объявила о сотрудничестве с Accenture: Accenture выступит в качестве третьей стороны для проведения оценки безопасности и соответствия требованиям для ее передовых AI-моделей.