Два лабораторных сообщества, которые соперничают и пытаются переиграть друг друга, почти подписали соглашение, направленное на то, чтобы обе стороны подрывали позиции друг друга.
Как сообщают СМИ, ранее в этом году OpenAI и Anthropic были близки к заключению юридически обязывающего соглашения, которое позволило бы каждой из сторон тестировать модели другой, искать уязвимости и скрытые риски безопасности. Согласно раскрытым условиям, обе стороны могли получить программный доступ к коммерческим моделям друг друга, проводить собственные проверки на уязвимости и запретить хранение данных другой стороны.
Границы прописаны очень четко: непубличные системы в договор не входят. То есть проверке подлежат уже проданные вещи, а еще не выпущенные компоненты остаются «за дверью». Такая схема отдает часть полномочий по верификации коллегам, а их оценка превращается в форму внешнего надзора.
Подписали ли в итоге это соглашение — неясно. Передав наиболее чувствительные проверки конкуренту, недостаточно доброй воли; нужно, чтобы обе стороны верили, что другая будет соблюдать правила. Для двух компаний, которые одновременно являются соперниками, самым дефицитным ресурсом всегда остается доверие: обе они ищут недостатки у другой, одновременно не желая дать ей разглядеть собственные козыри.
В ту же неделю руководитель одной компании публично поставил под сомнение, способна ли одна из них дойти до IPO, а вторую компанию напрямую исключили из процесса. Похоже, доверие в отрасли достают лишь тогда, когда нужно что-то доказать.
Потолок для сотрудничества в сфере безопасности обычно зафиксирован в тех нескольких строках, которые указаны в раскрытии.
#人工智能 #Безопасность
Как сообщают СМИ, ранее в этом году OpenAI и Anthropic были близки к заключению юридически обязывающего соглашения, которое позволило бы каждой из сторон тестировать модели другой, искать уязвимости и скрытые риски безопасности. Согласно раскрытым условиям, обе стороны могли получить программный доступ к коммерческим моделям друг друга, проводить собственные проверки на уязвимости и запретить хранение данных другой стороны.
Границы прописаны очень четко: непубличные системы в договор не входят. То есть проверке подлежат уже проданные вещи, а еще не выпущенные компоненты остаются «за дверью». Такая схема отдает часть полномочий по верификации коллегам, а их оценка превращается в форму внешнего надзора.
Подписали ли в итоге это соглашение — неясно. Передав наиболее чувствительные проверки конкуренту, недостаточно доброй воли; нужно, чтобы обе стороны верили, что другая будет соблюдать правила. Для двух компаний, которые одновременно являются соперниками, самым дефицитным ресурсом всегда остается доверие: обе они ищут недостатки у другой, одновременно не желая дать ей разглядеть собственные козыри.
В ту же неделю руководитель одной компании публично поставил под сомнение, способна ли одна из них дойти до IPO, а вторую компанию напрямую исключили из процесса. Похоже, доверие в отрасли достают лишь тогда, когда нужно что-то доказать.
Потолок для сотрудничества в сфере безопасности обычно зафиксирован в тех нескольких строках, которые указаны в раскрытии.
#人工智能 #Безопасность
