Anthropic заявляет, что сократила примерно на 90–99% объем данных, извлекаемых из Claude в ходе атак с дистилляцией. Поздравляю их с этим достижением.
Это подтверждает мысль, которую я высказал несколько месяцев назад (All-In, эпизод 282): лучше всего остановить дистилляцию собственных моделей могла сама Anthropic, а не правительство. Когда лошадь уже сбежала из конюшни, действия правительства постфактум имеют ограниченную ценность.
Тогда в Вашингтоне активно добивались ограничений на открытые модели, ссылаясь на права интеллектуальной собственности. Угроза казалась настолько серьезной, что 50 компаний, включая Nvidia, Microsoft, Meta, IBM, Palantir и Dell, опубликовали открытое письмо в защиту моделей с открытыми весами. Дженсен Хуанг продвигал его в своей первой в жизни публикации в X. Почти 200 стартапов направили аналогичное письмо.
Я утверждал, что ограничения на открытые модели могут лишить компании, создающие закрытые модели, стимула самостоятельно решать эту проблему — и поощрить халатность, подавляя конкуренцию, пока они продолжают получать доход от дистилляции. Администрация не стала вводить эти ограничения.
Теперь мы видим результат. Anthropic вложилась в средства защиты, и они сработали. Не каждая техническая проблема — повод обращаться в Вашингтон за новым регулированием.
Это подтверждает мысль, которую я высказал несколько месяцев назад (All-In, эпизод 282): лучше всего остановить дистилляцию собственных моделей могла сама Anthropic, а не правительство. Когда лошадь уже сбежала из конюшни, действия правительства постфактум имеют ограниченную ценность.
Тогда в Вашингтоне активно добивались ограничений на открытые модели, ссылаясь на права интеллектуальной собственности. Угроза казалась настолько серьезной, что 50 компаний, включая Nvidia, Microsoft, Meta, IBM, Palantir и Dell, опубликовали открытое письмо в защиту моделей с открытыми весами. Дженсен Хуанг продвигал его в своей первой в жизни публикации в X. Почти 200 стартапов направили аналогичное письмо.
Я утверждал, что ограничения на открытые модели могут лишить компании, создающие закрытые модели, стимула самостоятельно решать эту проблему — и поощрить халатность, подавляя конкуренцию, пока они продолжают получать доход от дистилляции. Администрация не стала вводить эти ограничения.
Теперь мы видим результат. Anthropic вложилась в средства защиты, и они сработали. Не каждая техническая проблема — повод обращаться в Вашингтон за новым регулированием.