Sentient Foundation представила новую таблицу лидеров по тестированию методов идентификации моделей, призванную проверить, насколько надёжно можно установить происхождение моделей ИИ. Это произошло после публикации исследования, показавшего, что почти все существующие методы идентификации, включая собственный метод организации, можно обойти с помощью изощрённых атак.
По мере роста ценности моделей искусственного интеллекта всё острее встаёт вопрос о том, как доказать, кто разработал их изначально. Модели можно копировать, дорабатывать или дистиллировать, создавая новые версии, и у их первоначальных разработчиков зачастую остаётся мало способов подтвердить свои права на них.
Sentient Foundation намерена решить эту проблему, запустив таблицу лидеров по фингерпринтингу — открытый тестовый набор для оценки методов встраивания в модели ИИ распознаваемых подписей.
Эта инициатива стала продолжением исследования Sentient Labs, выявившего уязвимости в десяти предложенных схемах фингерпринтинга. Исследователи обнаружили, что почти все их можно обойти с помощью адаптивных атак, сохранив при этом полезность моделей.
Вместо того чтобы сосредоточиться исключительно на разработке собственной технологии фингерпринтинга, Sentient теперь открывает процесс оценки для широкого исследовательского сообщества.
Как работает фингерпринтинг ИИ
Фингерпринтинг ИИ призван подтверждать идентичность или происхождение модели, не полагаясь исключительно на внешние записи, метаданные или доступ к лежащей в ее основе инфраструктуре.
Некоторые методы встраивают скрытые поведенческие подписи во время обучения. Позднее эти подписи можно проверить с помощью специальных запросов, чтобы выяснить, содержит ли другая модель следы исходной работы разработчиков.
Важно, что такую проверку можно выполнить, используя доступ к API предполагаемой производной модели, без прямого доступа к ее внутренним весам.
«Модели ИИ становятся одними из самых ценных объектов интеллектуальной собственности в мире, однако после копирования или дистилляции модели доказать право собственности становится невероятно сложно», — сказала Сати Камия, директор по венчурным инвестициям и развитию в Sentient Foundation.
«Фингерпринтинг помещает доказательство внутрь модели. Представьте его как аналог скрытых знаков, которыми художники эпохи Возрождения подтверждали авторство своих произведений».
Этот подход может стать особенно актуальным по мере развития ИИ с открытым исходным кодом, когда модели все чаще модифицируют и распространяют повторно.
Исследователи встроили в одну модель более 24 000 цифровых отпечатков
Ранее Sentient Labs уже демонстрировала, как методы фингерпринтинга могут работать в больших масштабах.
Метод Perinucleus, представленный на NeurIPS 2025, позволил успешно встроить 24 576 цифровых отпечатков в Llama-3.1-8B, практически не ухудшив производительность модели.
Многие из этих отпечатков сохранились и после последующей тонкой настройки, что указывает на возможность обнаружить идентифицирующую информацию даже после дополнительного обучения модели.
Однако возможность встроить тысячи цифровых отпечатков не обязательно означает, что они выдержат целенаправленное удаление.
Исследование, представленное на SaTML 2026, показало, что даже методы, устойчивые к обычным изменениям модели, могут оставаться уязвимыми для злоумышленников, которые специально пытаются удалить их подписи или обойти их обнаружение.
Среди затронутых методов оказался и собственный подход Sentient — Perinucleus.
Эти результаты указывают на главную проблему фингерпринтинга ИИ: показать, что подпись существует, — совсем не то же самое, что доказать ее надежность, когда противник активно пытается ее нейтрализовать.
Открытый тестовый набор для проверки заявлений о фингерпринтинге
Недавно запущенная таблица лидеров по фингерпринтингу призвана предоставить стандартизированную среду для сравнения различных подходов.
В первоначальной версии оценивается, насколько эффективно методы фингерпринтинга встраивают распознаваемые подписи, сохраняя при этом производительность исходной модели.
В будущей версии оценка будет расширена и включит устойчивость к атакам: будет проверяться, остаются ли цифровые отпечатки обнаружимыми после целенаправленных попыток удалить их или обойти их обнаружение.
Это различие важно, поскольку метод, хорошо работающий в контролируемых условиях, не обязательно сможет надежно подтвердить происхождение модели в более враждебной среде.
Вместе с таблицей лидеров Sentient выпускает mlprints — библиотеку с открытым исходным кодом, которая объединяет методы фингерпринтинга и атак в общей системе оценки.
Библиотека позволяет исследователям воспроизводить существующие эксперименты, реализовывать альтернативные схемы фингерпринтинга и разрабатывать новые атаки в сопоставимых условиях тестирования.
Предоставляя эти инструменты в открытый доступ, Sentient стремится создать более прозрачный процесс проверки заявлений о происхождении моделей ИИ.
Почему владение моделями важно для ИИ с открытым исходным кодом
Эта инициатива также затрагивает более широкое противоречие, присущее искусственному интеллекту с открытым исходным кодом.
Разработчики, публикующие веса моделей, позволяют другим развивать их работу, однако из-за этого может быть сложно отслеживать, как впоследствии эти модели копируют, модифицируют или включают в другие системы.
Закрытый доступ к моделям позволяет лучше контролировать их распространение, но ограничивает доступность и совместную разработку, характерные для ИИ с открытым исходным кодом.
Фингерпринтинг может предложить иной подход: разработчики смогут делиться своими моделями, сохраняя при этом механизм подтверждения их происхождения.
Такие возможности в конечном итоге могут способствовать установлению авторства, обеспечению соблюдения лицензий и созданию экономических механизмов, основанных на проверяемом происхождении модели.
Однако исследование также показывает, что надежная идентификация по цифровым отпечаткам остается нерешенной технической задачей.
Долгосрочная цель Sentient — разработать подписи, настолько тесно связанные с возможностями модели, что их удаление также нанесет ущерб полезности модели.
Пока что таблица лидеров по фингерпринтингу призвана определить, какие существующие методы позволяют получить весомые доказательства происхождения, а какие остаются уязвимыми для манипуляций.
Теперь, когда доступен первоначальный тестовый набор, а на будущее запланировано тестирование на устойчивость к атакам, проект может предоставить исследователям общую систему для оценки одной из новых проблем в сфере защиты интеллектуальной собственности в области ИИ.
Подробнее об инициативе можно узнать на сайте fingerprint.sentient.foundation.
Отказ от ответственности: эта статья предоставлена исключительно в информационных целях. Она не является юридической, налоговой, инвестиционной, финансовой или иной консультацией и не предназначена для использования в качестве таковой.