Куратору, проверяющему представленную структуру белка, важно знать, была ли её форма измерена в ходе эксперимента или предсказана моделью. Предсказание может помочь спланировать будущий эксперимент, но не может служить свидетельством того, что эксперимент уже проводился.
SynthID Bio от Google DeepMind мог бы дать куратору подсказку прямо в представленных данных. Исследователи модифицировали AlphaFold 3 так, чтобы координаты, описывающие предсказанную структуру, несли обнаруживаемую метку. Модель оставляет эту метку при создании предсказания, а не полагается исключительно на то, что кто-то добавит её позже.
DeepMind предлагает проверять наличие таких сигналов при добавлении данных в базы, чтобы помечать синтетические записи или отправлять их на проверку. Это помогло бы не допустить, чтобы предсказание модели передавали другим исследователям как экспериментальный результат.
SynthID Bio — это доказательство концепции; проверка в базе данных — лишь предлагаемое применение. Защиту от намеренного вмешательства ещё предстоит доработать. Кроме того, метод работы со структурами требует модели, модифицированной для оставления метки: обнаружение такого сигнала свидетельствовало бы о том, что результат выдала модель с водяным знаком, тогда как отсутствие сигнала не позволило бы установить происхождение данных.
Источник: https://deepmind.google/blog/introducing-synthid-bio/
Изображение: созданный ИИ редакционный натюрморт с учебными моделями в форме белков, которые изучают специалисты. Это не эксперимент Google и не визуализация обнаруживаемого водяного знака.
SynthID Bio от Google DeepMind мог бы дать куратору подсказку прямо в представленных данных. Исследователи модифицировали AlphaFold 3 так, чтобы координаты, описывающие предсказанную структуру, несли обнаруживаемую метку. Модель оставляет эту метку при создании предсказания, а не полагается исключительно на то, что кто-то добавит её позже.
DeepMind предлагает проверять наличие таких сигналов при добавлении данных в базы, чтобы помечать синтетические записи или отправлять их на проверку. Это помогло бы не допустить, чтобы предсказание модели передавали другим исследователям как экспериментальный результат.
SynthID Bio — это доказательство концепции; проверка в базе данных — лишь предлагаемое применение. Защиту от намеренного вмешательства ещё предстоит доработать. Кроме того, метод работы со структурами требует модели, модифицированной для оставления метки: обнаружение такого сигнала свидетельствовало бы о том, что результат выдала модель с водяным знаком, тогда как отсутствие сигнала не позволило бы установить происхождение данных.
Источник: https://deepmind.google/blog/introducing-synthid-bio/
Изображение: созданный ИИ редакционный натюрморт с учебными моделями в форме белков, которые изучают специалисты. Это не эксперимент Google и не визуализация обнаруживаемого водяного знака.