Anthropic: лаборатория экспериментов с ИИ-биосуществами добилась первых успехов, но пока не предоставила полную автономию

Стартап в сфере искусственного интеллекта Anthropic объявил, что его новый AI-лаборатория физики и биологии (Wet Lab) в районе залива Сан-Франциско достигла «существенного прогресса». Однако на уровне экспериментальных процедур человеческие исследователи по‑прежнему сохраняют абсолютный контроль и не предоставляют своим моделям Claude прямой автономной работы без надзора.

По имеющейся информации, лаборатория в первую очередь занимается фундаментальными исследованиями в области биологии и практической проверкой результатов, чтобы сократить разрыв между чисто компьютерным моделированием и реальными биологическими экспериментами. Хотя руководители Anthropic ранее неоднократно предупреждали о том, что мощные ИИ-модели могут создать крайне серьезные риски для биобезопасности и даже угрозу уничтожения человечества, компания параллельно ускоряет внедрение ИИ в приложения в области наук о жизни. Руководитель направления наук о жизни Anthropic Эрик Кауэрдер-Абрамс (Eric Kauderer-Abrams) отметил: «Физическая верификация в реальной лаборатории еще довольно долго будет незаменимой», и именно это является ключевой причиной создания лаборатории.

В сообщении подчеркивается, что, несмотря на то, что Anthropic утверждает о получении впечатляющих предварительных результатов, наиболее примечательная деталь заключается в том, что компания не выбрала вариант «дать ИИ свободу действий». Все физические экспериментальные процессы, операции с реактивами и повторная проверка данных в настоящее время по‑прежнему находятся под строгим «контурным» контролем со стороны людей‑исследователей (Humans in the loop).

Аналитики отмечают, что Anthropic, продвигая инновации в биологии, проявляет крайнюю осторожность — это отражает двойное затруднение, с которым сталкиваются технологические гиганты, стремясь одновременно к коммерческим и научным прорывам: с одной стороны, им нужно использовать возможности физической лаборатории, чтобы предоставлять валидацию партнерам из фармкомпаний и ускорять поиск решений для редких заболеваний; с другой — необходимо учитывать огромную обеспокоенность общества по поводу того, что ИИ может быть злоупотреблен для создания новых биологических угроз. Сохраняя за людьми доминирующую роль на экспериментальном контуре, Anthropic пытается выстроить для своих ИИ-биоисследований линию нормативного соответствия, в которой инновации и безопасность сочетаются в балансе.