Что происходит, когда люди, соревнующиеся в создании самых мощных систем ИИ, начинают признавать, что сама гонка, возможно, развивается слишком быстро?
Это и есть более широкая история, стоящая за последними дебатами, в которых участвуют генеральный директор OpenAI Сэм Альтман и генеральный директор Anthropic Дарио Амодей.
Амодей призвал индустрию передовых ИИ замедлить темп, утверждая, что системам безопасности и обществу нужно время, чтобы догнать стремительно растущие возможности. Его предложение включает более сильную внешнюю оценку и более тесную координацию между компаниями в сфере ИИ и правительствами.
Соглашение Альтмана важно, потому что это не сторонний критик, требующий от компаний, занимающихся ИИ, прекратить инновации. Это происходит изнутри гонки моделей «на переднем крае».
И это меняет разговор.
Настоящий узкий момент, возможно, уже не просто вычислительная мощность, чипы или обучающие данные. Все чаще этим становится верификация.
Модель, становящаяся более способной, — это одно. Знать же точно, на что именно способна эта модель, когда она может вести себя неожиданно, как ее можно использовать во вред, и действительно ли существующие защитные меры работают, — это другое.
Недавние опасения, связанные с автономными ИИ-агентами, кибероперациями и злоупотреблениями, сделали это различие сложнее игнорировать.
Так что «замедлиться» не обязательно означает «остановить ИИ».
Это может означать: строить инфраструктуру безопасности с той же скоростью, что и сам интеллект.
Следующий этап гонки ИИ, возможно, будет измеряться иначе.
Дело не только в том, кто первым выпускает самую умную модель.
Но кто может доказать, что все более мощные модели можно внедрять ответственно?
Это может стать одним из самых важных конкурентных преимуществ в ИИ.
Гонка ИИ ускоряется. Но, возможно, настоящая гонка теперь — сделать это ускорение управляемым.
