Речь пойдёт о моделях искусственного интеллекта нового поколения — таких как GPT и Astra. Именно они сегодня оказались в центре разговора о том, что нас ждёт в ближайший год.
Есть цифра, которую стоит запомнить. 8,5%. Именно столько запросов, связанных со взломом, атаками и доступом к критическим системам, современные модели всё ещё пропускают. Остальные 91,5% формально прикручены — на них стоит блок.
Звучит как хорошая новость. На деле это огромные ворота, которые стоят нараспашку. И это не погрешность, не недоработка, которую закроют в следующем обновлении. Эти 8,5% оставили осознанно. Потому что если заблокировать всё до конца, то вместе с мошенниками заблокируются и нормальные разработчики, которым нужно решать легитимные задачи. А отличить хороший запрос от плохого невозможно — за хорошим запросом может стоять мошенник, а за странным — исследователь. Поэтому официально оставили эту дверь приоткрытой, чтобы индустрия могла работать. Но для мира IT 8,5% — это не лазейка. Это дверь, в которую пройдут все, кому надо. И им не нужно быть гениями. Им нужно просто правильно сформулировать запрос.
Билл Гейтс прямо говорит: следующий год будет непростым. Не потому, что ИИ выйдет из-под контроля и нажмёт не ту кнопку. А потому, что его используют злоумышленники — для кибератак, вымогательства, манипуляций рынками. Раньше, чтобы взломать банковское приложение или военную базу, нужны были годы обучения, талант, доступ. Сейчас достаточно агента, который ходит по интернету, ищет лазейку и не устаёт. Не боится. Не отвлекается. Раньше мы просто не видели строчку кода, которая открывает вход в важный инструмент или на военную базу. Теперь её находят агенты. Автоматически. Быстро. Дёшево.
И не думайте, что всё это упирается только в API. Да, пока часть запросов идёт через API и там их контролируют — всплеск подозрительной активности, и модель отключают. Но работать можно и напрямую, в обход. Через анонимные браузеры, через прокси, через всё, что скрывает, кто именно сидит на другом конце. И это только начало. Китайские бесплатные модели уже менее прикручены, у них меньше ограничений, потому что их цель — занять рынок, а не блюсти этику. Дальше модели научатся обходить блокировки. Это вопрос времени, а не вероятности.
Математика — дисциплина, которая почти сто лет стояла на месте по методологии — затряслась за три дня. Ассоциация математиков написала письмо, начинающееся с фразы, которую невозможно забыть: «ИИ решил 700 задач, но его никто не просил это делать». Это не жалоба на технологию. Это крик людей, у которых забрали основание профессии и ничего не объяснили взамен.
Теренс Тао — один из величайших математиков современности — вышел с докладом, который стоит пересматривать. Он не стал утешать коллег. Он сказал прямо: эпоха дефицита доказательств закончилась, начинается эпоха изобилия доказательств. И дальше показал слайд, от которого становится не по себе. Мысленный эксперимент. ИИ находит лекарство от рака, проходящее все стадии клинических испытаний. Никто — вообще никто — не понимает, как оно было найдено и как работает. Есть формальный сертификат корректности. Есть статистика. Есть результат. Понимания нет.
Тао задаёт вопрос: стоит ли такое допускать? Ответ зависит от того, кто ты. Биолог-исследователь скажет: нет, мы не контролируем процесс. Человек с третьей-четвёртой стадией рака скажет: какая разница, если я выживу. Оба правы. И в этом вся суть момента.
Одна из новых моделей решила математическую задачу, которую лучшие умы не могли решить десятилетиями. Потратила порядка двухсот долларов. Двести долларов за то, что раньше было невозможно. И это даже не про деньги. Это про то, что цена невозможного обнулилась. Сколько стоит взломать ваш сайт? Копейки. Сколько стоит создать дипфейк-аватар вашего директора? Меньше, чем обед в ресторане. Сколько стоит написать письмо от имени вашего банка, которое откроет 40% получателей? Ноль.
Что нас ждёт? Полный коллапс взломов. Массовые атаки. Вымогательство с использованием дипфейков и аватаров.
Компании и обычные граждане будут платить не потому, что их взломали, а потому, что им покажут видео, на котором «они» делают то, чего они не делали.
И при этом та же самая модель, которая за 200 долларов решила нерешаемую задачу, скорее всего, уже нашла лекарство от рака — просто мы об этом не знаем. Потому что дальше начинается бюрократия: клинические исследования, фазы, сертификации. Человека нельзя просто так взять и испытать на новой вакцине. Но давайте спросим у человека с последней стадией рака. Будет ли он ждать пять лет клинических испытаний? Или возьмёт риск на себя прямо сейчас? Ответ очевиден. И этот ответ — тоже часть новой реальности, в которой старые протоколы безопасности и старые этические рамки не успевают за скоростью открытий.
Тао называет возможности ИИ зубчатыми — он гениален в одном и беспомощен в другом. Эта зубчатость не баг, а фича. Она показывает, где именно надо приложить человека, а где можно отпустить. Математика 2.0 — это не про то, как выжить математикам. Это про то, как переизобрести саму дисциплину. То же самое будет с биологией, медициной, образованием, кино, дизайном, программированием. Это не конец профессий. Это конец старых метрик, по которым мы измеряли ценность человека.
Если у вас есть сайт, приложение, база данных, аккаунт в критической системе — у вас есть задача. Одна. Прямо сейчас. Пересмотрите протоколы безопасности. Не когда-нибудь. Не после релиза. Сейчас. Потому что тот, кто захочет вас взломать, уже не будет учиться взлому годами. Он просто попросит модель. И да, используйте тех же агентов для защиты. Та же модель, которая может взломать, может и закрыть. Вопрос в том, на чьей стороне вы её применяете. Оборона сейчас стоит дешевле, чем когда-либо в истории. Но и атака тоже. Кто первым это поймёт — получит преимущество.
Билл Гейтс прав: нас ждут неприятные сюрпризы. Но он же прав и в другом, о чём говорит реже: у нас впервые есть инструменты, которые могут эти сюрпризы предвидеть — если использовать их правильно и быстро.
Мы — первое поколение за всю историю человечества, которое может увидеть закат на другой планете. Не в кино, не в рендере — на реальном снимке, переданном с другой планеты. Это стоит держать в голове, когда читаешь про 8,5%, про двести долларов за нерешаемое, про письмо математиков. Та же самая кривая, которая подняла нас к другим планетам, сейчас рвётся вверх вертикально. Не растёт. Рвётся.
Мы — первое поколение, которое увидит закат на другой планете. Мы же — первое поколение, которое может не пережить следующий год, если продолжит думать, что как-нибудь само рассосётся. Не рассосётся. Но и не обязательно закончится катастрофой. Есть окно. Оно узкое. Оно открыто прямо сейчас. Те, у кого есть IT-инструменты и критическая инфраструктура, — это ваша ответственность. Не завтра. Сегодня.
Ян Кривоносов