Настоящий риск ИИ — не восстание роботов из научной фантастики, а то, как люди используют его как оружие. Автомат Калашникова не стреляет сам по себе, ядерная бомба не взрывается сама, и ИИ не станет действовать бесконтрольно по собственной воле. Угроза исходит от того, что злоумышленники будут делать со сверхразумными инструментами.

ИИ — супероружие в руках злодеев. Автономная кибервойна, массовая слежка, манипуляции с помощью дипфейков, искусственно созданный социальный хаос — всё это не теория. Это уже происходит. Экзистенциальный риск связан не с моделью, а с тем, кто ею управляет.

Инвестиционный аспект: ставки на оборонные технологии, кибербезопасность и управление ИИ — это асимметричные ставки на данную реальность. Компании, создающие инфраструктуру безопасности ИИ, средства обнаружения атак и защищённые вычислительные среды, готовятся к новой гонке вооружений. Смена нарратива с «безопасности ИИ» на «превращение ИИ в оружие» пока не отражена в ценах.