Полный текст выступления Хуан Жэньсюня на All-In Summit: «апокалипсис AI» — это не наука, не исключайте общество из технологической революции

Генеральный директор NVIDIA Дженсен Хуанг недавно выступил на All-In Summit, где почти 50 минут вёл беседу с четырьмя ведущими All-In Podcast — Джейсоном Калака-нисом, Чаматом Палихапитиией, Дэвидом Саксом и Дэвидом Фридбергом.
Это интервью прошло через темы от AI-безопасности и тезиса Дарио Амодеи «замедления передовых AI» до открытых моделей, AI-соревнования между США и Китаем, дата-центров, инвестиционной стратегии NVIDIA, беспилотных автомобилей и китайских полупроводников; когда разговор был уже наполовину, президент США Трамп внезапно позвонил, вмешался в эфир и напрямую через телефон Хуанг Жэньсюня выступил с речью почти на 5 минут перед тысячами зрителей в зале.
Хуан Жэньсюнь критикует «ИИ-апокалиптические» пророчества: многие прогнозы в итоге оказываются неверными.
В начале разговора ведущий сразу перевёл тему на свежую статью исполнительного директора Anthropic Даррио Амодеи и на обсуждение передовыми AI-лабораториями безопасности и «замедления гонки».
Хуан Жэньсюнь заявил, что в статье важным для серьёзного рассмотрения является часть про внутренний контроль, информаторов и безопасное управление, но он далеко не согласен с тем, что описание того, как ИИ может привести к гибели цивилизации, дано в форме «научного прогнозирования». Он прямо сказал, что такие утверждения «не опираются на науку», но из-за того, что их произносят исследователи, их легко могут принять за прогнозы с доказательной базой.
Затем Хуан Жэньсюнь перечислил несколько AI-прогнозов последних лет: что, например, радиологи исчезнут в течение пяти лет, что 90% кода будет генерироваться ИИ в течение полугода-год, и что 50% стартовых позиций будут уничтожены. Он считает, что до сих пор эти прогнозы не сбылись так, как их изначально описывали.
Он привёл пример из радиомедицины: ИИ действительно широко помогает в интерпретации изображений, но мир от этого не стал меньше нуждаться в радиологах — наоборот, их нужно больше. То есть ИИ берёт на себя лишь часть рабочих процессов, а не уничтожает целиком всю профессию.
Хуан Жэньсюнь считает, что AI-индустрия должна нести ответственность за прошлые ошибки и преувеличенные прогнозы: нельзя с одной стороны снова и снова выдвигать крайние пророчества, а с другой — требовать, чтобы общество «верило экспертам».
Что делать, если у ИИ что-то пойдёт не так? Хуан Жэньсюнь: сначала — root cause в инженерном смысле.
Отвечая на вопрос о том, как правительству следует регулировать ИИ, позиция Хуан Жэньсюня тоже склоняется к инженерному управлению. Он считает, что «регулирование должно решать реальные существующие проблемы». Тех, кто действительно имеет возможность работать с передовыми рисками, сейчас в основном остаются frontier labs с огромными вычислительными мощностями, потому что у школьников, обычных стартапов и даже у большинства компаний нет достаточного compute, чтобы проводить эксперименты сопоставимого масштаба.
Поэтому, если случится авария, первое, что не следует делать, — сразу переходить к всеобъемлющему запрету или прекращению развития. Нужно, как и в случае инженерной аварии, искать root cause: что произошло? почему произошло? какие технологии, процессы, мониторинг или sandbox могут предотвратить повторение инцидента?
Хуан Жэньсюнь сказал, что он верит: у передовых AI-компаний есть способность постепенно взять под контроль проблемы, которые в прошлом уже случались, — через более качественные runtime, sandbox, мониторинг, continuous monitoring и механизмы оценки. Во внешний инженерный коллектив стоит вовлекаться лишь тогда, когда сами компании признают: «Мы не знаем, что произошло, и не знаем, как это контролировать».
Он добавил: привлечение сторонних evaluators или auditors — разумная практика, похожая на финансовый аудит публичных компаний. Им не нужно разбираться в технике лучше, чем сама компания, но они должны задавать правильные вопросы. И лучше, чтобы существовало несколько разных сторонних организаций, а не чтобы единый оценщик монополизировал стандарты.
Recursive Self-Improvement заставит ИИ выйти из-под контроля?
Говоря о том, что китайская Zhipu AI вкладывается в исследования recursive self-improvement (RSI), Хуан Жэньсюнь считает, что сама эта идея не так уж мистична, как её описывает внешний мир.
Он объяснил, что RSI по сути — это сочетание нескольких уже существующих AI-технологий, включая in-context learning, skills, reflection, reinforcement learning, synthetic data, а также методы вроде LoRA, которые позволяют ИИ постоянно улучшаться в процессе выполнения задач и генерации данных.
Хуан Жэньсюнь считает, что использовать ИИ для повышения эффективности самого процесса «создания ИИ» — абсолютно разумно. И к тому же, все лаборатории на каком-то уровне уже так делают. Настоящая проблема в том, что термин RSI начинают использовать так, чтобы создать впечатление: «ИИ будет сам бесконечно усиливаться и выйдет из-под контроля».
Даже если внутри компании модели многократно улучшают себя, перед реальным выпуском продукта всё равно нужны evaluation, testing, regression test и валидация — поэтому сам инженерный процесс и является контрольной точкой.
Хуан Жэньсюнь: миру нужны одновременно и закрытые модели, и открытые модели.
Говоря об open-source ИИ, Хуан Жэньсюнь сказал, что мир — это не ситуация, когда нужно выбирать только «closed model или open model». Нужны оба подхода. Он сравнил закрытые модели с «бутылочной водой»: сама по себе вода распространена, но люди в определённых ситуациях всё равно выбирают бутилированную. И с ИИ так же: в некоторых работах проще всего сразу использовать самые передовые закрытые модели, но компаниям может понадобиться открытая модель, которую можно разворачивать и модифицировать самостоятельно — из-за суверенитета, приватности или требований к проприетарным технологиям.
На сцене Хуан Жэньсюнь привёл очень впечатляющую цифру: за последние шесть месяцев в AI-native компании поступил примерно поток венчурных инвестиций на 400 млрд долларов, и около 80% из них используют открытые модели. По его мнению, если США хотят выиграть гонку в ИИ, цель должна быть не в том, чтобы победили лишь несколько технологических гигантов, а в том, чтобы каждая компания, каждая отрасль, исследователи, преподаватели, студенты и стартапы могли пользоваться ИИ.
Китай получает большие открытые исходные вклады, Хуан Жэньсюнь: настоящая гонка — «кто лучше всего умеет пользоваться ИИ».
Затем ведущий уточнил: если большинство открытых моделей будет происходить из Китая, не станет ли это стратегическим риском для США?
Ответ Хуан Жэньсюня довольно практичный. Он сказал, что сегодня большая часть open-source вкладов во всём мире и так уже приходит из Китая — среди причин: масштаб инженерных кадров и выпускников инженерных и естественно-научных направлений. Даже если Linux, Kubernetes или другие open-source программы когда-то были изменены китайскими инженерами, достаточно скачать код в свою среду: пользователи могут форкать, улучшать и превращать его в собственную версию.
Поэтому он считает, что настоящая гонка в ИИ — это не «кто изобрёл все технологии», а кто лучше всего умеет применять эту технологию. Хуан Жэньсюнь приводил пример прошлых промышленных революций: Maxwell, Volta и Ampere были не американцами; многие важные источники технологий были в Европе. Но в итоге именно США лучше всего превратили эти технологии в производительность отраслей и общества. Он надеется, что в эпоху ИИ эта же схема повторится.
Он также считает, что сейчас китайское повествование об ИИ более «прагматично», чем в США: в Китае ИИ рассматривают как технологию, которая способствует экономическому и социальному развитию, тогда как внутри США постоянно возникают сюжеты о гибели цивилизации, об «ИИ-апокалипсисе» и тому подобные рассуждения.
ИИ сделает инженеров безработными? Хуан Жэньсюнь: раньше инженерам даже не приходилось печатать весь день.
Относительно того, уничтожит ли ИИ рабочие места инженеров-программистов, Хуан Жэньсюнь дал ещё одну перспективу. Он вспомнил, что когда сам только закончил учёбу и стал инженером, ПО ещё не было таким повсеместным, а инженерная работа не означала сидеть за компьютером и каждый день печатать. Сегодня же инженеры с самого начала рабочего дня используют клавиатуру, чтобы писать код.
Поэтому Хуан Жэньсюнь считает, что «инженерия» сама по себе не равна coding. Он даже шутил, что все время говорит инженерам-программистам NVIDIA: «Вы просто печатаете», а его любимая клавиша — Backspace, потому что лучшее ПО зачастую самое маленькое и самое лаконичное. Будущее ИИ может означать, что огромные объёмы кода больше не будут вводиться людьми напрямую, но это не значит, что миру больше не нужны инженеры.
Трамп: дата-центры — нефть будущих 20–25 лет, а ИИ больше интернета.
Когда ведущий только готовился переключить тему на бизнес-модель NVIDIA, телефон Хуан Жэньсюня внезапно зазвонил. Он взглянул и воскликнул: «Oh, it’s Trump.»
Подняв трубку, он сказал Трампу, что сейчас находится на сцене All-In Summit: здесь есть ведущие Джейсон, Чаматх, Дэвид и тысячи зрителей — и «мы как раз обсуждаем вас».
В зале началась суета: люди пытались переключить телефоны на громкую связь и поднести их к микрофону. Когда Трамп только вышел в эфир, он сначала пошутил над Хуан Жэньсюнем: «Самое смешное в жизни — что Дженсен может разработать самый сложный в мире чип, который никто не смог скопировать уже десять лет, но при этом не понимает, как превратить меня в громкую связь».
В телефонном разговоре Трамп заявил, что изображать дата-центры и ИИ как угрозу — это «hoax», потому что дата-центры приносят регионам огромные инвестиции и богатство. Он даже сказал: «Дата-центры — это нефть будущих 20–25 лет». Трамп также отметил, что масштаб ИИ будет больше, чем у интернета: «whoever wins AI wins». Поэтому США не должны из-за страшилок самим остановить развитие дата-центров.
Он также подчеркнул, что роботы и ИИ не возьмут под контроль мир так, как это описывают некоторые нарративы. США могут осторожно развивать ИИ, но не должны из-за этого останавливать всю отрасль. Далее Трамп добавил, что США должны гарантировать, чтобы от гонки ИИ выиграли все отрасли, компании, штаты и люди. Он также заявил, что уже сейчас в США вливаются инвестиции на 20 трлн долларов — намного больше, чем при администрации Байдена. Когда Хуан Жэньсюнь сказал ему, что в зале аплодируют тысячи человек, Трамп не удержался и пошутил: «Они только что ещё должны были послушать речь Дженсена». И только после этого повесил трубку.
Хуан Жэньсюнь: больше всего Трампа волнует реиндустриализация США и создание рабочих мест.
После звонка Хуан Жэньсюнь добавил, что при первой встрече с Трампом одной из главных вещей, которые его волновали, была возможность вернуть рабочие места в США. По мнению Хуан Жэньсюня, ИИ одновременно увеличивает спрос на ПО, дата-центры, энергетику и производство. Венчурные инвестиции на сотни миллиардов долларов в AI-стартапы сами по себе создают множество рабочих мест в разработке ПО. А рост спроса на вычислительные мощности, в свою очередь, ещё сильнее создаёт потребность в дата-центрах, электроэнергии, зданиях и инфраструктуре.
Он также упомянул, что раньше обсуждал с губернатором Техаса Грегом Эбботтом надежду на то, что при строительстве дата-центров по всей Америке техиндустрия проявит больше эмпатии к небольшим сообществам и будет готова прислушиваться к местным потребностям.
Почему NVIDIA вкладывается повсюду? Хуан Жэньсюнь: где есть узкое место — мы туда идём разбираться.
Затем ведущий описал NVIDIA как «банк ИИ», потому что в последние годы компания занимается не только продажей GPU, но и вмешивается в такие сферы, как земля, электроэнергия, оболочки дата-центров, финансирование и различные элементы AI-инфраструктуры.
Хуан Жэньсюнь объяснил, что это потому, что ИИ по своей сути — новая промышленная революция, а «интеллект» сам по себе сейчас становится товаром, который нужно производить. Раньше интернет позволял людям «находить что угодно», а ИИ позволяет людям «спрашивать и знать что угодно». Но эти intelligence должны производиться через огромную вычислительную инфраструктуру. Поэтому в цепочку поставок ИИ включаются все звенья: дата-центры, электроэнергия, земля, здания, оптоволокно, память и производство чипов.
Если какому-то поставщику нужно заранее нарастить мощности, NVIDIA вмешается; если land, power или shell станут следующими узкими местами, компания поможет выстроить мощности ниже по цепочке. Хуан Жэньсюнь отметил, что NVIDIA очень рано должна была работать с партнёрами — TSMC, производителями памяти, Corning и т. д. — чтобы заранее планировать поставки. Сейчас это просто продолжение той же логики цепочки поставок на уровень ниже по AI-инфраструктуре.
Будет ли NVIDIA двигаться по цепочке дальше, в уровень приложений? Хуан Жэньсюнь: если можно остаться внизу, оставайтесь внизу.
Отвечая на вопрос о том, пойдёт ли NVIDIA на атаку в более высокомагинальную слой приложений, Хуан Жэньсюнь сказал, что стратегия компании — не делать всё самой. Его принцип: «Go up as far as we need to, and as low as possible» — то есть подниматься вверх настолько, насколько нужно, и как можно ниже. NVIDIA будет строить наверх только тогда, когда нехватка технологий на верхнем уровне будет мешать развитию всей экосистемы. Как только платформа созреет, она максимально отступит на уровень ниже, чтобы другим компаниям было проще конкурировать самим.
Он привёл пример cuDNN и Megatron Core, отметив, что если бы эти базовые технологии сначала не разработала NVIDIA, многие AI-фреймворки или крупномасштабные тренировки моделей могли бы вообще не появиться. Но конечная цель NVIDIA всё равно — «чтобы расцвели тысяча цветов», а не забрать себе все доходы от приложений.
Хуан Жэньсюнь поддерживает NeoCloud: нужна не только пятёрка hyperscaler.
Он также рассказал о NeoCloud, похожем на CoreWeave. Хуан Жэньсюнь сказал, что крупные hyperscaler обычно планируют инфраструктуру раз в год, но рынок ИИ меняется слишком быстро: спрос почти неизбежно будет отличаться от прогнозов в начале года. Поэтому региональные облачные провайдеры могут быстрее получить land, power и shell, и тем самым сформировать сеть глобальной распределённой AI-инфраструктуры.
Он прямо сказал, что в будущем отрасли нужны будет не просто несколько крупных hyperscaler, а, возможно, 50, 100 и даже 1 000 таких поставщиков.
Почему NVIDIA даже делает модели для беспилотного вождения сама?
Далее Хуан Жэньсюнь рассказал о нескольких frontier model, которые NVIDIA сейчас разрабатывает. В том числе — модель для беспилотного вождения Alpamayo. Он назвал её первым в мире «беспилотником, который умеет думать»: благодаря возможностям reasoning она больше не должна полагаться исключительно на десятки миллиардов часов дорожных данных, а может разбирать новые ситуации на задачи, похожие на прошлый опыт.
По мнению Хуан Жэньсюня, в будущем каждая машина — легковая, грузовая, даже сельхозтехника — перейдёт к autonomous, но у многих автопроизводителей нет возможности с нуля создать полный AI stack. Поэтому NVIDIA может сначала построить общую платформу, а затем дать каждой компании сделать last-mile adaptation.
Хуан Жэньсюнь подчеркнул: NVIDIA вкладывается в эти frontier model не потому, что хочет «перевернуть все отрасли», а потому что этого требует клиент. Но пока на рынке никто не может как следует сделать базовые инструменты.
Когда Китай догонит передовые техпроцессы? Хуан Жэньсюнь: к 2030 году.
Во второй половине разговора ведущий напрямую спросил Хуан Жэньсюня: сколько времени нужно, чтобы Китай самостоятельно развил advanced lithography system. Хуан Жэньсюнь дал очень чёткий ответ: «2030».
Когда ведущий заявил, что 2030 год на самом деле уже очень близко, Хуан Жэньсюнь ответил, что для Китая способность выпускать большие объёмы изначально является сильной стороной, поэтому это вопрос лишь времени. Он подчеркнул, что, управляя NVIDIA, он должен мыслить масштабами на десять лет и даже на следующее десятилетие: тогда два-три года — это «просто один click». С этой точки зрения он считает, что Китай фактически уже близок к прорыву.
Эта формулировка также означает, что если стратегия США по ограничению передового оборудования для полупроводников из Китая строится на допущении «Китай никогда не сможет это сделать», то Хуан Жэньсюнь явно с этим не согласен.
Хуан Жэньсюнь: AGI уже наступил, а в некоторых областях он даже является Superintelligence.
В конце ведущий спросил Хуан Жэньсюня, настал ли для человечества момент AGI. Хуан Жэньсюнь ответил прямо: «Я думаю, что мы уже дошли до этого». Даже в отношении superintelligence он считает, что в узких доменах она уже давно появилась.
Например, для беспилотников важно просто хорошо водить машину — не нужно уметь делать омлет. Если частота аварий будет составлять лишь одну десятую от человеческой, то в рамках этой конкретной способности «управление» оно уже превзошло человека. Похожая ситуация есть и в таких сферах, как синтез белков, virtual screening и др.
В финале интервью Хуан Жэньсюнь снова вернул весь разговор к своей основной точке зрения: будущее ИИ — это не то, чего стоит бояться, а то, куда стоит идти.
Он сказал, что многие люди, даже если им уже не нужно работать, всё равно выбирают находиться на передовой технологий, потому что в этом времени «слишком интересно, чтобы не участвовать». Он хочет, чтобы вместе шли к этому будущему и вся Америка, и даже всё человечество.
В конце он снова призвал AI-индустрию «снизить уровень драмы» — не использовать крайние нарративы, чтобы исключить общество из этой технологической революции. Настоящий способ, который может помочь США выиграть гонку в ИИ, — это не то, что несколько лабораторий первыми добираются до финиша, а чтобы вся страна подтянулась вместе.
Статья опубликована с разрешения автора: (Lian News)
Оригинальное название: (Полный текст саммита Huang Renxun All-In: тезисы об ИИ-апокалипсисе не наука — не используйте крайние нарративы, чтобы исключить общество из технологической революции)
Оригинальный автор: Neo
«Полный текст саммита Huang Renxun All-In: тезисы об ИИ-апокалипсисе не наука — не исключайте общество из технологической революции» — эта статья впервые была опубликована на «Крипто-города»…