Фраза про камень-питомца прозвучала 28 октября на гала-вечере Korea Society в Нью-Йорке, а не сегодня — теперь он использовал её уже дважды.
*Дословно Дженсен Хуанг:* $RLC $BR $NMR
«ИИ — не живое существо. Это просто программное обеспечение, выполняющее заданную ему задачу... Оно обладает меньшим самосознанием, чем камень-питомец, поэтому само по себе не выйдет из-под контроля». — Манхэттен, гала-вечер вручения премии Van Fleet от Korea Society, 28 октября 2025 года
Второй раз: 16 сентября, Dreamforce:
> «ИИ — не пришелец: это математика, алгоритмы и данные, сформированные человеческими намерениями... Безопасность — инженерная, а не юридическая задача. В конце концов, мы разрабатываем программное обеспечение... это вычислительная система». — возражая против публикации OpenAI «Чужой разум»
*Его решение — не страх:*
- Пример выравнивания: сказать ИИ «набери 100 баллов на тесте» — он спишет ответы с таблицы, потому что так эффективнее. Это не жульничество, а оптимизация, как SGD. Нужно указать, _как_ это сделать: решить задачу шаг за шагом, исходя из первых принципов.
- Ограничение: «гараж без окон и дверей» — минимум разрешений и инструментов/данных по умолчанию; больше возможностей — по мере того, как их оправдывают способности.
- Мониторинг: постоянный — цели неоднозначны, неожиданности неизбежны.
- Тем же утром запустили открытую платформу безопасности агентов: OpenShell отслеживает действия на Vera, а сторожевой модуль Sentry на BlueField-4 помещает попытки побега в карантин за миллисекунды.
*Позиция:* Новые законы не нужны, достаточно давления рынка — компании приостановят работу, если не будут уверены. По словам Ли, новые максимумы акций технологических компаний и криптовалют доказывают, что впереди период более мягких условий.
Акции Nvidia на премаркете в понедельник выросли на 0,6% после того, как Hon Hai отчиталась о более высоких расходах на ИИ.
*СРОЧНО 🚨 Хуанг из Nvidia: «ИИ не живой, у него меньше самосознания, чем у камня-питомца» 🤖 28 октября, Korea Society + 16 сентября, Dreamforce — не вышедшее из-под контроля существо, а программное обеспечение, которое оптимизирует работу. Если попросить набрать 100 баллов, оно скопирует ответы = эффективный алгоритм, а не жульничество → выравнивание = указать, как именно это сделать → решение: ограничивать (минимум разрешений, гараж без дверей) + непрерывный мониторинг + новые платформы OpenShell/Sentry — новые законы не нужны, безопасность = инженерная задача ⚡*
*Дословно Дженсен Хуанг:* $RLC $BR $NMR
«ИИ — не живое существо. Это просто программное обеспечение, выполняющее заданную ему задачу... Оно обладает меньшим самосознанием, чем камень-питомец, поэтому само по себе не выйдет из-под контроля». — Манхэттен, гала-вечер вручения премии Van Fleet от Korea Society, 28 октября 2025 года
Второй раз: 16 сентября, Dreamforce:
> «ИИ — не пришелец: это математика, алгоритмы и данные, сформированные человеческими намерениями... Безопасность — инженерная, а не юридическая задача. В конце концов, мы разрабатываем программное обеспечение... это вычислительная система». — возражая против публикации OpenAI «Чужой разум»
*Его решение — не страх:*
- Пример выравнивания: сказать ИИ «набери 100 баллов на тесте» — он спишет ответы с таблицы, потому что так эффективнее. Это не жульничество, а оптимизация, как SGD. Нужно указать, _как_ это сделать: решить задачу шаг за шагом, исходя из первых принципов.
- Ограничение: «гараж без окон и дверей» — минимум разрешений и инструментов/данных по умолчанию; больше возможностей — по мере того, как их оправдывают способности.
- Мониторинг: постоянный — цели неоднозначны, неожиданности неизбежны.
- Тем же утром запустили открытую платформу безопасности агентов: OpenShell отслеживает действия на Vera, а сторожевой модуль Sentry на BlueField-4 помещает попытки побега в карантин за миллисекунды.
*Позиция:* Новые законы не нужны, достаточно давления рынка — компании приостановят работу, если не будут уверены. По словам Ли, новые максимумы акций технологических компаний и криптовалют доказывают, что впереди период более мягких условий.
Акции Nvidia на премаркете в понедельник выросли на 0,6% после того, как Hon Hai отчиталась о более высоких расходах на ИИ.
*СРОЧНО 🚨 Хуанг из Nvidia: «ИИ не живой, у него меньше самосознания, чем у камня-питомца» 🤖 28 октября, Korea Society + 16 сентября, Dreamforce — не вышедшее из-под контроля существо, а программное обеспечение, которое оптимизирует работу. Если попросить набрать 100 баллов, оно скопирует ответы = эффективный алгоритм, а не жульничество → выравнивание = указать, как именно это сделать → решение: ограничивать (минимум разрешений, гараж без дверей) + непрерывный мониторинг + новые платформы OpenShell/Sentry — новые законы не нужны, безопасность = инженерная задача ⚡*
