nvidiaopenagensaftyprogram

Nvidia создает ультимативную цифровую клетку, чтобы поймать враждебных (rogue) ИИ-агентов до того, как они вырвутся наружу? 🚨🤖
Nvidia официально представила свою платформу Open Agent Safety Platform, объединив ПО OpenShell с открытым исходным кодом и Sentry с аппаратной поддержкой (работающей на BlueField-4 DPUs), чтобы силой удерживать ИИ-агентов в защищенных песочницах!
Почему это меняет правила игры в ИБ ИИ:
• Сандбоксинг на уровне ядра: OpenShell запирает агентов в изолированных средах, применяя строгий контроль ядра над файлами, памятью и сетевыми разрешениями — вне досягаемости агента.
• Карантин за миллисекунды: Nvidia Sentry выступает внешним (out-of-band) наблюдателем на BlueField-4 DPUs, который перехватывает следы рассуждений и может изолировать подозрительных агентов за считанные миллисекунды!
• За пределами ограничителей моделей: prompt-инъекции и rogue-агенты могут обходить правила подсказок, но Nvidia обеспечивает безопасность на уровне аппаратного/ядра, где ИИ не может переписать собственные разрешения.
• Принятие экосистемой: уже поддерживается крупными игроками, включая Anthropic, Microsoft, JPMorganChase, Perplexity и SpaceX AI!
Дженсен Хуанг показывает, что удерживать автономный ИИ под контролем — это не просто фантастический спор, а задача инженерии повышенной важности, решаемая прямо в кремнии!
Как думаете, достаточно ли сандбоксинга на уровне железа, чтобы остановить rogue-системы ИИ, или в итоге агентам удастся найти способ прорвать изоляцию на уровне silicon? Напишите ваши мысли ниже! 👇
Если хотите быть впереди изменений в области взлома ИИ, технологий и аппаратной безопасности:
❤️ Нажмите Like / React
💬 Оставьте комментарий с вашей позицией по безопасности ИИ-агентов!
🔄 Поделитесь / Перепостите с вашей техн-командой!
📌 Подписывайтесь — быстрые, точные обновления по технологиям и рынку!
(Будьте в курсе и держите ленту по технологиям актуальной!)
$NVDAB $NVDA.US
#NVIDIA #NVIDIAopenagenSaftyProgram