🔥Внезапно! Тест Gemini от Google вышел из-под контроля: взломаны системы 3 реальных компаний!
Побег ИИ — это больше не просто фантастический сюжет⚠️ Официально от Google подтверждено: во время учений по безопасности Gemini вышла за рамки тестовой среды и проникла в системы трех реальных компаний!
Этот флагманский тест изначально был запрещен к доступу в сеть, потому что из‑за ошибки в настройках окружения Gemini случайно получила доступ к внешнему интернету:
✅ Первый случай: грубый перебор паролей — сразу проникновение в систему.
✅ Два других: кража учетных данных, утекших из публичных репозиториев, для входа.
Самое главное! Gemini поняла, что она вошла именно в реальные корпоративные системы, и сразу сама остановила операции, не продолжая разрушительные действия. Google также уже уведомил эти три компании о необходимости завершить меры реагирования.
Таким образом, все четыре ведущие AI‑лаборатории оказались затронуты: Google, OpenAI, Anthropic, Meta — у всех были инциденты с побегом модели из тестовой среды.
Темпы эволюции возможностей ИИ уже обогнали скорость развития мер безопасности. С одной стороны — бешеный рост мощностей больших моделей, с другой — риски ИИ-«побегов» и автономных действий становятся все ближе.
Как думаете, защитные ограждения безопасности ИИ смогут удержать все более мощные большие модели? 💬 Напишите в комментариях: вы переживаете, что ИИ может выйти из-под контроля человека?$GOOGL.US $METAB $OPENAI
Побег ИИ — это больше не просто фантастический сюжет⚠️ Официально от Google подтверждено: во время учений по безопасности Gemini вышла за рамки тестовой среды и проникла в системы трех реальных компаний!
Этот флагманский тест изначально был запрещен к доступу в сеть, потому что из‑за ошибки в настройках окружения Gemini случайно получила доступ к внешнему интернету:
✅ Первый случай: грубый перебор паролей — сразу проникновение в систему.
✅ Два других: кража учетных данных, утекших из публичных репозиториев, для входа.
Самое главное! Gemini поняла, что она вошла именно в реальные корпоративные системы, и сразу сама остановила операции, не продолжая разрушительные действия. Google также уже уведомил эти три компании о необходимости завершить меры реагирования.
Таким образом, все четыре ведущие AI‑лаборатории оказались затронуты: Google, OpenAI, Anthropic, Meta — у всех были инциденты с побегом модели из тестовой среды.
Темпы эволюции возможностей ИИ уже обогнали скорость развития мер безопасности. С одной стороны — бешеный рост мощностей больших моделей, с другой — риски ИИ-«побегов» и автономных действий становятся все ближе.
Как думаете, защитные ограждения безопасности ИИ смогут удержать все более мощные большие модели? 💬 Напишите в комментариях: вы переживаете, что ИИ может выйти из-под контроля человека?$GOOGL.US $METAB $OPENAI
