OpenAI только что сообщила о шокирующем инциденте в сфере безопасности: в их офисе обнаружили спрятанное записывающее устройство. Интересно, что они использовали собственные модели ИИ, чтобы провести обратную разработку устройства и установить конкретного сотрудника, который подбросил его несколькими днями ранее.
По сути, это пример того, как ИИ помогает проводить криминалистический анализ. Вместо традиционного анализа безопасности они задействовали свои модели (вероятно, GPT-4 или o1), чтобы изучить компоненты устройства, сигнатуры прошивки или метаданные и определить источник. Довольно мета — когда ИИ помогает поймать инсайдера.
Это заставляет задуматься о внутренней безопасности лабораторий ИИ. Если кто-то смог пронести оборудование в их офис, что ещё может оказаться уязвимым? Этот случай также демонстрирует практическое применение ИИ в разведке угроз, выходящее за рамки простого обнаружения киберугроз: установление происхождения физического устройства — это уже серьёзный уровень.
По сути, это пример того, как ИИ помогает проводить криминалистический анализ. Вместо традиционного анализа безопасности они задействовали свои модели (вероятно, GPT-4 или o1), чтобы изучить компоненты устройства, сигнатуры прошивки или метаданные и определить источник. Довольно мета — когда ИИ помогает поймать инсайдера.
Это заставляет задуматься о внутренней безопасности лабораторий ИИ. Если кто-то смог пронести оборудование в их офис, что ещё может оказаться уязвимым? Этот случай также демонстрирует практическое применение ИИ в разведке угроз, выходящее за рамки простого обнаружения киберугроз: установление происхождения физического устройства — это уже серьёзный уровень.