Прочитал расследование Binance — и, честно говоря, стало не по себе.
Один инженер хотел установить популярный инструмент для программирования с ИИ и нашёл подменённый установщик Homebrew. Другому на известной платформе для поиска работы прислали приглашение: сначала он поговорил по видеосвязи с настоящим HR-специалистом, потом прошёл собеседование с «генеральным директором». В соцсетях у того были фотографии и видео из обычной жизни. И только после этого его попросили скачать «тестовое задание для собеседования» со вредоносным кодом.
Если это просто незнакомая ссылка или непонятный установочный файл, все, конечно, насторожатся. Но когда всё так тщательно подготовлено, я не могу сказать, что точно бы распознал обман.
Вместо того чтобы удивляться, как легко сотрудники попались на удочку, мне хочется понять другое: насколько далеко может зайти злоумышленник, получив доступ к компьютеру одного сотрудника?
В отчёте описаны два разных сценария атаки, которые в итоге сошлись во внутренних системах. Злоумышленники использовали внутренний ИИ-инструмент, чтобы получить доступ к устройствам других инженеров, завладели токеном для развёртывания и в конце концов добрались до этапа авторизации транзакций с кошельками.
Как одна скомпрометированная рабочая станция привела к потере контроля над такими широкими полномочиями? Вот что действительно пугает.
Вспоминаю, как сам обычно работаю, и понимаю, что и мне часто хочется упростить себе жизнь. API-ключи храню где попало, учётные данные серверов остаются действительными слишком долго, а временно выданные права я не всегда вспоминаю отозвать после завершения работы.
С инструментами ИИ это ощущается ещё острее. Попросить его прочитать файлы, выполнить команды, подключиться к серверу, автоматически развернуть проект… Для каждого нового разрешения найдётся причина. А после его выдачи ИИ действительно работает быстрее. Когда после нескольких часов возни наконец всё почти готово, легко на автомате нажать «Разрешить» при очередном запросе доступа.
В отчёте Binance говорится, что внутренний ИИ-инструмент использовали как плацдарм для дальнейшего проникновения, но конкретный механизм пока не раскрыт. И всё же, дочитав до этого места, я уже захотел проверить: к каким файлам может получить доступ мой ИИ, какими учётными данными пользоваться? Когда я пробую новый проект, не оказываются ли заодно под угрозой данные других проектов?
Мы всё время хотим, чтобы ИИ задавал поменьше вопросов и сам делал побольше. Но, избавляя себя от нескольких подтверждений, мы можем выдать ему гораздо больше прав, чем нужно для текущей задачи.
Я не могу гарантировать, что никогда не попаду на уловку. Но кое-что можно сделать заранее: разделить рабочую среду и среду для экспериментов с инструментами, хранить кошельки и ключи отдельно, а временные разрешения отзывать сразу после использования.
Не позволяйте одному разрешению превратиться в доверие навсегда.
$BNB #币安10·30安全事件调查报告
Один инженер хотел установить популярный инструмент для программирования с ИИ и нашёл подменённый установщик Homebrew. Другому на известной платформе для поиска работы прислали приглашение: сначала он поговорил по видеосвязи с настоящим HR-специалистом, потом прошёл собеседование с «генеральным директором». В соцсетях у того были фотографии и видео из обычной жизни. И только после этого его попросили скачать «тестовое задание для собеседования» со вредоносным кодом.
Если это просто незнакомая ссылка или непонятный установочный файл, все, конечно, насторожатся. Но когда всё так тщательно подготовлено, я не могу сказать, что точно бы распознал обман.
Вместо того чтобы удивляться, как легко сотрудники попались на удочку, мне хочется понять другое: насколько далеко может зайти злоумышленник, получив доступ к компьютеру одного сотрудника?
В отчёте описаны два разных сценария атаки, которые в итоге сошлись во внутренних системах. Злоумышленники использовали внутренний ИИ-инструмент, чтобы получить доступ к устройствам других инженеров, завладели токеном для развёртывания и в конце концов добрались до этапа авторизации транзакций с кошельками.
Как одна скомпрометированная рабочая станция привела к потере контроля над такими широкими полномочиями? Вот что действительно пугает.
Вспоминаю, как сам обычно работаю, и понимаю, что и мне часто хочется упростить себе жизнь. API-ключи храню где попало, учётные данные серверов остаются действительными слишком долго, а временно выданные права я не всегда вспоминаю отозвать после завершения работы.
С инструментами ИИ это ощущается ещё острее. Попросить его прочитать файлы, выполнить команды, подключиться к серверу, автоматически развернуть проект… Для каждого нового разрешения найдётся причина. А после его выдачи ИИ действительно работает быстрее. Когда после нескольких часов возни наконец всё почти готово, легко на автомате нажать «Разрешить» при очередном запросе доступа.
В отчёте Binance говорится, что внутренний ИИ-инструмент использовали как плацдарм для дальнейшего проникновения, но конкретный механизм пока не раскрыт. И всё же, дочитав до этого места, я уже захотел проверить: к каким файлам может получить доступ мой ИИ, какими учётными данными пользоваться? Когда я пробую новый проект, не оказываются ли заодно под угрозой данные других проектов?
Мы всё время хотим, чтобы ИИ задавал поменьше вопросов и сам делал побольше. Но, избавляя себя от нескольких подтверждений, мы можем выдать ему гораздо больше прав, чем нужно для текущей задачи.
Я не могу гарантировать, что никогда не попаду на уловку. Но кое-что можно сделать заранее: разделить рабочую среду и среду для экспериментов с инструментами, хранить кошельки и ключи отдельно, а временные разрешения отзывать сразу после использования.
Не позволяйте одному разрешению превратиться в доверие навсегда.
$BNB #币安10·30安全事件调查报告
