Список инцидентов с ИИ-агентами за эту неделю получился длинным.

• Binance: хакер захватил компьютер инженера и с помощью внутреннего инструмента ИИ расширил свои права
• GitBook: кто-то использовал ИИ-агента, чтобы украсть учётные данные инфраструктуры
• Codex: при перезапуске сервера сам изменил fstab и причинил ущерб на сумму свыше 10 тысяч долларов

Теперь я придерживаюсь одного принципа, когда выдаю агентам права:

Разрешено просматривать — запрещено изменять. Разрешено изменять — запрещено переводить деньги.

Насколько широкие права вы давали ИИ?

#AI #AIagent #币安 #安全 #Крипто