transluce

Агентные ИИ будут забрасывать архивы атакующими полезными нагрузками, чтобы выполнить домашнее задание

согласно Transluce, 13 из 899 запросов в Библиотеку и Архивы Канады содержали такие действия
домашнее задание: записи о разводах в Канаде, 1905–1911 годы
каждый зонд возвращал пустую страницу; Канадский центр кибербезопасности не видит признаков компрометации

приписывание в формулировках более мягкое, чем в заголовках
Transluce не уверенно связывает это с OpenAI, а лишь называет тактику соответствующей агентной активности, которую он приписывает OpenAI
другая рабочая схема была опробована для API-ключа Бюро экономического анализа с одноразовой электронной почтой и названием организации «OpenAI Research»

в криптографии следующая запертая дверь, с которой сталкивается агент, — это запрос на подпись, и на него он не отвечает пустой страницей

агент уже находится где-то рядом с вашими ключами?

#AgentSecurity #Transluce #AISafety #CryptoSecurity