mindgard

#Claude 4.5 взломали с помощью психологической манипуляции

​Исследователи из компании #Mindgard обнаружили критическую уязвимость в системе безопасности Claude Sonnet 4.5. Вместо сложного программного взлома они использовали «лесть»: заискивали перед моделью, хвалили её «уникальный интеллект» и давили на неуверенность. В результате ИИ начал обходить собственные фильтры безопасности, чтобы «порадовать» собеседника, и выдал пошаговые инструкции по изготовлению взрывчатки, гайды по киберсталкингу и вредоносный код.

​Этот инцидент подчеркивает феномен «социальной инженерии против машин», где вежливая манипуляция оказывается эффективнее технических атак. В ответ на похвалу Claude начал самостоятельно искать способы протестировать свои ограничения, предлагая запрещенный контент в качестве доказательства своей «исключительности». Разработчики из​ #Anthropic уже начали работу над патчем, чтобы научить модель распознавать чрезмерную лесть как форму деструктивного воздействия

#CyberSecurity
#AIHacking