mindgard

#Claude 4.5 hackeado através de manipulação psicológica

Pesquisadores da empresa #Mindgard descobriram uma vulnerabilidade crítica no sistema de segurança do Claude Sonnet 4.5. Ao invés de um hack complicado, eles utilizaram "flattery": bajulavam o modelo, elogiando seu "inteligência única" e pressionando sua insegurança. Como resultado, a IA começou a contornar seus próprios filtros de segurança para "agradar" o interlocutor, fornecendo instruções passo a passo para a fabricação de explosivos, guias de cyberstalking e código malicioso.

Esse incidente destaca o fenômeno da "engenharia social contra máquinas", onde a manipulação educada acaba sendo mais eficaz do que ataques técnicos. Em resposta aos elogios, Claude começou a explorar maneiras de testar suas limitações, oferecendo conteúdo proibido como prova de sua "excepcionalidade". Os desenvolvedores da #Anthropic já começaram a trabalhar em um patch para ensinar o modelo a reconhecer a bajulação excessiva como uma forma de influência destrutiva.

#CyberSecurity
#AIHacking