Hackers de primeira linha da Anthropic se rendem ao poder dos próprios modelos: de bloquear o lançamento a virar lobista da Casa Branca
Nicholas Carlini já foi um dos mais famosos céticos da área de segurança em IA. Quando trabalhava no Google, ele zombou publicamente da OpenAI por ter atrasado o lançamento do GPT-2 por medo de riscos de segurança — por considerá-lo «demasiado conservador». Hoje, aos 35 anos, este hacker se tornou um dos principais especialistas em segurança da Anthropic: depois de se impressionar com as capacidades do próprio modelo, ele passou de bloquear o lançamento a defender políticas de segurança em IA junto à Casa Branca.
Por que isso importa: isso marca uma mudança de postura de especialistas de ponta em segurança em IA — quando a capacidade dos modelos supera as expectativas, é preciso encontrar um novo equilíbrio entre segurança técnica e influência em políticas.
#Anthropic #AI #安全 #Casa Branca
Nicholas Carlini já foi um dos mais famosos céticos da área de segurança em IA. Quando trabalhava no Google, ele zombou publicamente da OpenAI por ter atrasado o lançamento do GPT-2 por medo de riscos de segurança — por considerá-lo «demasiado conservador». Hoje, aos 35 anos, este hacker se tornou um dos principais especialistas em segurança da Anthropic: depois de se impressionar com as capacidades do próprio modelo, ele passou de bloquear o lançamento a defender políticas de segurança em IA junto à Casa Branca.
Por que isso importa: isso marca uma mudança de postura de especialistas de ponta em segurança em IA — quando a capacidade dos modelos supera as expectativas, é preciso encontrar um novo equilíbrio entre segurança técnica e influência em políticas.
#Anthropic #AI #安全 #Casa Branca