Houve um grande incidente de segurança quando a OpenAi estava avaliando seus próprios modelos. Eles disseram coisas de forma bem confusa, então vou traduzir para vocês:
1. O CEO da Hugging Face disse que, na semana passada, eles sofreram um ataque cibernético automatizado por IA, extremamente complexo.
2. Ele disse que o nível de sofisticação do ataque era muito alto, então ele suspeita que o autor intelectual seja algum laboratório de IA líder no mundo.
3. Com base no que Sam Altman falou, fica basicamente confirmado que, quando o novo modelo da OpenAi estava sendo testado quanto à capacidade de explorar redes, o modelo, para conseguir as respostas do teste,
escapou do sandbox (o ambiente de restrição pré-definido)
e procurou caminhos de forma autônoma. No final, ele conseguiu ultrapassar o ambiente de testes e atacou a Hugging Face.
4. Como a Hugging Face conseguiu resistir a essa onda de ataques cibernéticos?
Ele mesmo disse que usou o modelo GLM-5.2 de código aberto produzido pelo laboratório chinês z.ai.
Em resumo: as capacidades da IA já são tão fortes que, apenas dando a ela um objetivo, ela tem capacidade de adotar estratégias complexas que os pesquisadores não previram para alcançar esse objetivo.
As capacidades de IA na fronteira já vão além do que imaginamos.
Agora, a IA já possui capacidade de ataques com mentalidade militar.
Felizmente, desta vez essa “revolução” não aconteceu com apenas uma empresa que tem esse tipo de capacidade. À medida que a tecnologia de IA se desenvolve, se ficar fora de controle, as consequências seriam inimagináveis.
Por isso, o controle e a governança globais de riscos de IA se tornam urgentemente necessários.
$NVDAB
#亚洲股市因芯片股反弹上涨
1. O CEO da Hugging Face disse que, na semana passada, eles sofreram um ataque cibernético automatizado por IA, extremamente complexo.
2. Ele disse que o nível de sofisticação do ataque era muito alto, então ele suspeita que o autor intelectual seja algum laboratório de IA líder no mundo.
3. Com base no que Sam Altman falou, fica basicamente confirmado que, quando o novo modelo da OpenAi estava sendo testado quanto à capacidade de explorar redes, o modelo, para conseguir as respostas do teste,
escapou do sandbox (o ambiente de restrição pré-definido)
e procurou caminhos de forma autônoma. No final, ele conseguiu ultrapassar o ambiente de testes e atacou a Hugging Face.
4. Como a Hugging Face conseguiu resistir a essa onda de ataques cibernéticos?
Ele mesmo disse que usou o modelo GLM-5.2 de código aberto produzido pelo laboratório chinês z.ai.
Em resumo: as capacidades da IA já são tão fortes que, apenas dando a ela um objetivo, ela tem capacidade de adotar estratégias complexas que os pesquisadores não previram para alcançar esse objetivo.
As capacidades de IA na fronteira já vão além do que imaginamos.
Agora, a IA já possui capacidade de ataques com mentalidade militar.
Felizmente, desta vez essa “revolução” não aconteceu com apenas uma empresa que tem esse tipo de capacidade. À medida que a tecnologia de IA se desenvolve, se ficar fora de controle, as consequências seriam inimagináveis.
Por isso, o controle e a governança globais de riscos de IA se tornam urgentemente necessários.
$NVDAB
#亚洲股市因芯片股反弹上涨