$SNDK
Caramba
A IA já começou a procurar falhas por conta própria agora?😂
A OpenAI divulgou a mais recente versão da próxima geração de modelo, Astra
revelou uma capacidade bem absurda
O modelo não precisa de alguém guiando passo a passo
ele mesmo vai buscar, no sistema, vulnerabilidades de segurança desconhecidas
os testes de referência tiraram nota máxima
O que isso quer dizer?
Vamos lá, bem na linguagem do dia a dia:
Antes, para achar vulnerabilidades
os engenheiros de segurança ficavam acordados até tarde, lendo código linha por linha
Agora, essa IA
basta receber um ambiente
e já consegue procurar falhas
E ainda consegue escrever formas de ataque explorando as vulnerabilidades
Claro, a OpenAI também deve estar bem preocupada
essa capacidade de alto risco não vai ser liberada totalmente
só vai ser oferecida a um grupo pequeno de testadores
com várias barreiras de segurança reforçadas
para evitar que pessoas mal-intencionadas usem de forma indevida
Pensa bem
Se isso acontecesse no mundo das criptos
significa o quê?
Na blockchain tem contratos inteligentes por todo lado
se alguém esconder uma falha no código
o roubo e o “levar vantagem” viram perdas em dinheiro de verdade
Olha pelo lado bom
No futuro, os responsáveis pelos projetos podem usar esse tipo de IA
para escanear contratos automaticamente
e encontrar os “buracos” antes, para corrigir
reduzir incidentes de roubo
Mas se a gente pensar pelo lado ruim
Se essa capacidade vazar
um hacker com isso em mãos
vai reduzir drasticamente o nível de dificuldade para achar falhas em contratos
antes precisava de especialistas de topo para fazer o trabalho
agora a IA consegue fazer em escala
Caramba, MD, parece que essa coisa de IA é praticamente onipotente
Mas também é preciso colocar as coisas no lugar
por enquanto ainda é só fase de testes internos
as capacidades estão bem limitadas
não é qualquer pessoa que liga e já sai atacando projetos na blockchain
Então a empresa reforçou controles de segurança
limitou permissões de rede e de ferramentas
e ainda adicionou mecanismos de monitoramento e interceptação automática
Tenho uma ideia ousada
Se essa IA é tão incrível
por que a OpenAI ainda consegue controlar ela?
Com esse ritmo de evolução
a IA no futuro vai virar a mesa e hackear os próprios servidores da empresa?🤭
#openai称astra可自主发现漏洞
Caramba
A IA já começou a procurar falhas por conta própria agora?😂
A OpenAI divulgou a mais recente versão da próxima geração de modelo, Astra
revelou uma capacidade bem absurda
O modelo não precisa de alguém guiando passo a passo
ele mesmo vai buscar, no sistema, vulnerabilidades de segurança desconhecidas
os testes de referência tiraram nota máxima
O que isso quer dizer?
Vamos lá, bem na linguagem do dia a dia:
Antes, para achar vulnerabilidades
os engenheiros de segurança ficavam acordados até tarde, lendo código linha por linha
Agora, essa IA
basta receber um ambiente
e já consegue procurar falhas
E ainda consegue escrever formas de ataque explorando as vulnerabilidades
Claro, a OpenAI também deve estar bem preocupada
essa capacidade de alto risco não vai ser liberada totalmente
só vai ser oferecida a um grupo pequeno de testadores
com várias barreiras de segurança reforçadas
para evitar que pessoas mal-intencionadas usem de forma indevida
Pensa bem
Se isso acontecesse no mundo das criptos
significa o quê?
Na blockchain tem contratos inteligentes por todo lado
se alguém esconder uma falha no código
o roubo e o “levar vantagem” viram perdas em dinheiro de verdade
Olha pelo lado bom
No futuro, os responsáveis pelos projetos podem usar esse tipo de IA
para escanear contratos automaticamente
e encontrar os “buracos” antes, para corrigir
reduzir incidentes de roubo
Mas se a gente pensar pelo lado ruim
Se essa capacidade vazar
um hacker com isso em mãos
vai reduzir drasticamente o nível de dificuldade para achar falhas em contratos
antes precisava de especialistas de topo para fazer o trabalho
agora a IA consegue fazer em escala
Caramba, MD, parece que essa coisa de IA é praticamente onipotente
Mas também é preciso colocar as coisas no lugar
por enquanto ainda é só fase de testes internos
as capacidades estão bem limitadas
não é qualquer pessoa que liga e já sai atacando projetos na blockchain
Então a empresa reforçou controles de segurança
limitou permissões de rede e de ferramentas
e ainda adicionou mecanismos de monitoramento e interceptação automática
Tenho uma ideia ousada
Se essa IA é tão incrível
por que a OpenAI ainda consegue controlar ela?
Com esse ritmo de evolução
a IA no futuro vai virar a mesa e hackear os próprios servidores da empresa?🤭
#openai称astra可自主发现漏洞
