$TRUMP
🇺🇸🇨🇳 Washington e Pequim agora estão discutindo um problema que soa muito como ficção científica, mas é muito real: o que acontece quando a IA militar avança mais rápido do que os humanos conseguem detê-la?
Especialistas em segurança dos dois países estão propondo novas “linhas vermelhas” para a IA militar, incluindo manter as máquinas longe de decisões de lançamento nuclear, garantir que humanos aprovem grandes ciberataques e criar uma linha direta dedicada para incidentes envolvendo IA.
A preocupação é que um sistema autônomo possa apresentar falhas, ir além de suas ordens ou lançar uma operação cibernética contra infraestrutura militar sensível sem que ninguém realmente tenha a intenção de que isso aconteça.
O outro lado poderia então ter apenas minutos para decidir se foi um acidente ou o primeiro movimento de um ataque.
Isso fica ainda mais complicado quando ambos os países têm sistemas automatizados reagindo um ao outro em velocidade de máquina.
As propostas manteriam humanos sob controle firme de armas nucleares e de ataques a redes de comando nuclear, enquanto fornecem a Washington e Pequim uma linha direta para explicar quando um sistema de IA se torna descontrolado ou faz algo que nenhum dos lados pretendia que acontecesse.
Nenhum governo aderiu ao plano ainda, mas ele surge antes das conversas planejadas entre os EUA e a China sobre IA e do esperado encontro entre Trump e Xi na próxima semana.
A corrida de IA começou com chips e chatbots. Agora ela está se aproximando de forma desconfortável dos sistemas de comando nuclear.
Fontes: Reuters, Brookings Institution
#Ai_sector #worldnews
🇺🇸🇨🇳 Washington e Pequim agora estão discutindo um problema que soa muito como ficção científica, mas é muito real: o que acontece quando a IA militar avança mais rápido do que os humanos conseguem detê-la?
Especialistas em segurança dos dois países estão propondo novas “linhas vermelhas” para a IA militar, incluindo manter as máquinas longe de decisões de lançamento nuclear, garantir que humanos aprovem grandes ciberataques e criar uma linha direta dedicada para incidentes envolvendo IA.
A preocupação é que um sistema autônomo possa apresentar falhas, ir além de suas ordens ou lançar uma operação cibernética contra infraestrutura militar sensível sem que ninguém realmente tenha a intenção de que isso aconteça.
O outro lado poderia então ter apenas minutos para decidir se foi um acidente ou o primeiro movimento de um ataque.
Isso fica ainda mais complicado quando ambos os países têm sistemas automatizados reagindo um ao outro em velocidade de máquina.
As propostas manteriam humanos sob controle firme de armas nucleares e de ataques a redes de comando nuclear, enquanto fornecem a Washington e Pequim uma linha direta para explicar quando um sistema de IA se torna descontrolado ou faz algo que nenhum dos lados pretendia que acontecesse.
Nenhum governo aderiu ao plano ainda, mas ele surge antes das conversas planejadas entre os EUA e a China sobre IA e do esperado encontro entre Trump e Xi na próxima semana.
A corrida de IA começou com chips e chatbots. Agora ela está se aproximando de forma desconfortável dos sistemas de comando nuclear.
Fontes: Reuters, Brookings Institution
#Ai_sector #worldnews
