O padrinho da IA (e ao mesmo tempo o cientista mais citado do mundo) Joshua Bengio apoiou uma pausa global coordenada e VERIFICÁVEL no desenvolvimento da IA até que "garantias de segurança" desse desenvolvimento sejam estabelecidas.

Recentemente, o Papa de Roma pediu para "Desarmar a IA" e também colocar seu desenvolvimento sob controle moral e ético rigoroso.

Esses apelos soam nobres, mas no mundo moderno são irrealistas (pelo que me parece).

O Vaticano está flertando com a Anthropic, tentando "liderar" uma nova revolução tecnológica. Ao mesmo tempo, ele gerencia o avançado telescópio VATT no Arizona, digitaliza seus arquivos secretos com a ajuda de redes neurais, e seus funcionários usam chatbots para trabalho rotineiro. Quando tecnologias penetram até além dos muros dos santuários, eles tentam colocar a IA em pausa - é assim que a eletricidade será banida.

Mas o mais importante não é nem isso. Uma pausa coordenada e global é basicamente impossível. Vivemos em uma era em que a confrontação geopolítica se tornou FIRM e às vezes até QUENTE. A liderança no campo da IA já é uma questão de segurança nacional. É uma questão de armas, incluindo armas cibernéticas. É uma questão de superioridade econômica e militar.

Imagine que os EUA vão honestamente parar o desenvolvimento das tecnologias de IA, como a Anthropic e o padrinho da IA estão pedindo. E o que a China vai fazer? Aumentar a velocidade ao máximo. Para que a "pausa" seja "verificável", os americanos devem ter acesso a centros de dados fechados em Shenzhen, e os chineses - a servidores em Ohio. No mundo de hoje, tal confiança é absolutamente impossível.

Portanto, governos, empresas, cientistas e o Vaticano podem publicar declarações bonitas o quanto quiserem, mas atrás das portas fechadas, os serviços secretos da China, dos EUA e de outros países vão exigir apenas uma coisa: "DESENVOLVA ESSAS TECNOLOGIAS RÁPIDO. O inimigo não vai esperar."