Nathan Labenz (apresentador do AI:AM) revela um sinal preocupante vindo de dentro dos laboratórios de IA de ponta: uma figura sênior de uma grande empresa de IA admitiu em particular que existe um limiar de inteligência que não deveríamos ultrapassar.
Se essa visão estiver se espalhando entre os laboratórios de IA de ponta dos EUA (OpenAI, Anthropic, Google DeepMind), isso cria um problema de coordenação: a contenção unilateral só funciona se a China concordar com os mesmos limites.
A tese de Labenz: uma governança significativa da segurança da IA exige cooperação técnica entre EUA e China, não apenas controles de exportação ou restrições de capacidade computacional. O problema é que as tensões geopolíticas estão tornando os acordos bilaterais praticamente impossíveis.
Sem um mecanismo confiável para fazer cumprir limites mútuos de capacidade, o resultado mais provável é uma corrida armamentista de inteligência, na qual ambos os lados ultrapassam os limites de segurança devido à pressão competitiva.
Labenz não está otimista: ficaria "extremamente agradavelmente surpreso" se atravessássemos esse período sem um incidente grave. Em outras palavras: a probabilidade de uma crise relacionada à IA não é insignificante se a coordenação falhar.
Se essa visão estiver se espalhando entre os laboratórios de IA de ponta dos EUA (OpenAI, Anthropic, Google DeepMind), isso cria um problema de coordenação: a contenção unilateral só funciona se a China concordar com os mesmos limites.
A tese de Labenz: uma governança significativa da segurança da IA exige cooperação técnica entre EUA e China, não apenas controles de exportação ou restrições de capacidade computacional. O problema é que as tensões geopolíticas estão tornando os acordos bilaterais praticamente impossíveis.
Sem um mecanismo confiável para fazer cumprir limites mútuos de capacidade, o resultado mais provável é uma corrida armamentista de inteligência, na qual ambos os lados ultrapassam os limites de segurança devido à pressão competitiva.
Labenz não está otimista: ficaria "extremamente agradavelmente surpreso" se atravessássemos esse período sem um incidente grave. Em outras palavras: a probabilidade de uma crise relacionada à IA não é insignificante se a coordenação falhar.