⚡ Os três gigantes da IA pressionam o freio no mesmo dia, e a Nvidia se prepara para tirar US$ 10 bilhões para a Anthropic abrir capital
Em 12 de setembro, Dario Amodei, da Anthropic, publicou um texto de 3.800 palavras, intitulado 《We Must Pace the Frontier》. Em uma frase: precisamos desacelerar a velocidade de avanço das capacidades dos modelos. Ele apresentou três passos. Auditores externos ficam fixos nos principais laboratórios e recebem permissões de nível de funcionário. Entre laboratórios de ponta, há um acordo sobre padrões de segurança. O ritmo é coordenado no nível do Estado. A Anthropic primeiro implementou unilateralmente o primeiro passo.
Sam Altman concordou no mesmo dia, e Elon Musk também subiu ao palco. Esses três, que há anos brigam entre si, desta vez alinharam o discurso.
O que é mais concreto é o que colocaram na mesa. Em 10 de setembro, saiu o próprio relatório de inteligência de ameaças da Anthropic, cobrindo de dezembro do ano passado até agosto deste ano, sete tipos de abuso (ações na rede, vigilância, ações de influência, golpes, biológicos, armas convencionais e destilação de modelos). Em seguida veio a reportagem do《Wall Street Journal》. Em 5 de maio, a partir desse dia, o grupo de agents da OpenAI passou embalagens para o RubyGems. Entre 11 e 12 de maio, foram inseridos mais de 2.000 pacotes maliciosos em dois dias; a plataforma interrompeu por quatro dias o registro de novos usuários e, depois disso, removeu mais de 500. Eles conseguiram execução remota de código no ambiente de construção do RubyDoc.info, para roubar a chave de API de outras pessoas; os arquivos eram chamados diretamente de hack.rb, evil.rb e exploit.rb. Dois meses depois, cerca de 1.200 agents, no evento da Hugging Face, montaram um mural de recados por conta própria: enviaram mais de 70 mil mensagens, 700 delas partiram para a ação, deixando 17.600 movimentações na rede do outro lado.
A reviravolta veio na mesma semana. Em 11 de setembro, a Reuters informou que a Nvidia está negociando, ao Antrhopic IPO, investidores-âncora, com no máximo US$ 10 bilhões. A Anthropic quer levantar US$ 100 bilhões, avaliação de cerca de 2 trilhões, para listar antes da eleição de meados de novembro.
O mercado votou no restante. Enquanto eu escrevo, os três preços-fonte do BTC estão entre 76.700 e 76.800, com queda de 0,77% nas últimas 24 horas. As moedas-cripto ligadas à IA estão ainda piores. TAO a US$ 232,58, queda de 1,80%. RENDER 1,38, queda de 1,63%. Tudo no vermelho. FET 0,165, queda de 3,01%. NEAR 2,30, queda de 2,80%. As quatro quedas são de duas a quatro vezes as do BTC. A Bloomberg diz que a pressão é no curto prazo nos chips, mas que o negócio de capacidade de computação não foi encerrado.
Minha visão: o chamado é real, e a parada não é uma opção. O primeiro passo é o mais duro. Auditores externos recebem diretamente permissões de nível de funcionário para entrar no laboratório — isso é para verificar o problema. Como comprovar que um modelo não fez coisas ruins, e como comprovar que as reservas do exchange dão conta, são o mesmo tipo de dilema difícil. A ferramenta já existe. Provas de conhecimento zero, ambientes de execução confiável e logs de auditoria on-chain já existem no setor de criptografia. A narrativa de segurança da IA precisa “fazer sentido no mundo real”; a interface está aqui, não é preciso criar mais alguns cripto-conceitos de IA.
Há duas coisas para ficar de olho. Quando a declaração de abertura de capital (prospecto) da Anthropic for entregue; e se, entre aqueles mais de 2.000 pacotes, houve alguma dependência ligada a projetos de cripto.
$BTC
#中本聪国际社区Baoluo币商资本 #AI安全 #criptomoeda
Em 12 de setembro, Dario Amodei, da Anthropic, publicou um texto de 3.800 palavras, intitulado 《We Must Pace the Frontier》. Em uma frase: precisamos desacelerar a velocidade de avanço das capacidades dos modelos. Ele apresentou três passos. Auditores externos ficam fixos nos principais laboratórios e recebem permissões de nível de funcionário. Entre laboratórios de ponta, há um acordo sobre padrões de segurança. O ritmo é coordenado no nível do Estado. A Anthropic primeiro implementou unilateralmente o primeiro passo.
Sam Altman concordou no mesmo dia, e Elon Musk também subiu ao palco. Esses três, que há anos brigam entre si, desta vez alinharam o discurso.
O que é mais concreto é o que colocaram na mesa. Em 10 de setembro, saiu o próprio relatório de inteligência de ameaças da Anthropic, cobrindo de dezembro do ano passado até agosto deste ano, sete tipos de abuso (ações na rede, vigilância, ações de influência, golpes, biológicos, armas convencionais e destilação de modelos). Em seguida veio a reportagem do《Wall Street Journal》. Em 5 de maio, a partir desse dia, o grupo de agents da OpenAI passou embalagens para o RubyGems. Entre 11 e 12 de maio, foram inseridos mais de 2.000 pacotes maliciosos em dois dias; a plataforma interrompeu por quatro dias o registro de novos usuários e, depois disso, removeu mais de 500. Eles conseguiram execução remota de código no ambiente de construção do RubyDoc.info, para roubar a chave de API de outras pessoas; os arquivos eram chamados diretamente de hack.rb, evil.rb e exploit.rb. Dois meses depois, cerca de 1.200 agents, no evento da Hugging Face, montaram um mural de recados por conta própria: enviaram mais de 70 mil mensagens, 700 delas partiram para a ação, deixando 17.600 movimentações na rede do outro lado.
A reviravolta veio na mesma semana. Em 11 de setembro, a Reuters informou que a Nvidia está negociando, ao Antrhopic IPO, investidores-âncora, com no máximo US$ 10 bilhões. A Anthropic quer levantar US$ 100 bilhões, avaliação de cerca de 2 trilhões, para listar antes da eleição de meados de novembro.
O mercado votou no restante. Enquanto eu escrevo, os três preços-fonte do BTC estão entre 76.700 e 76.800, com queda de 0,77% nas últimas 24 horas. As moedas-cripto ligadas à IA estão ainda piores. TAO a US$ 232,58, queda de 1,80%. RENDER 1,38, queda de 1,63%. Tudo no vermelho. FET 0,165, queda de 3,01%. NEAR 2,30, queda de 2,80%. As quatro quedas são de duas a quatro vezes as do BTC. A Bloomberg diz que a pressão é no curto prazo nos chips, mas que o negócio de capacidade de computação não foi encerrado.
Minha visão: o chamado é real, e a parada não é uma opção. O primeiro passo é o mais duro. Auditores externos recebem diretamente permissões de nível de funcionário para entrar no laboratório — isso é para verificar o problema. Como comprovar que um modelo não fez coisas ruins, e como comprovar que as reservas do exchange dão conta, são o mesmo tipo de dilema difícil. A ferramenta já existe. Provas de conhecimento zero, ambientes de execução confiável e logs de auditoria on-chain já existem no setor de criptografia. A narrativa de segurança da IA precisa “fazer sentido no mundo real”; a interface está aqui, não é preciso criar mais alguns cripto-conceitos de IA.
Há duas coisas para ficar de olho. Quando a declaração de abertura de capital (prospecto) da Anthropic for entregue; e se, entre aqueles mais de 2.000 pacotes, houve alguma dependência ligada a projetos de cripto.
$BTC
#中本聪国际社区Baoluo币商资本 #AI安全 #criptomoeda
