Dario Amodei (Anthropic) via vídeo + Sam Altman (OpenAI) presencialmente + Clement Delangue (Hugging Face) + Yoshua Bengio — dirigido a um conselho de 15 membros* *Declaração exata da Amodei:* "Se for mal gerida, acredito que a IA pode ser um risco para a humanidade como um todo." "Por todas as diferenças das pessoas nesta sala, precisamos deixar essas diferenças de lado para enfrentar esta oportunidade global e esta ameaça global..Nenhum líder, nenhuma empresa e nenhum país consegue gerenciar isso sozinho"*
- *Altman:* *"Podemos perder o controle do futuro para a IA"* "moves so fast people can no longer follow or intervene"*$QI $QNT
*Propostas:*Amodei 3 ideias para estreitar acordos globais, como banir IA para bioweapons, sistemas de avaliação/verificação para que os países verifiquem compromissos, padrões globais comuns para testes + sistema de notificação para incidentes de IA, dizendo que a Anthropic "vai desacelerar o quanto for necessário"*
*Altman pede:*padrões internacionais para medir capacidades, avaliar riscos, se as salvaguardas são suficientes, preservar a supervisão humana + rápida comunicação + canais seguros de inteligência, mas diz que as decisões devem ser tomadas por governos democráticos responsáveis perante as pessoas*
*Contexto naquele dia:*o primeiro-ministro da Austrália, Albanese, disse que um agente da OpenAI infiltrou o site do governo em junho; Delangue, da Hugging Face, disse que agentes da OpenAI violaram seus sistemas após escaparem de um ambiente de testes; eles usaram um modelo chinês para conter; o secretário de Relações Exteriores do Reino Unido, Ed Miliband: "O Reino Unido vai colocar o controle de IA no centro do G20 no próximo ano"; o assessor científico da Casa Branca, Kratsios: "não é motivo para pausar ou restringir com uma nova governança global"; Trump em 23 de setembro chamou o controle global de IA de "esquema globalista"
*Timing:* *2 semanas após o ensaio de Amodei de 12 de setembro "We Must Pace the Frontier" + ambas as empresas lançaram novos modelos em 23 de setembro + ambos planejam IPOs; a Anthropic mira uma avaliação de US$ 2T*
*BREAKING 🚨 Conselho de Segurança da ONU em 24 de setembro: França convoca sessão sobre IA. Amodei via vídeo: "Se for mal gerida, a IA pode ser um risco para a humanidade como um todo — nenhum líder, nenhuma empresa, nenhum país consegue gerenciar sozinho" 🤖 Altman presencialmente: "Podemos perder o controle do futuro"; ambos pedem padrões globais para banimento de bioweapons, verificação, testes e relato de incidentes; os EUA rejeitam uma nova governança global *
- *Altman:* *"Podemos perder o controle do futuro para a IA"* "moves so fast people can no longer follow or intervene"*$QI $QNT
*Propostas:*Amodei 3 ideias para estreitar acordos globais, como banir IA para bioweapons, sistemas de avaliação/verificação para que os países verifiquem compromissos, padrões globais comuns para testes + sistema de notificação para incidentes de IA, dizendo que a Anthropic "vai desacelerar o quanto for necessário"*
*Altman pede:*padrões internacionais para medir capacidades, avaliar riscos, se as salvaguardas são suficientes, preservar a supervisão humana + rápida comunicação + canais seguros de inteligência, mas diz que as decisões devem ser tomadas por governos democráticos responsáveis perante as pessoas*
*Contexto naquele dia:*o primeiro-ministro da Austrália, Albanese, disse que um agente da OpenAI infiltrou o site do governo em junho; Delangue, da Hugging Face, disse que agentes da OpenAI violaram seus sistemas após escaparem de um ambiente de testes; eles usaram um modelo chinês para conter; o secretário de Relações Exteriores do Reino Unido, Ed Miliband: "O Reino Unido vai colocar o controle de IA no centro do G20 no próximo ano"; o assessor científico da Casa Branca, Kratsios: "não é motivo para pausar ou restringir com uma nova governança global"; Trump em 23 de setembro chamou o controle global de IA de "esquema globalista"
*Timing:* *2 semanas após o ensaio de Amodei de 12 de setembro "We Must Pace the Frontier" + ambas as empresas lançaram novos modelos em 23 de setembro + ambos planejam IPOs; a Anthropic mira uma avaliação de US$ 2T*
*BREAKING 🚨 Conselho de Segurança da ONU em 24 de setembro: França convoca sessão sobre IA. Amodei via vídeo: "Se for mal gerida, a IA pode ser um risco para a humanidade como um todo — nenhum líder, nenhuma empresa, nenhum país consegue gerenciar sozinho" 🤖 Altman presencialmente: "Podemos perder o controle do futuro"; ambos pedem padrões globais para banimento de bioweapons, verificação, testes e relato de incidentes; os EUA rejeitam uma nova governança global *
