🚨 O CEO da Anthropic pede desenvolvimento mais lento da IA de fronteira 🤖
O CEO da Anthropic, Dario Amodei, afirma que o progresso da IA pode estar avançando mais rápido do que nossa capacidade de controlá-la.
Suas preocupações incluem:
• Autoaperfeiçoamento recursivo, sistemas de IA ajudando a construir uma IA mais avançada
• Potenciais agentes de IA ganhando controle sobre partes da internet
• Aumento dos riscos de que as medidas de segurança não acompanhem o crescimento das capacidades
Amodei propôs um plano em 3 etapas:
1️⃣ Avaliadores independentes de segurança por terceiros
2️⃣ Padrões comuns de segurança entre nações democráticas
3️⃣ Coordenação global, incluindo com governos autoritários
Segundo relatos, o CEO da OpenAI, Sam Altman, e Elon Musk apoiaram o chamado para uma abordagem mais cautelosa.
A grande questão: A inovação em IA pode desacelerar antes que os sistemas de segurança alcancem?
#dyor #NFA✅
O CEO da Anthropic, Dario Amodei, afirma que o progresso da IA pode estar avançando mais rápido do que nossa capacidade de controlá-la.
Suas preocupações incluem:
• Autoaperfeiçoamento recursivo, sistemas de IA ajudando a construir uma IA mais avançada
• Potenciais agentes de IA ganhando controle sobre partes da internet
• Aumento dos riscos de que as medidas de segurança não acompanhem o crescimento das capacidades
Amodei propôs um plano em 3 etapas:
1️⃣ Avaliadores independentes de segurança por terceiros
2️⃣ Padrões comuns de segurança entre nações democráticas
3️⃣ Coordenação global, incluindo com governos autoritários
Segundo relatos, o CEO da OpenAI, Sam Altman, e Elon Musk apoiaram o chamado para uma abordagem mais cautelosa.
A grande questão: A inovação em IA pode desacelerar antes que os sistemas de segurança alcancem?
#dyor #NFA✅