🚨« As empresas de IA estão brincando com as nossas vidas. »
🗣️É com essas palavras que Jacob Coxon, pesquisador britânico de 27 anos, acaba de anunciar sua saída da Anthropic
🧠Durante três anos, ele trabalhou no pré-treinamento de modelos em duas das empresas mais poderosas do setor: OpenAI e depois Anthropic.
⚠️Segundo ele, nenhuma das duas empresas « age de maneira responsável ». Ambas estariam envolvidas numa corrida para desenvolver uma superinteligência capaz, a longo prazo, de se aprimorar sozinha. Uma competição que empurraria os laboratórios a avançar cada vez mais rápido, mesmo quando os próprios pesquisadores não sabem exatamente como controlar os sistemas que estão desenvolvendo.
👀Ainda mais preocupante: Coxon afirma que alguns dos pesquisadores e dirigentes que desenvolvem essas tecnologias realmente acreditam que uma IA extremamente avançada poderia representar uma ameaça existencial para a humanidade antes do fim da década. E, segundo ele, essas preocupações às vezes são expressas de forma muito mais clara nos bastidores do que em público.
⚔️Cada empresa pode ter interesse em desacelerar, mas nenhuma quer correr o risco de deixar que as outras ganhem vantagem.
🧐« Aceitar essa corrida e entrar no “endgame” é uma aposta absurda que não deveria ser decidida a partir do Slack de uma empresa privada. »
✅E Coxon não está totalmente isolado. Evan Hubinger, responsável na Anthropic por uma equipe que trabalha no alinhamento, apoiou publicamente parte do que ele constatou. Ele estima pessoalmente em mais de 10 % o risco de uma IA provocar a extinção humana no próximo $FF
$MET
$OPEN
🗣️É com essas palavras que Jacob Coxon, pesquisador britânico de 27 anos, acaba de anunciar sua saída da Anthropic
🧠Durante três anos, ele trabalhou no pré-treinamento de modelos em duas das empresas mais poderosas do setor: OpenAI e depois Anthropic.
⚠️Segundo ele, nenhuma das duas empresas « age de maneira responsável ». Ambas estariam envolvidas numa corrida para desenvolver uma superinteligência capaz, a longo prazo, de se aprimorar sozinha. Uma competição que empurraria os laboratórios a avançar cada vez mais rápido, mesmo quando os próprios pesquisadores não sabem exatamente como controlar os sistemas que estão desenvolvendo.
👀Ainda mais preocupante: Coxon afirma que alguns dos pesquisadores e dirigentes que desenvolvem essas tecnologias realmente acreditam que uma IA extremamente avançada poderia representar uma ameaça existencial para a humanidade antes do fim da década. E, segundo ele, essas preocupações às vezes são expressas de forma muito mais clara nos bastidores do que em público.
⚔️Cada empresa pode ter interesse em desacelerar, mas nenhuma quer correr o risco de deixar que as outras ganhem vantagem.
🧐« Aceitar essa corrida e entrar no “endgame” é uma aposta absurda que não deveria ser decidida a partir do Slack de uma empresa privada. »
✅E Coxon não está totalmente isolado. Evan Hubinger, responsável na Anthropic por uma equipe que trabalha no alinhamento, apoiou publicamente parte do que ele constatou. Ele estima pessoalmente em mais de 10 % o risco de uma IA provocar a extinção humana no próximo $FF
$MET
$OPEN
