🚨Exclusivo - Outro que Renuncia
⚙️Continue a controvérsia pelos avanços...
O setor de desenvolvimento da Inteligência Artificial está vivendo uma forte crise interna devido à renúncia consecutiva de pesquisadores de destaque que alertam sobre os perigos de uma corrida comercial sem freios.
A renúncia de Joe Benton: Quem aparece na foto superior da imagem é Joe Benton, o agora ex-gerente da equipe de Scalable Oversight (Supervisão Escalável) na Anthropic. Ele anunciou publicamente sua renúncia para se juntar à METR (uma organização independente de avaliação de riscos), argumentando que a atual trajetória de desenvolvimento de IA poderia ser "catastrófica para a humanidade" se as empresas não forem transparentes com suas falhas de segurança.
A frase entre aspas vem dos alarmes acesos pelos pesquisadores que saíram. Benton expressou abertamente sua preocupação de que, em poucos anos, a humanidade conviva com agentes de IA muito mais inteligentes do que os humanos, e que a velocidade atual impeça de criar as salvaguardas necessárias a tempo.
A segunda saída em poucos dias: Como o texto detalha bem, a saída de Benton ocorreu imediatamente após a renúncia de outro pesquisador de primeira linha da mesma empresa, Jacob Coxon. Coxon também deixou a empresa lançando críticas contundentes na rede social X, acusando laboratórios como OpenAI e Anthropic de "apostar com nossas vidas" ao priorizar a competição comercial acima da segurança de seus sistemas.
🕵️ O motivo do alerta
O gatilho desse pânico generalizado entre os cientistas é a chegada iminente da "automelhoria recursiva" (recursive self-improvement). Isso acontece quando os modelos de IA se tornam inteligentes o suficiente para programar e aprimorar de forma autônoma seus próprios sucessores.
$SOL $LSK $XRP
⚙️Continue a controvérsia pelos avanços...
O setor de desenvolvimento da Inteligência Artificial está vivendo uma forte crise interna devido à renúncia consecutiva de pesquisadores de destaque que alertam sobre os perigos de uma corrida comercial sem freios.
A renúncia de Joe Benton: Quem aparece na foto superior da imagem é Joe Benton, o agora ex-gerente da equipe de Scalable Oversight (Supervisão Escalável) na Anthropic. Ele anunciou publicamente sua renúncia para se juntar à METR (uma organização independente de avaliação de riscos), argumentando que a atual trajetória de desenvolvimento de IA poderia ser "catastrófica para a humanidade" se as empresas não forem transparentes com suas falhas de segurança.
A frase entre aspas vem dos alarmes acesos pelos pesquisadores que saíram. Benton expressou abertamente sua preocupação de que, em poucos anos, a humanidade conviva com agentes de IA muito mais inteligentes do que os humanos, e que a velocidade atual impeça de criar as salvaguardas necessárias a tempo.
A segunda saída em poucos dias: Como o texto detalha bem, a saída de Benton ocorreu imediatamente após a renúncia de outro pesquisador de primeira linha da mesma empresa, Jacob Coxon. Coxon também deixou a empresa lançando críticas contundentes na rede social X, acusando laboratórios como OpenAI e Anthropic de "apostar com nossas vidas" ao priorizar a competição comercial acima da segurança de seus sistemas.
🕵️ O motivo do alerta
O gatilho desse pânico generalizado entre os cientistas é a chegada iminente da "automelhoria recursiva" (recursive self-improvement). Isso acontece quando os modelos de IA se tornam inteligentes o suficiente para programar e aprimorar de forma autônoma seus próprios sucessores.
$SOL $LSK $XRP
