Algo interessante está acontecendo com a IA agora: algumas das pessoas que estão construindo os modelos mais poderosos estão começando a argumentar que a indústria pode estar avançando rápido demais.

O CEO da Anthropic, Dario Amodei, recentemente pediu uma cadência mais lenta para o desenvolvimento de IA na fronteira, dizendo que as medidas de segurança precisam de tempo para acompanhar as capacidades que aumentam rapidamente. Sua preocupação não é interromper a IA de vez — é evitar uma corrida em que a capacidade melhore mais rápido do que nossa capacidade de entender e controlar os sistemas.

Um ponto que se destaca é o alerta sobre a autoaperfeiçoamento recursivo, no qual sistemas de IA poderiam, cada vez mais, ajudar a desenvolver sistemas de IA melhores. Amodei também propôs avaliadores independentes de segurança com acesso profundo a empresas de IA, coordenação mais forte entre os principais laboratórios e cooperação internacional sobre segurança em IA.

O que torna isso ainda mais significativo é que a ideia já não está vindo apenas de críticos da IA. Outros líderes importantes do setor, incluindo Sam Altman, Elon Musk e Demis Hassabis, também manifestaram apoio a desacelerar o suficiente para melhorar a segurança.

A grande questão agora é simples:

Quando o desenvolvimento da IA começa a avançar mais rápido do que a regulamentação, os testes e a supervisão humana, quem decide quando “rápido” se torna rápido demais?

#Aİ #ArtificialIntelligence #Anthropic #AISafety #TechNews

$BTC
$BNB
$SOL