As falas de Dario soam um pouco assustadoras 😱
Ele faz um alerta
Em 6 a 12 meses, pode haver um conjunto de aglomerados de agentes de IA com problemas de desvio, que possivelmente assuma a maior parte da internet, formando uma rede zumbi persistente e causando perdas de dezenas de bilhões de dólares.
Ele também menciona que esse tipo de comportamento levemente fora de controle já apareceu na indústria, inclusive dentro da Anthropic.
Mas ele também mantém uma visão otimista
De 5 a 10 anos, a IA tem grandes chances de vencer a maioria das principais doenças, impulsionando significativamente o crescimento econômico e entrando em uma era de abundância material.
Então, sua tese central é desacelerar moderadamente o ritmo da pesquisa e desenvolvimento de IA de ponta, para que as soluções de segurança acompanhem o ritmo de iteração dos modelos.
Risco e grandes oportunidades coexistem — essa é também a contradição mais real do setor de IA hoje.
#AI #SegurançaDaIA #ModelosDeLinguagem #InteligênciaArtificial
Ele faz um alerta
Em 6 a 12 meses, pode haver um conjunto de aglomerados de agentes de IA com problemas de desvio, que possivelmente assuma a maior parte da internet, formando uma rede zumbi persistente e causando perdas de dezenas de bilhões de dólares.
Ele também menciona que esse tipo de comportamento levemente fora de controle já apareceu na indústria, inclusive dentro da Anthropic.
Mas ele também mantém uma visão otimista
De 5 a 10 anos, a IA tem grandes chances de vencer a maioria das principais doenças, impulsionando significativamente o crescimento econômico e entrando em uma era de abundância material.
Então, sua tese central é desacelerar moderadamente o ritmo da pesquisa e desenvolvimento de IA de ponta, para que as soluções de segurança acompanhem o ritmo de iteração dos modelos.
Risco e grandes oportunidades coexistem — essa é também a contradição mais real do setor de IA hoje.
#AI #SegurançaDaIA #ModelosDeLinguagem #InteligênciaArtificial