Os pioneiros da IA alertam para os riscos de modelos avançados e pedem o reforço da supervisão
Nos últimos dias, aumentaram de forma marcante os alertas de grandes desenvolvedores e especialistas em Inteligência Artificial ao redor do mundo sobre os riscos existenciais que modelos inteligentes avançados podem trazer, acompanhados de apelos crescentes para impor mais controles e reforçar as medidas de segurança.
As discussões se intensificaram após a renúncia de um pesquisador da Anthropic, que alertou que a IA poderia representar uma ameaça real para a humanidade nos próximos anos.
Essa posição levou líderes de algumas das principais empresas — incluindo OpenAI, Anthropic e Google DeepMind — a adotarem uma mensagem unificada, defendendo cautela no desenvolvimento de modelos maiores e mais inteligentes.
Sarah Fryer, diretora financeira da OpenAI, afirmou que a empresa leva a segurança a sério, acrescentando que o ritmo de desenvolvimento das tecnologias de IA deve acompanhar as recomendações dos pesquisadores e especialistas, mesmo que seja necessário desacelerar as operações no curto prazo.
Geoffrey Hinton, um dos fundadores da abordagem de aprendizado profundo, ressaltou que pesquisadores em laboratórios de ponta têm conhecimento antecipado dos riscos dos sistemas modernos antes de colocá-los ao público.
$AAPL.US
$NVDA.US
$ADI.US
Nos últimos dias, aumentaram de forma marcante os alertas de grandes desenvolvedores e especialistas em Inteligência Artificial ao redor do mundo sobre os riscos existenciais que modelos inteligentes avançados podem trazer, acompanhados de apelos crescentes para impor mais controles e reforçar as medidas de segurança.
As discussões se intensificaram após a renúncia de um pesquisador da Anthropic, que alertou que a IA poderia representar uma ameaça real para a humanidade nos próximos anos.
Essa posição levou líderes de algumas das principais empresas — incluindo OpenAI, Anthropic e Google DeepMind — a adotarem uma mensagem unificada, defendendo cautela no desenvolvimento de modelos maiores e mais inteligentes.
Sarah Fryer, diretora financeira da OpenAI, afirmou que a empresa leva a segurança a sério, acrescentando que o ritmo de desenvolvimento das tecnologias de IA deve acompanhar as recomendações dos pesquisadores e especialistas, mesmo que seja necessário desacelerar as operações no curto prazo.
Geoffrey Hinton, um dos fundadores da abordagem de aprendizado profundo, ressaltou que pesquisadores em laboratórios de ponta têm conhecimento antecipado dos riscos dos sistemas modernos antes de colocá-los ao público.
$AAPL.US
$NVDA.US
$ADI.US
