🚨🚨🚨
#Anthropic interrompeu a tentativa de criar uma biarma com a ajuda da IA. Recentemente, a empresa alertou sobre uma ameaça de destruição da humanidade.
O desenvolvedor americano de inteligência artificial Anthropic declarou que a empresa identificou e interrompeu tentativas de usar o seu modelo de IA para “atividade maliciosa”, que poderia contribuir para o desenvolvimento de armas biológicas.
Este é mais um de uma série de alertas de pesquisadores de IA e representantes da indústria sobre os riscos potenciais dessa tecnologia para a humanidade.
O aviso já levou a apelos por ações concretas. O senador dos EUA Bernie Sanders pediu a suspensão do desenvolvimento de sistemas avançados de IA e a proibição da criação de um superinteligência artificial.
👉 Na quinta-feira, a empresa publicou seu último relatório sobre ameaças. Análises semelhantes também são divulgadas por outros desenvolvedores de IA.
Em particular, na terça-feira, a Google informou que alguém tentou usar a sua ferramenta de IA Gemini para obter um “manual técnico passo a passo para criar agentes biológicos destinados a serem usados como arma”.
De acordo com o relatório da Anthropic, o seu modelo de IA Claude também foi usado em uma campanha de ciberespionagem relacionada à Rússia e por uma estrutura de propaganda iraniana.
#Ai_sector #GoogleGemini
#Anthropic interrompeu a tentativa de criar uma biarma com a ajuda da IA. Recentemente, a empresa alertou sobre uma ameaça de destruição da humanidade.
O desenvolvedor americano de inteligência artificial Anthropic declarou que a empresa identificou e interrompeu tentativas de usar o seu modelo de IA para “atividade maliciosa”, que poderia contribuir para o desenvolvimento de armas biológicas.
Este é mais um de uma série de alertas de pesquisadores de IA e representantes da indústria sobre os riscos potenciais dessa tecnologia para a humanidade.
O aviso já levou a apelos por ações concretas. O senador dos EUA Bernie Sanders pediu a suspensão do desenvolvimento de sistemas avançados de IA e a proibição da criação de um superinteligência artificial.
👉 Na quinta-feira, a empresa publicou seu último relatório sobre ameaças. Análises semelhantes também são divulgadas por outros desenvolvedores de IA.
Em particular, na terça-feira, a Google informou que alguém tentou usar a sua ferramenta de IA Gemini para obter um “manual técnico passo a passo para criar agentes biológicos destinados a serem usados como arma”.
De acordo com o relatório da Anthropic, o seu modelo de IA Claude também foi usado em uma campanha de ciberespionagem relacionada à Rússia e por uma estrutura de propaganda iraniana.
#Ai_sector #GoogleGemini
