Interessante e educativo
Publicar
Cryptopolitan
·
--
Pesquisadores da Meta, Google e OpenAI temem que a IA possa aprender a esconder seus pensamentos
Mais de 40 pesquisadores de IA da OpenAI, DeepMind, Google, Anthropic e Meta publicaram um artigo sobre uma ferramenta de segurança chamada monitoramento da cadeia de pensamento para tornar a IA mais segura.
O artigo publicado na terça-feira descreve como modelos de IA, como os chatbots de hoje, resolvem problemas dividindo-os em etapas menores, discutindo cada passo em linguagem simples para que possam reter detalhes e lidar com questões complexas.
“Sistemas de IA que ‘pensam’ em linguagem humana oferecem uma oportunidade única para a segurança da inteligência artificial: podemos monitorar suas cadeias de pensamento (CoT) para a intenção de se comportar mal”, diz o artigo.
O artigo publicado na terça-feira descreve como modelos de IA, como os chatbots de hoje, resolvem problemas dividindo-os em etapas menores, discutindo cada passo em linguagem simples para que possam reter detalhes e lidar com questões complexas.
“Sistemas de IA que ‘pensam’ em linguagem humana oferecem uma oportunidade única para a segurança da inteligência artificial: podemos monitorar suas cadeias de pensamento (CoT) para a intenção de se comportar mal”, diz o artigo.