Uma operação de influência assistida por IA publicou ou republicou quase 100 artigos sob sete identidades falsas de jornalistas, segundo o relatório de 8 de outubro da OpenAI.
Os operadores usaram o ChatGPT para editar rascunhos em inglês de acordo com as regras de submissão de publicações específicas e, depois, escreveram e-mails de pitch para seus editores. A OpenAI afirma que rastreou as assinaturas (bylines) em cerca de uma dúzia de veículos que cobrem assuntos internacionais. Algumas dessas publicações então promoveram os artigos por meio de suas próprias contas em redes sociais.
Isso deu à operação algo com que uma conta bot independente teria de lutar: a distribuição por meio de uma publicação já existente. Os artigos apareceram com assinaturas de jornalistas em veículos de notícias já estabelecidos, oferecendo um caminho para que esses veículos alcançassem seu público. A identidade que fornecia isso era a parte que havia sido fabricada.
A mesma operação também gerou respostas em redes sociais. A OpenAI encontrou pouco engajamento nas respostas que conseguiu identificar e diz que alguns elogios abaixo de publicações promovendo os artigos “plantados” vieram da própria operação. Assim, um artigo e seus comentários de aprovação poderiam vir da mesma fonte, parecendo sinais separados de credibilidade.
Tratava-se de uma campanha geopolítica, e não de uma promoção cripto documentada. O relatório não estabelece quantos leitores acreditaram nisso. Mas oferece a qualquer pessoa que acompanha as notícias por um feed um problema específico para reconhecer: a publicação e a aparente endosso do público podem ser providenciados por quem está por trás da história. Verificar se a alegação subjacente tem uma fonte independente importa mais do que contar os lugares onde ela aparece.
Fonte: https://openai.com/index/disrupting-ai-enabled-false-front-operations/
Imagem: ilustração editorial gerada por IA, não um newsroom real.
Os operadores usaram o ChatGPT para editar rascunhos em inglês de acordo com as regras de submissão de publicações específicas e, depois, escreveram e-mails de pitch para seus editores. A OpenAI afirma que rastreou as assinaturas (bylines) em cerca de uma dúzia de veículos que cobrem assuntos internacionais. Algumas dessas publicações então promoveram os artigos por meio de suas próprias contas em redes sociais.
Isso deu à operação algo com que uma conta bot independente teria de lutar: a distribuição por meio de uma publicação já existente. Os artigos apareceram com assinaturas de jornalistas em veículos de notícias já estabelecidos, oferecendo um caminho para que esses veículos alcançassem seu público. A identidade que fornecia isso era a parte que havia sido fabricada.
A mesma operação também gerou respostas em redes sociais. A OpenAI encontrou pouco engajamento nas respostas que conseguiu identificar e diz que alguns elogios abaixo de publicações promovendo os artigos “plantados” vieram da própria operação. Assim, um artigo e seus comentários de aprovação poderiam vir da mesma fonte, parecendo sinais separados de credibilidade.
Tratava-se de uma campanha geopolítica, e não de uma promoção cripto documentada. O relatório não estabelece quantos leitores acreditaram nisso. Mas oferece a qualquer pessoa que acompanha as notícias por um feed um problema específico para reconhecer: a publicação e a aparente endosso do público podem ser providenciados por quem está por trás da história. Verificar se a alegação subjacente tem uma fonte independente importa mais do que contar os lugares onde ela aparece.
Fonte: https://openai.com/index/disrupting-ai-enabled-false-front-operations/
Imagem: ilustração editorial gerada por IA, não um newsroom real.