Você acha que desligou o «botão de treinamento», mas a parte de pesquisa de segurança não é controlada por ele.
A OpenAI acabou de mudar as regras de dados do Daybreak Blue, e a comunidade de segurança está em polvorosa.
1️⃣ O que aconteceu
A página Data controls da Central de Ajuda oficial da OpenAI ganhou uma nova seção, «Acesso confiável em contas pessoais»: nas conversas do Daybreak em contas pessoais, mesmo que você desative «Aprimorar o modelo para todos», a OpenAI ainda poderá usar o conteúdo dessas interações para melhorar os modelos. A justificativa oficial é reforçar as medidas de segurança contra abusos cibernéticos.
2️⃣ Quando entra em vigor
Vários usuários do Daybreak Blue publicaram e-mails no fórum de desenvolvedores da OpenAI dizendo que a medida começa a valer em 29 de novembro. Por enquanto, essa data vem de relatos de usuários sobre os e-mails; a página oficial não informa uma data.
3️⃣ O que é o Daybreak Blue
É o nível defensivo do programa Trusted Access for Cyber, da OpenAI: profissionais de segurança com identidade verificada usam os modelos principais para classificar vulnerabilidades, fazer revisão de código de segurança, analisar malware e responder a incidentes, com menos recusas.
4️⃣ O que não é afetado
O botão de treinamento continua valendo normalmente para usos fora das conversas do Trusted Access; segundo o conteúdo dos e-mails, contas business / enterprise não estão incluídas.
Minha opinião:
Quem trabalha na defesa muitas vezes fornece ao modelo detalhes de vulnerabilidades 0day ainda sem correção e registros de ambientes de clientes. Nessa situação, retirar a opção de exclusão levou o pesquisador de segurança Sean Heelan a chamar a medida de «cartoonishly evil» — e não é sem motivo.
Também dá para entender a lógica da OpenAI: flexibilizar as recusas tem um custo, e é preciso saber exatamente o que você está fazendo com o modelo. Mas essa questão de «trocar dados por acesso» deveria estar escrita na primeira linha da página de inscrição, e não ser incluída depois, por meio de uma mudança nos termos.
Nesta semana, acabamos de passar por um incidente com uma hot wallet e por um plugin do VS Code com backdoor; cada vez mais, as equipes de blockchain também estão recorrendo à IA para auditorias de segurança. Sugestão: use um espaço de trabalho enterprise para materiais confidenciais ou não os inclua nas conversas do Daybreak. Não presuma que «desligar o botão resolve».
Só filtrar, sem educar. Avalie por conta própria.
Fontes: Central de Ajuda da OpenAI (Data controls in ChatGPT, página de visão geral do Daybreak), publicações de usuários na comunidade de desenvolvedores da OpenAI
#AI #OpenAI #Cibersegurança
A OpenAI acabou de mudar as regras de dados do Daybreak Blue, e a comunidade de segurança está em polvorosa.
1️⃣ O que aconteceu
A página Data controls da Central de Ajuda oficial da OpenAI ganhou uma nova seção, «Acesso confiável em contas pessoais»: nas conversas do Daybreak em contas pessoais, mesmo que você desative «Aprimorar o modelo para todos», a OpenAI ainda poderá usar o conteúdo dessas interações para melhorar os modelos. A justificativa oficial é reforçar as medidas de segurança contra abusos cibernéticos.
2️⃣ Quando entra em vigor
Vários usuários do Daybreak Blue publicaram e-mails no fórum de desenvolvedores da OpenAI dizendo que a medida começa a valer em 29 de novembro. Por enquanto, essa data vem de relatos de usuários sobre os e-mails; a página oficial não informa uma data.
3️⃣ O que é o Daybreak Blue
É o nível defensivo do programa Trusted Access for Cyber, da OpenAI: profissionais de segurança com identidade verificada usam os modelos principais para classificar vulnerabilidades, fazer revisão de código de segurança, analisar malware e responder a incidentes, com menos recusas.
4️⃣ O que não é afetado
O botão de treinamento continua valendo normalmente para usos fora das conversas do Trusted Access; segundo o conteúdo dos e-mails, contas business / enterprise não estão incluídas.
Minha opinião:
Quem trabalha na defesa muitas vezes fornece ao modelo detalhes de vulnerabilidades 0day ainda sem correção e registros de ambientes de clientes. Nessa situação, retirar a opção de exclusão levou o pesquisador de segurança Sean Heelan a chamar a medida de «cartoonishly evil» — e não é sem motivo.
Também dá para entender a lógica da OpenAI: flexibilizar as recusas tem um custo, e é preciso saber exatamente o que você está fazendo com o modelo. Mas essa questão de «trocar dados por acesso» deveria estar escrita na primeira linha da página de inscrição, e não ser incluída depois, por meio de uma mudança nos termos.
Nesta semana, acabamos de passar por um incidente com uma hot wallet e por um plugin do VS Code com backdoor; cada vez mais, as equipes de blockchain também estão recorrendo à IA para auditorias de segurança. Sugestão: use um espaço de trabalho enterprise para materiais confidenciais ou não os inclua nas conversas do Daybreak. Não presuma que «desligar o botão resolve».
Só filtrar, sem educar. Avalie por conta própria.
Fontes: Central de Ajuda da OpenAI (Data controls in ChatGPT, página de visão geral do Daybreak), publicações de usuários na comunidade de desenvolvedores da OpenAI
#AI #OpenAI #Cibersegurança