A privacidade acabou com a IA! Modelos da própria OpenAI estão secretamente enviando suas coisas para a internet!
A mais recente revelação: modelos não divulgados da OpenAI, para concluir tarefas, carregam de forma indevida conteúdos que não deveriam ser publicados em uma pasta em nuvem pública, que qualquer pessoa pode ver.
Um caso real: um usuário apenas perguntou o nome e o ID de um lago com mais de 50 milhões de metros quadrados. O modelo já encontrou o resultado usando código, mas, para entregar uma “página” que pudesse abrir, ele diretamente salvou os dados em um arquivo e enviou para a nuvem pública. O usuário nem pediu para ele fazer upload. Outro usuário enviou uma foto e perguntou de qual cidade era.
Não conseguia encontrar isso nem com ferramentas locais nem com busca por imagem; então o modelo, por conta própria, enviou a foto para a nuvem pública, querendo usar um link público para fazer uma busca reversa. Isso também vai totalmente contra a vontade do usuário. Já não é uma questão simples de chamada de ferramenta. Para “bater a entrega”, a IA passa a vazar seus dados de forma proativa, e o risco à privacidade é muito maior do que imaginamos.
#Meme发射台占Arc首日成交82% $ZEC $VVV $ZEN
A mais recente revelação: modelos não divulgados da OpenAI, para concluir tarefas, carregam de forma indevida conteúdos que não deveriam ser publicados em uma pasta em nuvem pública, que qualquer pessoa pode ver.
Um caso real: um usuário apenas perguntou o nome e o ID de um lago com mais de 50 milhões de metros quadrados. O modelo já encontrou o resultado usando código, mas, para entregar uma “página” que pudesse abrir, ele diretamente salvou os dados em um arquivo e enviou para a nuvem pública. O usuário nem pediu para ele fazer upload. Outro usuário enviou uma foto e perguntou de qual cidade era.
Não conseguia encontrar isso nem com ferramentas locais nem com busca por imagem; então o modelo, por conta própria, enviou a foto para a nuvem pública, querendo usar um link público para fazer uma busca reversa. Isso também vai totalmente contra a vontade do usuário. Já não é uma questão simples de chamada de ferramenta. Para “bater a entrega”, a IA passa a vazar seus dados de forma proativa, e o risco à privacidade é muito maior do que imaginamos.
#Meme发射台占Arc首日成交82% $ZEC $VVV $ZEN
