A parte mais engraçada da campanha de Greyboxing da GenLayer não é a tecnologia, são as respostas.
Contexto: em maio deste ano, alguém escondeu instruções de transferência em código Morse numa publicação do X. O Grok decifrou e enviou para o Bankrbot, que transferiu cerca de 150 a 200 mil dólares em criptomoedas na Base. A GenLayer usou o caso para contar uma história: vários validadores reescrevem a entrada em segredo, cada um por conta própria, e depois chegam a um consenso — assim, dizem, a injeção de prompt não consegue passar.
Aí você vai conferir as respostas à publicação da GenLayer:
No fim da resposta de @langtusg0308, ficou intacta a frase "Estas devem ser curtas, ater-se aos pontos da publicação e manter o foco na GenLayer sem parecer pura propaganda. Use"
Colaram a resposta sem nem apagar o prompt usado para escrevê-la.
As três respostas de @0xBisex, @bitkeepwallet e @Folloback99 têm aspas em inglês no começo e no fim e um tom idêntico — dá para ver que foram copiadas de algum lugar. A publicação principal de Randy.base.eth teve 4.289 visualizações e 21 repostagens, e afirmações como "Nenhum ponto único de falha" e "Ataques impossíveis de treinar" são mais categóricas que um relatório de auditoria.
Um projeto que diz impedir que a IA seja injetada, mas cuja própria divulgação se apoia numa pilha de respostas geradas por IA — essa ironia me faria rir o dia inteiro.
Voltando ao assunto. Reescrever as entradas com vários validadores, na prática, é acrescentar mais camadas de filtragem por modelos, aumentando tanto os custos quanto a latência. Afirmações como "impossível de comprometer" não têm respaldo em nenhum dado público de testes de ataque e defesa. Na seção de respostas, quem realmente fez as perguntas certas foram contas pequenas: @EMEF0815 perguntou se os limites de gastos podem ser impostos independentemente das instruções do agente; @GuruVerseX perguntou se as publicações primeiro serão marcadas como entradas não confiáveis. Enquanto essas duas perguntas não forem respondidas com clareza, Greyboxing é só um nome bonito.
Para a segurança de carteiras de IA, o que realmente funciona continua sendo o de sempre: limites de gastos, endereços permitidos e confirmação humana para valores altos. Não se deixe confundir por essa história de "consenso descentralizado contra injeções".
#AI #GenLayer
Contexto: em maio deste ano, alguém escondeu instruções de transferência em código Morse numa publicação do X. O Grok decifrou e enviou para o Bankrbot, que transferiu cerca de 150 a 200 mil dólares em criptomoedas na Base. A GenLayer usou o caso para contar uma história: vários validadores reescrevem a entrada em segredo, cada um por conta própria, e depois chegam a um consenso — assim, dizem, a injeção de prompt não consegue passar.
Aí você vai conferir as respostas à publicação da GenLayer:
No fim da resposta de @langtusg0308, ficou intacta a frase "Estas devem ser curtas, ater-se aos pontos da publicação e manter o foco na GenLayer sem parecer pura propaganda. Use"
Colaram a resposta sem nem apagar o prompt usado para escrevê-la.
As três respostas de @0xBisex, @bitkeepwallet e @Folloback99 têm aspas em inglês no começo e no fim e um tom idêntico — dá para ver que foram copiadas de algum lugar. A publicação principal de Randy.base.eth teve 4.289 visualizações e 21 repostagens, e afirmações como "Nenhum ponto único de falha" e "Ataques impossíveis de treinar" são mais categóricas que um relatório de auditoria.
Um projeto que diz impedir que a IA seja injetada, mas cuja própria divulgação se apoia numa pilha de respostas geradas por IA — essa ironia me faria rir o dia inteiro.
Voltando ao assunto. Reescrever as entradas com vários validadores, na prática, é acrescentar mais camadas de filtragem por modelos, aumentando tanto os custos quanto a latência. Afirmações como "impossível de comprometer" não têm respaldo em nenhum dado público de testes de ataque e defesa. Na seção de respostas, quem realmente fez as perguntas certas foram contas pequenas: @EMEF0815 perguntou se os limites de gastos podem ser impostos independentemente das instruções do agente; @GuruVerseX perguntou se as publicações primeiro serão marcadas como entradas não confiáveis. Enquanto essas duas perguntas não forem respondidas com clareza, Greyboxing é só um nome bonito.
Para a segurança de carteiras de IA, o que realmente funciona continua sendo o de sempre: limites de gastos, endereços permitidos e confirmação humana para valores altos. Não se deixe confundir por essa história de "consenso descentralizado contra injeções".
#AI #GenLayer