Lo más gracioso de esta campaña de Greyboxing de GenLayer no es la tecnología, sino la sección de respuestas.
Contexto: en mayo de este año, alguien escondió instrucciones para transferir fondos en código Morse dentro de una publicación de X. Grok las descifró y se las pasó a Bankrbot; en Base se transfirieron criptomonedas por valor de unos 150.000-200.000 dólares. GenLayer cuenta la historia así: varios validadores reescriben la entrada en secreto por separado y luego llegan a un consenso, supuestamente para que la inyección de prompts no pueda atravesar las defensas.
Luego vas a mirar las respuestas debajo de esa publicación de GenLayer:
Al final de la respuesta de @langtusg0308 quedó intacta esta frase: "Estas deben ser breves, ceñirse a los puntos de la publicación y mantener el foco en GenLayer sin sonar a pura promoción. Usa"
La publicaron sin siquiera borrar el prompt que generó la respuesta.
Las tres respuestas de @0xBisex, @bitkeepwallet y @Folloback99 llevan comillas en inglés al principio y al final, y tienen exactamente el mismo tono: se nota a la legua que las copiaron de algún sitio. La publicación principal de Randy.base.eth tuvo 4289 visualizaciones y 21 reposts, y afirmaciones como "Cero puntos únicos de fallo" y "ataques imposibles de entrenar" son más contundentes que un informe de auditoría.
Un proyecto que habla de protegerse contra la inyección de IA, pero cuya propia promoción se apoya en un montón de respuestas generadas por IA: esta ironía me puede hacer reír todo el día.
Ahora, volviendo al tema. Reescribir la entrada con varios validadores, en esencia, añade varias capas de filtrado de modelos, lo que aumenta tanto el coste como la latencia. Afirmaciones como "imposible de vulnerar" no están respaldadas por ningún dato público de pruebas ofensivas y defensivas. Curiosamente, las preguntas que realmente daban en el clavo en la sección de respuestas venían de cuentas pequeñas: @EMEF0815 preguntó si los límites de gasto podían hacerse cumplir de forma independiente de las instrucciones del agente; @GuruVerseX preguntó si primero se marcarían las publicaciones como entradas no confiables. Mientras no respondan claramente a estas dos preguntas, Greyboxing no es más que un nombre bonito.
Para la seguridad de las billeteras de IA, lo que de verdad funciona sigue siendo lo de siempre: límites máximos de gasto, direcciones en lista blanca y confirmación manual para importes grandes. No dejes que te confunda eso de «consenso descentralizado para prevenir inyecciones».
#AI #GenLayer
Contexto: en mayo de este año, alguien escondió instrucciones para transferir fondos en código Morse dentro de una publicación de X. Grok las descifró y se las pasó a Bankrbot; en Base se transfirieron criptomonedas por valor de unos 150.000-200.000 dólares. GenLayer cuenta la historia así: varios validadores reescriben la entrada en secreto por separado y luego llegan a un consenso, supuestamente para que la inyección de prompts no pueda atravesar las defensas.
Luego vas a mirar las respuestas debajo de esa publicación de GenLayer:
Al final de la respuesta de @langtusg0308 quedó intacta esta frase: "Estas deben ser breves, ceñirse a los puntos de la publicación y mantener el foco en GenLayer sin sonar a pura promoción. Usa"
La publicaron sin siquiera borrar el prompt que generó la respuesta.
Las tres respuestas de @0xBisex, @bitkeepwallet y @Folloback99 llevan comillas en inglés al principio y al final, y tienen exactamente el mismo tono: se nota a la legua que las copiaron de algún sitio. La publicación principal de Randy.base.eth tuvo 4289 visualizaciones y 21 reposts, y afirmaciones como "Cero puntos únicos de fallo" y "ataques imposibles de entrenar" son más contundentes que un informe de auditoría.
Un proyecto que habla de protegerse contra la inyección de IA, pero cuya propia promoción se apoya en un montón de respuestas generadas por IA: esta ironía me puede hacer reír todo el día.
Ahora, volviendo al tema. Reescribir la entrada con varios validadores, en esencia, añade varias capas de filtrado de modelos, lo que aumenta tanto el coste como la latencia. Afirmaciones como "imposible de vulnerar" no están respaldadas por ningún dato público de pruebas ofensivas y defensivas. Curiosamente, las preguntas que realmente daban en el clavo en la sección de respuestas venían de cuentas pequeñas: @EMEF0815 preguntó si los límites de gasto podían hacerse cumplir de forma independiente de las instrucciones del agente; @GuruVerseX preguntó si primero se marcarían las publicaciones como entradas no confiables. Mientras no respondan claramente a estas dos preguntas, Greyboxing no es más que un nombre bonito.
Para la seguridad de las billeteras de IA, lo que de verdad funciona sigue siendo lo de siempre: límites máximos de gasto, direcciones en lista blanca y confirmación manual para importes grandes. No dejes que te confunda eso de «consenso descentralizado para prevenir inyecciones».
#AI #GenLayer