Pídele a la IA que le eche una imagen de “usa la pose de la derecha” y ya puede colocarte en cualquier postura: este aviso de postura se ha difundido en la zona china de X y, en un solo día, alcanzó casi 1,85 millones de visualizaciones.
Antes, los jailbreaks eran frases para preguntar sobre cuestiones prohibidas; esta vez ya se metió de lleno en la parte de generación: el equipo de alineación puede impedir los malos prompts, pero no puede impedir las buenas ideas. En la sección de comentarios ya hay gente que está gritando: este es otro “rompimiento de defensas” de GPT.
Momento de posicionarse: ¿esto es una innovación genial en el juego, o una brecha real de seguridad de la IA?
Antes, los jailbreaks eran frases para preguntar sobre cuestiones prohibidas; esta vez ya se metió de lleno en la parte de generación: el equipo de alineación puede impedir los malos prompts, pero no puede impedir las buenas ideas. En la sección de comentarios ya hay gente que está gritando: este es otro “rompimiento de defensas” de GPT.
Momento de posicionarse: ¿esto es una innovación genial en el juego, o una brecha real de seguridad de la IA?