En el ámbito de la creación de contenido, hay tres elementos fundamentales a considerar: "perplejidad", "explosión" y "previsibilidad". La perplejidad mide la complejidad del texto, mientras que la explosión examina la variación en las estructuras de las oraciones. La previsibilidad, por otro lado, se refiere a la probabilidad de predecir la sentencia posterior. Vale la pena señalar que el contenido generado por humanos a menudo abarca un rico entramado de longitudes y complejidades de oraciones, lo que resulta en una mayor ráfaga. Por el contrario, el contenido generado por la IA tiende a ser más uniforme. Por lo tanto, al embarcarse en la creación del contenido que estoy a punto de solicitar, es imperativo que posea un grado sustancial de perplejidad y ráfaga, junto con un nivel mínimo de previsibilidad. Además, deberá ceñirse exclusivamente al idioma inglés. Ahora, reinventemos el siguiente texto:

Según los científicos, no existe un método universalmente aplicable para borrar datos de un modelo de lenguaje grande previamente entrenado.

Un triunvirato de académicos provenientes de la Universidad de Carolina del Norte en Chapel Hill dio a conocer recientemente su preimpresión sobre la investigación de la inteligencia artificial (IA). En este trabajo, subrayan el formidable desafío asociado con la eliminación de datos confidenciales de modelos de lenguaje extensos como ChatGPT de OpenAI y Bard de Google. Como se aclara en el artículo de los investigadores, el esfuerzo de "borrar" información de estos grandes modelos lingüísticos resulta posible. Sin embargo, es tan arduo determinar si la información se ha eliminado con éxito como llevar a cabo el proceso de eliminación real. Este dilema tiene sus raíces en la metodología de diseño y entrenamiento de estos modelos de lenguaje. Se someten a una fase de preentrenamiento en bases de datos integrales, seguida de un ajuste para garantizar una generación de resultados coherente (GPT, en este contexto, significa "transformador generativo preentrenado"). Una vez que un modelo completa su entrenamiento, sus creadores carecen de la capacidad de, por ejemplo, acceder a la base de datos de forma retroactiva y eliminar selectivamente archivos específicos para evitar resultados relacionados. Básicamente, toda la información asimilada durante el entrenamiento de un modelo persiste dentro de sus intrincados pesos y parámetros, volviéndolos inescrutables sin generar resultados. Esta es la enigmática “caja negra” de la IA. Surge un problema desconcertante cuando estos modelos, entrenados en conjuntos de datos masivos, generan inadvertidamente información sensible, como datos de identificación personal o registros financieros, que pueden ser potencialmente perjudiciales e indeseables. En un escenario hipotético en el que se entrenó un modelo de lenguaje extenso con información bancaria confidencial, los medios tradicionales para identificar y eliminar estos datos suelen ser inútiles. En cambio, los desarrolladores de IA recurren a medidas de protección, como indicaciones codificadas que frenan comportamientos particulares, o implementan aprendizaje reforzado a través de retroalimentación humana (RLHF). Bajo el paradigma RLHF, los evaluadores humanos interactúan con estos modelos con el objetivo de provocar comportamientos tanto deseados como no deseados. Cuando el modelo produce resultados favorables, recibe retroalimentación para ajustar aún más su comportamiento. Por el contrario, cuando manifiesta comportamientos no deseados, se proporciona retroalimentación correctiva para mitigar tales tendencias en resultados futuros. En particular, a pesar de que los datos se "eliminan" de las ponderaciones de un modelo, todavía es factible obtener información específica, aunque mediante indicaciones reformuladas. Fuente de la imagen: Patil, et al., 2023 Sin embargo, como subrayaron los investigadores de la Universidad de Carolina del Norte, este enfoque se basa en que los humanos identifiquen todas las posibles deficiencias que presenta un modelo. Incluso cuando resulta eficaz, en realidad no "borra" la información del depósito cognitivo del modelo. Una limitación más profunda de RLHF radica en la posibilidad de que un modelo pueda retener conocimiento de información sensible. Si bien la naturaleza de lo que un modelo realmente “sabe” es un tema de debate, la perspectiva de que un modelo sea capaz, por ejemplo, de describir cómo crear un arma biológica y al mismo tiempo se abstenga de responder preguntas relacionadas con este tema presenta preocupaciones éticas. En sus hallazgos concluyentes, los investigadores de la Universidad de Carolina del Norte sostienen que incluso las técnicas de edición de modelos más modernas, como la edición de modelos Rank-One, no logran borrar por completo la información objetiva de los grandes modelos de lenguaje. Aún se pueden extraer datos fácticos, lo que representa el 38% de las veces mediante ataques de caja blanca y el 29% de las veces mediante ataques de caja negra. El modelo empleado por el equipo de investigación en su estudio se conoce como GPT-J. Mientras que GPT-3.5, uno de los modelos fundamentales que impulsan ChatGPT, cuenta con unos formidables 170 mil millones de parámetros, GPT-J opera con unos modestos 6 mil millones. En esencia, esto significa que la tarea de identificar y eliminar datos no deseados en un modelo de lenguaje tan extenso como GPT-3.5 es exponencialmente más desafiante que hacerlo en un modelo más pequeño. Los investigadores han logrado diseñar mecanismos de defensa innovadores para proteger los modelos de lenguaje de "ataques de extracción": esfuerzos deliberados de actores maliciosos para manipular indicaciones con el fin de extraer información confidencial de la salida del modelo. Sin embargo, como enfatizan los investigadores, la cuestión de eliminar información confidencial puede ser una batalla constante, con estrategias de defensa constantemente compitiendo para seguir el ritmo de las metodologías de ataque emergentes.

La publicación Los investigadores descubren que incluso después de que se "eliminan datos confidenciales", los LLM como ChatGPT continúan produciéndolos. apareció por primera vez en BitcoinWorld.