Alemania ha advertido a las plataformas de redes sociales sobre la difusión de imágenes falsas de holocausto generadas por IA. El gobierno y las instituciones de memoria del Holocausto han pedido a las plataformas de redes sociales que detengan la difusión de imágenes falsas, que afirman están distorsionando y trivializando la historia.
Se expresaron preocupaciones por parte de los sitios memoriales de campos de concentración y centros de documentación en una carta reciente, criticando el aumento de lo que se llama imágenes de IA o imágenes falsificadas, en torno al asesinato de más de seis millones de judíos en Alemania durante la Segunda Guerra Mundial. Estas imágenes incluyen ilustraciones emocionales de incidentes inventados, como reuniones de prisioneros de campos de concentración y sus liberadores o niños detrás de cercas de alambre de púas.
Alemania quiere detener la propagación de imágenes falsas de holocausto generadas por IA
En la carta enviada por las organizaciones, señalaron que el contenido generado por IA distorsiona la historia al trivializar eventos serios que ocurrieron hace mucho tiempo. Mencionaron que tales imágenes podrían ayudar a alimentar la desconfianza entre los usuarios de documentos históricos auténticos. Wolfram Weimer, ministro de cultura y medios de Alemania, mencionó que apoyaba los pasos y esfuerzos tomados por las instituciones memoriales en este caso, revelando que es el paso correcto a seguir.
Wolfram también mencionó que apoyaba su decisión de tener imágenes generadas por IA de los incidentes antiguos marcadas y, en los casos donde sea necesario, eliminadas de las plataformas de redes sociales. Mencionó que es una cuestión de respeto por millones de personas que fueron asesinadas y perseguidas bajo el régimen de terror de la Alemania nazi. Según la carta de las instituciones memoriales, señalaron que los creadores de la imagen parecían usarla para generar atención en línea y ganar dinero.
Las organizaciones también mencionaron que los perpetradores también tenían parte de la intención de diluir los hechos, cambiar los roles de víctima y perpetrador, y difundir narrativas revisionistas. Las instituciones incluyen centros memoriales para Belsen, Buchenwald, Dachau y otros campos de concentración donde judíos, así como otros, incluidos los pueblos Roma y Sinti, fueron asesinados. Pidieron a las plataformas de redes sociales que actuaran proactivamente contra las imágenes falsas de IA relacionadas con el Holocausto en lugar de esperar a que los usuarios las informaran.
Las organizaciones del Holocausto quieren que las imágenes generadas por IA sean etiquetadas
Además, pidieron a las plataformas que las etiqueten claramente, ya que creen que esto evitará que los usuarios que generaron las imágenes puedan monetizarlas. La propagación de desechos de IA de baja calidad, que incluye texto, imágenes o videos falsos, ha alarmado a muchos expertos. Creen que contaminaría el panorama informativo y dificultaría que los usuarios separen la verdad de la falsedad. El incidente sigue al que las empresas de IA, en particular la xAI de Elon Musk, que posee el chatbot Grok, están enfrentando actualmente.
La empresa ha estado bajo presión durante las últimas semanas por ciertos usuarios que generan miles de imágenes de deepfake sexualizadas de mujeres y menores y las difunden en varias plataformas de redes sociales. La amenaza ha llevado a varios líderes de países a exigir orden a la empresa, con otros pidiendo que desarrollen las salvaguardias adecuadas para abordar los incidentes. Países como Indonesia también han anunciado una prohibición temporal del chatbot hasta que todo esté resuelto.
Mientras tanto, la plataforma ha confirmado que geobloqueará la capacidad de los usuarios de Grok y X para generar deepfakes de personas en lugares donde las acciones están catalogadas como ilegales. Sin embargo, queda por ver si las nuevas salvaguardias se aplicarán a su aplicación independiente o a su sitio web. También queda por ver si las medidas detendrán a los usuarios de generar este tipo de imágenes o los empujarán a buscar nuevas formas de acceder al servicio.
Las mentes más inteligentes en criptomonedas ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.