**OpenAI** y **Meta** advirtieron a los jueces de los tribunales federales que «es difícil que las tecnologías para distinguir las pruebas de audio y video generadas por IA alcancen una fiabilidad absoluta debido a limitaciones estructurales». En una encuesta a 931 jueces federales, solo 15 habían afrontado disputas relacionadas con deepfakes, pero ambas empresas destacaron que este es un momento decisivo para establecer normas.
Resumen de los puntos clave
OpenAI y Meta testifican ante el Comité Asesor sobre las Reglas Federales de Prueba de Boston que «cada vez es más difícil determinar la autenticidad de los videos y audios generados por IA».
OpenAI señaló que las marcas de agua y las herramientas de detección tampoco «pueden alcanzar un nivel de fiabilidad absoluta».
Los jueces están examinando un borrador de reglas específicas para los deepfakes, pero aún hay opiniones divididas sobre si deben adoptarse.
OpenAI: «No hay que confiar demasiado en la detección de deepfakes»
Representantes de ambas empresas plantearon oficialmente sus preocupaciones en la reunión del Comité Asesor sobre Reglas de Prueba de la Conferencia Judicial de Estados Unidos, celebrada el 15 de octubre en Boston. Desde 2023, este comité aborda por separado la cuestión de las pruebas de deepfakes.
**Shira Anderson**, abogada asesora de políticas de OpenAI, advirtió que «la calidad de las imágenes y los videos generados por IA mejora rápidamente, por lo que, a largo plazo, será difícil determinar su autenticidad únicamente mediante métodos científicos y mecánicos», y rechazó la idea de que las técnicas forenses puedan resolverlo todo.
California y la Unión Europea (UE) ya exigen que los contenidos generados por IA lleven marcas de agua, pero Anderson señaló que «cada empresa tiene su propio sistema de marcas de agua, por lo que no existe un estándar común que permita verificar de manera uniforme todo el contenido visual». Añadió que «las herramientas de detección actuales difícilmente llegarán a ser “a prueba de todo”».
Devin Norder, director de gestión de productos de Meta, también afirmó que «los videos y audios creados con los modelos de IA más recientes han llegado a un punto en que, en la práctica, es difícil distinguirlos de los reales a simple vista o al oído». Advirtió que «los costos y el tiempo de producción también han disminuido considerablemente, lo que reduce cada vez más las barreras para un uso malicioso».
Lea también: El bitcoin encuentra soporte en los 80.000 dólares: ¿una pausa antes de volver a intentar alcanzar los 87.000?
El juez Jesse Furman: «Hay una brecha entre el temor a los deepfakes y los casos reales»
El juez Jesse Furman, del Tribunal Federal de Distrito de Manhattan, en Nueva York, preside el panel sobre reglas de prueba. Señaló que «los riesgos de los deepfakes en los juicios, sobre los que han advertido el mundo académico y los medios, todavía no se reflejan de forma destacada en las estadísticas de casos reales».
Según una encuesta realizada en marzo por el Centro Judicial Federal (FJC), solo 15 de los 931 jueces federales encuestados habían tenido un caso en el que se impugnara una prueba por considerarla un deepfake. Se considera que las declaraciones del juez Furman muestran la brecha entre el debate sobre políticas y la realidad de los tribunales.
El juez Furman creó un subcomité independiente para examinar el asunto más a fondo. El subcomité ya ha preparado un borrador de enmienda denominado «Regla 901(c)». La propuesta contempla un proceso probatorio por etapas: primero, la parte que alegue que una prueba ha sido manipulada o es un deepfake tendría que presentar cierto nivel de sustento; solo entonces la parte contraria tendría que demostrar que es «más probable que la prueba sea auténtica».
También hay voces cautelosas que dicen: «No nos precipitemos»
Dentro del comité también hay una considerable cautela ante la creación de reglas específicas para los deepfakes. La jueza Valerie Caproni, del Tribunal Federal de Distrito para el Distrito Sur de Nueva York, dijo que «en lugar de improvisar una disposición aparte dirigida a la IA, es necesario observar más pruebas empíricas de que los deepfakes están causando problemas generalizados en los tribunales».
Subrayó que «los tribunales llevan mucho tiempo luchando contra las pruebas manipuladas y ya existen diversas normas que sancionan la presentación de pruebas falsas o fraudulentas», y añadió que «hay que tomarse el tiempo para determinar si la IA merece un trato excepcional por el mero hecho de ser IA».
De hecho, en mayo de 2025 el comité decidió no adoptar una enmienda a las reglas de prueba sobre deepfakes propuesta por expertos jurídicos externos. En aquel momento, la mayoría de los miembros sostuvo que «los criterios actuales para determinar la autenticidad de las pruebas bastan para abordar las pruebas generadas por IA».
Primer caso real… «tarjeta roja» para las pruebas de IA
Sin embargo, ya han surgido casos en los que los tribunales han puesto freno directamente a las pruebas generadas por IA. En un litigio relacionado con una vivienda, la jueza Victoria Kolakowski, del Tribunal Superior del condado de Alameda, California, descubrió que la parte demandante había presentado un video de un testigo generado por IA como si fuera una grabación real de su testimonio y desestimó el caso. Esta decisión se considera un caso emblemático que demuestra que «los contenidos generados por IA empiezan a irrumpir de lleno en los tribunales».
Los expertos consideran que los deepfakes todavía no han alcanzado una escala estadística capaz de alterar la mayoría de los juicios, pero advierten que, dado el ritmo del avance tecnológico, es arriesgado intentar afrontar el problema solo con respuestas a posteriori. Cada vez son más las voces que piden al poder judicial desarrollar capacidades propias para verificar la tecnología y formalizar mecanismos de cooperación con las grandes empresas tecnológicas privadas.
Siguiente lectura: La cara oculta del repunte del 39,6 % de las criptomonedas: las compras al contado no logran seguir el ritmo