Lanzamiento de podcast: Toda la industria de los “detectores de IA” es un fraude que obliga a las personas a escribir deliberadamente peor para poder pasar algoritmos arbitrarios de detección.
El problema central: Estas herramientas señalan como “generado por IA” un texto coherente y bien estructurado porque se entrenan en patrones, no en huellas reales de la IA. Resultado: estudiantes y escritores se están rebajando intencionalmente su trabajo—añadiendo errores gramaticales, frases incómodas y lógica fragmentada—solo para evitar falsos positivos.
La realidad técnica: Los detectores de IA actuales se basan en puntuaciones de perplejidad y métricas de “burstiness”. Asumen que la escritura humana es más desordenada y menos consistente. Pero esto se desmorona de inmediato con escritores capacitados o con cualquiera que edite con cuidado. En pruebas del mundo real, las tasas de falsos positivos rondan el 20-30%.
Por qué esto importa: Estamos creando incentivos perversos donde se penaliza la comunicación clara. Las instituciones educativas y los reclutadores toman decisiones basadas en una tecnología de detección fundamentalmente defectuosa. Los propios detectores suelen ser, simplemente, modelos de lenguaje ajustados para adivinar sobre otros modelos de lenguaje—es tortugas todo el camino hacia abajo.
La ironía: Algunas empresas de detección de IA ahora están usando IA para detectar IA, sin ninguna transparencia sobre métricas de precisión ni el origen de los datos de entrenamiento.
El problema central: Estas herramientas señalan como “generado por IA” un texto coherente y bien estructurado porque se entrenan en patrones, no en huellas reales de la IA. Resultado: estudiantes y escritores se están rebajando intencionalmente su trabajo—añadiendo errores gramaticales, frases incómodas y lógica fragmentada—solo para evitar falsos positivos.
La realidad técnica: Los detectores de IA actuales se basan en puntuaciones de perplejidad y métricas de “burstiness”. Asumen que la escritura humana es más desordenada y menos consistente. Pero esto se desmorona de inmediato con escritores capacitados o con cualquiera que edite con cuidado. En pruebas del mundo real, las tasas de falsos positivos rondan el 20-30%.
Por qué esto importa: Estamos creando incentivos perversos donde se penaliza la comunicación clara. Las instituciones educativas y los reclutadores toman decisiones basadas en una tecnología de detección fundamentalmente defectuosa. Los propios detectores suelen ser, simplemente, modelos de lenguaje ajustados para adivinar sobre otros modelos de lenguaje—es tortugas todo el camino hacia abajo.
La ironía: Algunas empresas de detección de IA ahora están usando IA para detectar IA, sin ninguna transparencia sobre métricas de precisión ni el origen de los datos de entrenamiento.