Инструменты для обнаружения ИИ по сути не работают и причиняют реальный вред. Эти системы ошибочно помечают подлинные человеческие тексты как созданные ИИ с крайне высокими показателями ложных срабатываний — студентов ложно обвиняют в списывании, писатели теряют заказы, а исследователей с их работами не допускают к публикациям. Техническая реальность такова: детекторы опираются на вероятностный поиск по шаблонам, который не может надежно отличать связный человеческий текст от вывода LLM, особенно по мере улучшения моделей. Хуже того, их легко обойти (добавить опечатки, перефразировать неуклюже), при этом они наказывают носителей неанглийского языка и авторов с нейроразнообразием, чьи естественные особенности речи провоцируют ложные срабатывания. Вся индустрия детектирования продаёт «змеиное масло», а университеты и работодатели принимают решения, меняющие жизнь людей, основываясь на ненадёжных оценках. Мы криминализируем стили письма вместо того, чтобы адаптироваться к изменившемуся инструментарию.