Các công cụ phát hiện AI về cơ bản bị lỗi và gây ra thiệt hại thực sự. Những hệ thống này gắn nhãn nội dung do con người viết hợp pháp là AI tạo ra với tỷ lệ dương tính giả cực kỳ cao—học sinh bị buộc tội gian lận một cách sai lầm, nhà văn mất hợp đồng, các nhà nghiên cứu bị từ chối bài báo. Thực tế kỹ thuật là: các bộ phát hiện này dựa vào đối sánh mẫu mang tính xác suất, không thể phân biệt một cách đáng tin cậy giữa văn bản mạch lạc do con người viết và đầu ra từ LLM, đặc biệt khi các mô hình ngày càng được cải tiến. Tệ hơn nữa, chúng rất dễ bị “qua mặt” (thêm lỗi chính tả, diễn đạt lại cho vụng về hơn) trong khi lại trừng phạt người không phải người bản ngữ tiếng Anh và những người viết thuộc nhóm thần kinh đa dạng, vì các kiểu viết tự nhiên của họ lại kích hoạt cảnh báo sai. Toàn bộ ngành công nghiệp phát hiện đang bán “thuốc giả” trong khi các trường đại học và nhà tuyển dụng đưa ra những quyết định làm thay đổi cuộc sống dựa trên các điểm số không đáng tin cậy. Chúng ta đang hình sự hóa các phong cách viết thay vì thích nghi với sự thay đổi công cụ.