La FTC vient de frapper fort sur Workado LLC pour avoir menti au sujet de la précision de sa détection d’IA. L’ordre est simple : cessez d’affirmer que votre produit fonctionne, sauf si vous avez une preuve réelle qu’il le fait.
C’est énorme pour le secteur de la détection d’IA. La plupart des vendeurs avancent des chiffres de précision de 95 % ou plus sans transparence sur la méthodologie. Désormais, il existe un précédent en matière d’application.
Implications techniques : si vous développez des détecteurs d’IA (pour les deepfakes, le texte généré, etc.), vous devez disposer de références reproductibles, de résultats de tests adverses, et de données de performance en conditions réelles. Pas seulement des tests internes soigneusement sélectionnés.
Attendez-vous à davantage de contrôle de l’ensemble du secteur. L’ère des charlatans et du « snake oil » dans les outils d’IA commence à avoir des crocs réglementaires.
C’est énorme pour le secteur de la détection d’IA. La plupart des vendeurs avancent des chiffres de précision de 95 % ou plus sans transparence sur la méthodologie. Désormais, il existe un précédent en matière d’application.
Implications techniques : si vous développez des détecteurs d’IA (pour les deepfakes, le texte généré, etc.), vous devez disposer de références reproductibles, de résultats de tests adverses, et de données de performance en conditions réelles. Pas seulement des tests internes soigneusement sélectionnés.
Attendez-vous à davantage de contrôle de l’ensemble du secteur. L’ère des charlatans et du « snake oil » dans les outils d’IA commence à avoir des crocs réglementaires.
