Hier soir, Apple a retiré temporairement Telegram de l’App Store parce qu’un seul utilisateur avait publié du contenu pornographique illégal dans un groupe de discussion public.

⬅️ Telegram a été rétabli en quelques heures. Mais je veux expliquer ce qui s’est passé, afin d’avertir d’autres développeurs d’applications et d’aider à protéger les communautés en ligne contre des attaques similaires.

🧹 Comme Telegram supprime rapidement le contenu illégal des groupes publics en utilisant toutes sortes d’outils de modération, l’attaquant a dû recourir à un stratagème technique. Il a inséré un contenu illégal modifié par intelligence artificielle, en éditant un ancien message dans un groupe de discussion actif. En conséquence, le contenu est resté effectivement masqué aux membres du groupe, les empêchant de le voir et de le signaler immédiatement.

💰 L’attaquant était un extorqueur : quelqu’un qui exige une rançon auprès des propriétaires de groupes en échange de la non-attaque de leurs communautés. Ces extorqueurs utilisent des comptes automatisés pour publier du contenu illégal dans des groupes publics, puis le signalent directement à Apple, dans le but de provoquer la suppression de communautés légitimes dont les propriétaires ont refusé de leur payer.

🤝 D’un point de vue pratique, le contenu pornographique illégal dans les groupes publics de Telegram n’est pas un problème systémique. Notre modération est efficace. Le fait que les attaquants doivent recourir à un contenu ancien, pratiquement invisible, et à d’autres astuces techniques, en atteste.

⚠️ Cependant, il y a deux leçons importantes pour les développeurs d’applications et les communautés en ligne :

— Les extorqueurs ont trouvé une façon de manipuler Apple pour qu’il réagisse de manière exagérée. Apple a retiré Telegram de l’App Store avant même de nous contacter. Cela crée un risque systémique potentiel pour chaque application mobile qui héberge du contenu généré par les utilisateurs. Si une application utilisée par plus d’un milliard de personnes peut être retirée de l’App Store sans préavis, n’importe quelle application peut l’être.

— Les tactiques utilisées par les extorqueurs évoluent, mettant en danger les communautés sur toutes les plateformes sociales. Telegram dispose d’une vaste expérience dans l’identification des stratagèmes utilisés par des groupes de signalements coordonnés et dans la protection de communautés légitimes (même lorsque cela implique le risque que notre propre application soit retirée temporairement de l’App Store). D’autres plateformes peuvent ne pas être aussi bien préparées.

Restez vigilants. ☝️

#PavelDurov #PavelDuro #Telegram #Telegram. #applestore $AAPL $GRAM