Вчера Apple временно удалила Telegram из App Store, потому что один пользователь опубликовал незаконный порнографический контент в общедоступной группе чата.

⬅️ Telegram был восстановлен в течение нескольких часов. Но я хочу объяснить, что произошло, чтобы предупредить других разработчиков приложений и помочь защитить онлайн-сообщества от подобных атак.

🧹Поскольку Telegram быстро удаляет незаконный контент из публичных групп, используя самые разные инструменты модерации, злоумышленнику пришлось прибегнуть к технической уловке. Он вставил незаконный контент, модифицированный с помощью искусственного интеллекта, отредактировав старое сообщение в активном чате. В результате этот контент фактически оказался скрыт от участников группы, не давая им сразу увидеть его и сообщить о нем.

💰 Злоумышленник был вымогателем: человеком, который требует выкуп у владельцев групп в обмен на то, что он не будет атаковать их сообщества. Эти вымогатели используют автоматизированные аккаунты, чтобы публиковать незаконный контент в публичных группах, а затем напрямую подают жалобы в Apple, пытаясь добиться удаления законных сообществ, владельцы которых отказались платить им.

🤝 С практической точки зрения, незаконный порнографический контент в публичных группах Telegram не является системной проблемой. Наша модерация эффективна. Тот факт, что злоумышленникам приходится прибегать к старому, практически невидимому контенту, а также к другим техническим уловкам, подтверждает это.

⚠️ Однако для разработчиков приложений и онлайн-сообществ есть два важных вывода:

— Вымогатели нашли способ повлиять на Apple, чтобы та отреагировала чрезмерно. Apple удалила Telegram из App Store до того, как мы успели с ней связаться. Это создает потенциальный системный риск для каждого мобильного приложения, где размещается пользовательский контент. Если приложение, которым пользуются более миллиарда человек, может быть удалено из App Store без предупреждения, то это может произойти и с любым другим приложением.

— Тактики, используемые вымогателями, развиваются, подвергая риску сообщества на всех социальных платформах. Telegram имеет большой опыт выявления уловок, применяемых группами, которые координированно подают жалобы, и защиты законных сообществ (даже если это означает риск того, что наше собственное приложение будет временно удалено из App Store). Другие платформы могут быть подготовлены не столь хорошо.

Оставайтесь начеку. ☝️

#PavelDurov #PavelDuro #Telegram #Telegram. #applestore $AAPL $GRAM