Kemarin, Apple secara sementara menarik Telegram dari App Store karena satu pengguna saja telah memublikasikan konten pornografi ilegal di sebuah grup obrolan publik.

⬅️ Telegram dipulihkan dalam hitungan jam. Tapi saya ingin menjelaskan apa yang terjadi, untuk memberi peringatan kepada pengembang aplikasi lain dan membantu melindungi komunitas online dari serangan serupa.

🧹Karena Telegram dengan cepat menghapus konten ilegal dari grup publik menggunakan berbagai jenis alat moderasi, penyerang terpaksa menggunakan trik teknis. Ia menyisipkan konten ilegal yang telah dimodifikasi dengan kecerdasan buatan, dengan mengedit pesan lama di sebuah grup obrolan yang aktif. Akibatnya, konten tersebut pada dasarnya menjadi tersembunyi bagi anggota grup, sehingga mereka tidak bisa melihatnya dan melaporkannya segera.

💰 Penyerang adalah seorang pemeras: seseorang yang menuntut uang tebusan dari pemilik grup agar tidak menyerang komunitas mereka. Para pemeras ini menggunakan akun otomatis untuk memublikasikan konten ilegal di grup publik, lalu langsung melaporkannya ke Apple, dengan upaya memicu penghapusan komunitas yang sah yang pemiliknya menolak membayar mereka.

🤝 Dari sudut pandang praktis, konten pornografi ilegal di grup publik Telegram bukanlah masalah yang bersifat sistemik. Moderasi kami efektif. Fakta bahwa para penyerang harus beralih ke konten lama yang hampir tidak terlihat, serta ke trik teknis lainnya, membuktikan hal ini.

⚠️ Namun, ada dua pelajaran penting bagi pengembang aplikasi dan komunitas daring:

— Para pemeras telah menemukan cara untuk memanipulasi Apple agar merespons secara berlebihan. Apple menarik Telegram dari App Store sebelum kami dihubungi. Ini menimbulkan potensi risiko sistemik bagi setiap aplikasi seluler yang memuat konten buatan pengguna. Jika sebuah aplikasi yang digunakan oleh lebih dari satu miliar orang bisa ditarik dari App Store tanpa pemberitahuan sebelumnya, maka aplikasi apa pun bisa saja ditarik.

— Taktik yang digunakan oleh pemeras terus berkembang, membahayakan komunitas di semua platform media sosial. Telegram memiliki pengalaman luas dalam mengidentifikasi trik yang digunakan oleh kelompok laporan terkoordinasi dan dalam melindungi komunitas yang sah (meskipun ini berarti ada risiko aplikasi kami sendiri ditarik sementara dari App Store). Platform lain mungkin tidak siap dengan baik.

Tetap waspada. ☝️

#PavelDurov #PavelDuro #Telegram #Telegram. #applestore $AAPL $GRAM