Telegram odstranil přibližně 15 milionů nezákonných skupin na své platformě pro zasílání zpráv pomocí umělé inteligence (AI). V posledních měsících byla platforma pod obrovským tlakem, aby vyčistila svou aplikaci pro zasílání zpráv od nezákonného obsahu. Tento tlak vedl k zatčení jejího CEO Pavla Durova ve Francii, kde čelí obviněním z nebezpečného a nezákonného obsahu sdíleného na aplikaci.

Zatímco Durov, který měl svůj první den u soudu, je stále pod přísným omezením, platforma se zdá, že se dostala do práce. Podle Telegramu nyní odstranila více než 15,4 milionu nezákonných skupin a kanálů souvisejících s podvody a dalšími nezákonnými činnostmi.

Ve svém prohlášení Telegram zdůraznil, že tohoto úspěchu bylo dosaženo pomocí špičkových nástrojů umělé inteligence pro moderaci. Tento krok přichází poté, co platforma v září oznámila přísná opatření, přičemž Durov poznamenal, že se snaží vyhovět vládním požadavkům.

Telegram spouští novou stránku pro moderaci, aby sledoval své snahy

Nová stránka pro moderaci je v souladu s politikou společnosti ohledně transparentnosti v jejích aktivitách. Podle příspěvku z Durovovy stránky na Telegramu chce společnost, aby veřejnost viděla její úsilí v boji proti těmto nezákonným aktivitám. Uvedl, že moderátorský tým pracoval v pozadí v posledních několika měsících, odstraňoval obsah, který porušoval její podmínky, a děkoval uživatelům za pomoc při potírání tohoto nebezpečí.

Durov slíbil pravidelné aktualizace, které mohou uživatelé vidět v reálném čase, a ukazují, kolik práce moderátorský tým vykonává.

Přehled moderace Telegramu v roce 2024. Zdroj: Telegram

Podle stránky pro moderaci platforma po zatčení Durova zvýšila míru vymáhání. Stránka uvádí, že odstranění nezákonných účtů je účinné od roku 2015. Zablokované ilegální skupiny a kanály v současnosti činí přibližně 15 474 022, což představuje číslo pouze pro rok 2024.

Telegram také zvýšil svou tvrdou kampaň proti materiálům sexuálního zneužívání dětí (CSAM) letos, zakázav celkem 703 809 skupin a kanálů.

Kromě uživatelských hlášení a proaktivní práce moderátorského týmu Telegram také hlásil tisíce případů zpracovaných prostřednictvím třetích stran proti CSAM, což vedlo k okamžitým zákazům. Při rozložení čísla upozorňuje na čtyři hlavní skupiny, které poskytly nejvíce hlášení, včetně Internet Watch Foundation, Národního centra pro pohřešované a zneužívané děti, Kanadského centra pro ochranu dětí a Stitching Offlimits.

Od roku 2016 se Telegram aktivně potýká s násilím a teroristickou propagandou tím, že poskytuje každodenní aktualizace o svých snahách, které byly uznány Europolem. Společnost uvedla, že od roku 2022 spolupracovala s řadou organizací na těchto frontách a zakázala 100 milionů teroristického obsahu. V roce 2024 Telegram oznámil, že zablokoval 129 099 obsahů souvisejících s terorismem.

Durovovo pokračující omezení uprostřed snah o boj proti nezákonným materiálům

Durov bude i nadále pod bedlivým dohledem francouzských úřadů po svém prvním dni u soudu. CEO Telegramu byl doprovázen svým právním zástupcem, odpovídal na několik otázek týkajících se aktivit platformy.

Ačkoli Durov po zasedání odmítl komentovat případ, vyjádřil svou víru v francouzský justiční systém a svou nevinu. Nicméně, pokud bude shledán vinným, mohl by strávit až 10 let ve vězení, kromě pokuty 550 000 dolarů.

Mezitím Telegram nedávno oznámil partnerství s Internet Watch Foundation (IWF), což signalizuje pokus o boj proti nezákonným materiálům sexuálního zneužívání dětí sdíleným na platformě.

Charita identifikuje a odstraní tyto materiály pomocí svých špičkových nástrojů AI. CEO IWF, Derek Ray-Hill, zmínil velké úspěchy, kterých mohou obě firmy společně dosáhnout. „Těšíme se na to, jaké další kroky můžeme společně učinit, abychom vytvořili svět, ve kterém je šíření online materiálů sexuálního zneužívání prakticky nemožné,“ řekl.

Od nuly k Web3 Pro: Váš 90denní plán pro zahájení kariéry