Nadace Internet Watch Foundation (IWF), organizace se sídlem ve Spojeném království, která se snaží eliminovat obsah týkající se sexuálního zneužívání dětí na internetu, vyhlásila poplach kvůli nárůstu zobrazování AI na internetu zobrazujících sexuální zneužívání dětí.
AI obrázky sexuálního zneužívání dětí zaplavují internet
IWF uvedla, že zločinci nyní využívají nástroje technologie AI k vytváření nových obrázků sexuálního zneužívání dětí pomocí tváří a těl dětí, které byly dříve zapojeny do skutečného zneužívání. A vzhledem k pokroku v AI se tyto obrázky jeví jako realistické a téměř těžko rozlišitelné, uvedl MMF.
Podle organizace bylo na temném webu fóra o zneužívání dětí sdíleno asi 11 108 AI obrázků sexuálních obrázků dětí za jediný měsíc. Bylo potvrzeno, že až 2 978 z těchto obrázků porušovalo zákon Spojeného království proti sexuálnímu zneužívání dětí, zatímco dalších 2 562 bylo tak realistických, že se s nimi muselo zacházet jako s obrázky skutečného zneužívání.
"Naše nejhorší noční můry se naplnily." Začátkem tohoto roku jsme varovali, že snímky umělé inteligence se mohou brzy stát k nerozeznání od skutečných snímků dětí trpících sexuálním zneužíváním a že bychom mohli začít pozorovat, že se tyto snímky množí v mnohem větším počtu. Nyní jsme tento bod překročili,“ řekla šéfka IWF Susie Hargreavesová.
IWF také zaznamenala nové a otřesné způsoby, jak zločinci zneužívají technologické nástroje AI ke škodlivým účelům. Uvedlo, že zločinci používají nástroje k sexualizaci obrázků oblečených dětí a také obrázků celebrit, aby je zobrazili ve scénách sexuálního zneužívání.
Potřeba rychlé regulační odezvy
I když je nepopiratelné, že technologie AI je určena pro dobré využití, stále existuje silná potřeba zkrotit neoprávněné použití zločinci. Případy, na které upozornila IWF, zdůrazňují potřebu, aby regulační orgány na celém světě společně prosazovaly opatření k zabránění používání umělé inteligence ke škodlivým účelům.
„Mezinárodní spolupráce je zásadní. Je to naléhavý problém, který potřebuje okamžitě jednat. Pokud tuto hrozbu nezvládneme, hrozí, že tento materiál zaplaví internet,“ řekl Hargreaves.
Nejen regulační orgány, ale společnosti zabývající se umělou inteligencí hrají také velkou roli v prevenci nezákonného používání nástrojů pro generování obrázků AI, jako je blokování výzev, které zahrnují nepřiměřené požadavky. Stojí za zmínku, že některé generátory obrázků AI, jako je Midjourney, již blokují požadavky s určitými klíčovými slovy, jako je „porno“, „sex“ atd.