Britská vláda oznámila, že čtyři nové zákony budou řešit hrozbu snímků sexuálního zneužívání dětí vytvářených umělou inteligencí. Informuje o tom BBC, The Guardian a další servery.
Podle ministerstva vnitra bude Spojené království první zemí na světě, kde bude nezákonné vlastnit, vytvářet nebo distribuovat nástroje umělé inteligence určené k vytváření materiálů se sexuálním zneužíváním dětí (CSAM). Za to bude hrozit trest odnětí svobody až na pět let.
AI-generated child sex abuse images targeted with new laws
— AI Post (@aiposted) February 2, 2025
Four new laws will tackle the threat of child sexual abuse images generated by artificial intelligence (AI), the government has announced. pic.twitter.com/5RK9khBTvW
Nezákonné bude rovněž držení tzv. pedofilních AI příruček. To jsou manuály, které učí lidi, jak využívat AI k sexuálnímu zneužívání. Pachatelům hrozí až tři roky vězení.
„Jsme svědky toho, že AI nyní vede v oblasti online zneužívání dětí,“ řekla BBC ministryně vnitra Yvette Cooper. Uvedla, že AI „industrializuje rozsah“ sexuálního zneužívání dětí. Dodala, že vládní opatření „možná budou muset jít ještě dál“.
Mezi další zákony, které mají být schváleny, patří zavedení trestného činu provozování internetových stránek, na nichž mohou pedofilové sdílet obsah týkající se sexuálního zneužívání dětí nebo poskytovat rady, jak děti svádět. Za to by hrozilo až 10 let vězení.
Vzniknou i kontroly na hranicích
Pohraniční policie bude mít pravomoc nařizovat osobám, u nichž je podezření, že představují sexuální riziko pro děti, aby při pokusu o vstup do Spojeného království odemkly svá digitální zařízení ke kontrole. Dětské porno je totiž často natáčeno v zahraničí. V závislosti na závažnosti snímků za to bude hrozit trest odnětí svobody až na tři roky.
Uměle generované CSAM zahrnují obrazy, které jsou buď částečně, nebo zcela generovány počítačem. Software může „obnažit“ skutečné obrázky a nahradit obličej jednoho dítěte jiným, čímž vznikne realistický obraz. V některých případech se používají i hlasy skutečných, zneužívaných dětí. Falešné snímky jsou také používány k vydírání dětí a nucení obětí k dalšímu zneužívání.
The Guardian popsal případ, kdy neznámý vyděrač poslal patnáctileté dívce upravené fotografie, které si zřejmě stáhl z jejích sociálních sítí. Pomocí speciální aplikace její tělo upravil tak, aby vypadalo jako nahé, a vyhrožoval, že snímky pošle jejím rodičům.
Národní agentura pro boj proti trestné činnosti (NCA) uvedla, že každý měsíc dochází k 800 zatčením v souvislosti s vyhrožováním dětem na internetu. Uvedla, že v celé zemi ohrožuje děti 840 000 dospělých, jak online, tak offline. Toto číslo představuje 1,6 procent dospělé populace.
„Jsou pachatelé, kteří využívají umělou inteligenci, aby jim pomohla lépe ohrožovat nebo vydírat dospívající a děti. Využívají ji k tomu, aby mladé lidi vtáhli do dalšího zneužívání, prostě se dějí ty nejstrašnější věci a jsou také stále sadističtější,“ řekla ministryně. „Toto je oblast, kde technologie nestojí na místě, a tak nemůžeme stát na místě ani my. Musíme ochránit děti.“
Někteří odborníci se však domnívají, že vláda mohla jít dál.
Profesorka Clare McGlynn, odbornice na právní regulaci pornografie, sexuálního násilí a zneužívání na internetu, uvedla, že změny jsou „vítané“, ale že existují „značné mezery“.
Herci, co si hrají na děti
Vláda by podle ní měla zakázat aplikace typu „nudify“, které mohou obnažovat lidi na fotografiích, a řešit normalizaci sexuálních aktivit s mladě vypadajícími dívkami na mainstreamových pornografických stránkách. Podle ní existují takzvaná „simulovaná videa sexuálního zneužívání dětí“.
„V těchto videích vystupují dospělí herci, kteří však vypadají velmi mladě. Jsou zobrazováni v dětských pokojích, s hračkami, copánky, rovnátky a dalšími znaky dětství,“ uvedla. „Tento materiál lze nalézt opravdu velmi jednoduše, přitom legitimizuje a normalizuje sexuální zneužívání dětí. Na rozdíl od mnoha jiných zemí zůstává tento materiál ve Spojeném království legální.“
Nadace Internet Watch Foundation (IWF) varuje, že vzniká stále více snímků sexuálního zneužívání dětí vytvořených umělou inteligencí, které se stále častěji objevují na otevřeném webu.
Nejnovější údaje charitativní organizace ukazují, že počet hlášení o CSAM vytvořených AI vzrostl o 380 procent: v roce 2024 bylo potvrzeno 245 hlášení oproti 51 v roce 2023. Každé takové hlášení může obsahovat tisíce snímků.
V loňském výzkumu zjistila, že během jednoho měsíce bylo na darknetu objeveno 3 512 snímků sexuálního zneužívání a vykořisťování dětí umělou inteligencí. Ve srovnání s měsícem v předchozím roce se počet snímků nejzávažnější kategorie (kategorie A) zvýšil o deset procent.
