Jak děti chránit v době AI? Posviťte si na grooming, deepfakes i „svlékací“ aplikace

Dnešní děti z generace Alfa se s internetem setkávají prakticky už od plenek, a právě čas strávený online s sebou nese i první rizika v podobě kyberšikany a dalších forem digitálního ubližování. Přesto si odpovědnost za prevenci mezi sebou často přehazuje škola a rodiče. Informovanost a otevřené rozhovory by přitom měly začít doma, ideálně už od školky.

Deepfakes a svlékací aplikace. Co by rodiče měli vědět?

Díky AI dnes během několika málo minut vygenerujete nové video, upravíte fotky nebo změníte hlas k nepoznání. To, co dříve vyžadovalo hodiny práce, je nyní dostupné na několik kliků. Grooming, kyberšikana nebo sexuální obtěžování jsou vlivem AI ještě sofistikovanější.

Grooming je manipulativní chování, kdy pachatel postupně získává důvěru dítěte. Děti se často bojí svěřit. Strach, stud nebo pocit viny je paralyzuje. Proto je důležité mluvit s dětmi o těchto hrozbách a ukázat jim, že nejsou samy.

AI sama o sobě není špatná. Může zpestřit výuku a nabídnout zábavu. Problém nastává, když technologie padne do špatných rukou. AI chatboti dokážou napodobit dětský hlas a vygenerovat deepfake materiál, který působí zcela autenticky. S rozmachem umělé inteligence se objevily i tzv. svlékací aplikace. Stačí fotka z Instagramu a AI ji dokáže upravit na sexuálně explicitní obsah. Predátor pak dítě vydírá nebo materiál šíří dál.

Děti jsou důvěřivé, je třeba jim vysvětlit, že ne každý je kamarád

Děti na prvním stupni ještě nemají vybudovanou schopnost rozeznat manipulaci, neumí posoudit rizika a často mají pocit, že každý, kdo si s nimi povídá, je kamarád. Opatrní buďte hlavně v rámci chatovacích skupin a online her. Dítě by mělo vědět, že hráč, kterého osobně nezná, nemusí být tím, za koho se vydává. Predátoři ale dnes mohou využít ještě další způsob, jak se k dítěti dostat.

Pomocí AI dokáže útočník vložit obličej dítěte do videí nebo fotografií, na kterých se ve skutečnosti nikdy neobjevilo. Výsledný obsah vypadá, jako by dítě říkalo nebo dělalo něco, co se nikdy nestalo, a může jít klidně o sexuálně laděný obsah. To dokazuje i případ Brita (Hugh Nelson), který byl odsouzen na 18 let, protože vytvářel a distribuoval obrázky zneužívání dětí pomocí AI. V únoru roku 2025 Europol oznámil, že v rámci operace (nazvané „Operation Cumberland“) bylo zadrženo nejméně 25 lidí za distribuci AI-generovaných dětských sexuálních materiálů.

Manipulace s teenagerem začíná izolací dítěte

Teenager už má sociální život, tajemství, zájmy, romantické představy a AI dokáže vytvářet komunikaci, která přesně míří na jeho potřeby. Predátor postupně izoluje dítě od rodiny a přátel a může ho nátlakem přimět posílat nahé fotografie. Začátek přitom může vypadat nevinně. Predátor dá dítěti pocit výjimečnosti, chová se jako nejlepší kamarád a dítě systematicky a dlouhodobě štve proti jeho vlastní rodině.

Útočníkem ovšem nemusí být jenom dospělý člověk. AI videa a fotky mohou zneužít i vrstevníci mezi sebou a vytvořit například urážlivý či jinak diskreditující obsah s použitím fotky daného dítěte. Takový materiál se pak šíří svévolně jako lavina a může dovést dítě do stavu naprostého zoufalství.

Jaké informace o dětech by se neměly objevit na internetu?

Rodiče často podceňují informace, které sami o svých dětech sdílejí na internetu. I kombinace několika malých vodítek může vytvořit „profil“ dítěte, který umožní následnou manipulaci, vydírání, nebo dokonce fyzický kontakt.

Údaje o dětech, které byste neměli sdílet na internetu:

• datum narození, telefonní číslo, kroužky, které dítě navštěvuje;
• fotky ve spodním prádle, u bazénu nebo ve sprše;
• citlivé fotky a „momentky“, které dítě může považovat za dehonestující;
• polohu v rámci sociálních sítí a dalších aplikací.

AI dokáže všechny informace propojit a analyzovat. Nejde tedy „jen o jednu fotku“, ale o to, jak technologie umělé inteligence z jednotlivých střípků poskládá realistický obraz dítěte a jeho rutiny. Jedině rodič a dítě, kteří vědí, jaká jsou rizika, jim dokážou předcházet.

Kam se obrátit pro pomoc?

Něco zlého se stalo nebo máte „jen“ podezření, že je něco špatně? Nejste na to sami. Tady je seznam institucí, kde můžete hledat pomoc.

• Pokud máte podezření na trestný čin (vydírání, grooming, zneužití fotek, deepfake pornografie s účastí dítěte), nejlepší cestou je obrátit se přímo na Policii ČR. Uložte si konverzace, pořiďte screenshoty.
• Pro anonymní nahlášení nelegálního obsahu slouží také STOPonline.cz. Prostřednictvím formuláře nahlaste jakýkoli obsah s prvky sexuálního zneužívání dětí, groomingu a další nelegální aktivitu spojenou s dětmi.
• Někdy děti nechtějí o problémech mluvit rovnou s rodičem. Právě proto je dobré, aby dítě mělo možnost popovídat si s někým jiným. A právě k tomu slouží Linka bezpečí.

I když online svět s AI přináší nová rizika, většině hrozeb předejdete prostou informovaností, otevřenou komunikací a jasnými pravidly. S rodiči, kteří vědí, na co si dát pozor, mohou děti bezpečně objevovat digitální svět.

Zdroj obrázků: Freepik.com