Syna im zabil deepfake. Chlapec čelil vydieraniu nahými fotografiami a spáchal samovraždu
Máte vypnuté reklamy
Vďaka financiám z reklamy prinášame kvalitné a objektívne informácie. Povoľte si prosím zobrazovanie reklamy na našom webe. Ďakujeme, že podporujete kvalitnú žurnalistiku.
VYDIERANIE NAHÝMI FOTOGRAFIAMI
WASHINGTON / Šestnásťročný Elijah sa stal obeťou falošnej erotickej fotografie vytvorenej pomocou umelej inteligencie. Keď ho neznámi páchatelia začali vydierať, nezvládol psychický tlak a zobral si život. Podobných prípadov pribúda – technológie na tvorbu deepfake obsahu sa šíria ako vírus a legislatíva nestíha reagovať.
Rodičia tínedžera z amerického štátu Kentucky prežili šok, keď po samovražde svojho syna zistili, že čelil vydieraniu. Neznámi páchatelia mu posielali výhražné správy, v ktorých od neho žiadali 3 000 dolárov. Vyhrážali sa, že inak rozpošlú jeho sfalšované nahé fotografie vytvorené pomocou umelej inteligencie. Na prípad upozornila tlačová agentúra AFP.
Ide o jeden z mnohých príkladov sexuálneho vydierania detí, známeho aj ako sextortion, ktoré sa v posledných rokoch šíri po celom svete. Páchateľom v tom pomáhajú tzv. „vyzliekacie aplikácie“, ktoré využívajú AI na vytváranie falošných sexuálne explicitných snímok, často bez akéhokoľvek reálneho základu.
Šestnásťročný Elijah sa stal obeťou digitálneho zločinu
Elijah Heacock bol len jedným z tisícov amerických maloletých, ktorí sa stali terčom podobného online vydierania. Po jeho smrti silnejú výzvy na zásadné zásahy zo strany technologických spoločností a štátu.
Rodičia tvrdia, že správy požadovali peniaze výmenou za nezverejnenie falošnej erotickej fotografie ich syna. Chlapcov otec uviedol, že ľudia za týmito útokmi sú dobre zorganizovaní, majú dostatok financií a využívajú AI na generovanie záberov, ktorými deti následne vydierajú. Pravé fotografie pritom vôbec nepotrebujú.
Rastúci počet samovrážd tínedžerov
Americké úrady vrátane FBI zaznamenali výrazný nárast prípadov sextortionu, ktorý najčastejšie postihuje chlapcov vo veku 14 až 17 rokov. Mnohé prípady už vyústili do samovrážd, pričom ide o alarmujúci trend.
Nezisková organizácia Thorn uvádza, že až 6 % amerických tínedžerov sa stalo obeťou podvodov s falošnými nahými fotografiami. Aj britská Internet Watch Foundation upozornila, že sexuálne vydieranie je často spojené práve s použitím deepfake technológií.
Podľa IWF dnes už páchateľom stačí vytvoriť vizuálne presvedčivý falošný obrázok – bez nutnosti získať skutočnú intímnu fotku. Škoda a trauma, ktoré spôsobujú, sú však často rovnaké.
Zvrátené návody a rastúci zisk
Organizácii IWF sa dokonca podarilo nájsť tzv. „pedofilnú príručku“, ktorá radí, ako pomocou vyzliekacích nástrojov vydierať deti. Autor v nej opisuje, ako týmto spôsobom manipuloval niekoľko trinásťročných dievčat.
Softvéry a weby ponúkajúce AI nástroje na tvorbu erotických deepfake snímok predstavujú mimoriadne výnosný biznis. Analýza 85 stránok ukázala, že ročne môžu generovať zisk až 36 miliónov dolárov.
Výskum firmy Indicator ďalej zistil, že len 18 webov si počas polroka dokázalo prísť na 2,6 až 18,4 milióna dolárov. Využívajú infraštruktúru veľkých hráčov ako Google, Amazon či Cloudflare, čo im umožňuje fungovať aj napriek snahám o ich zablokovanie.
Každý piaty mladý človek ako obeť digitálneho zneužitia
Rastúca dostupnosť nástrojov umelej inteligencie prispieva k objaveniu nových spôsobov, akými sú deti vystavované zneužívaniu či šikane. Príkladom sú škandály v oblasti školstva – na univerzitách i stredných školách po celom svete – kde tínedžeri pomocou AI vyrábajú sexuálne ladené obrázky svojich rovesníkov.
Podľa výskumu organizácie Save the Children sa až 20 % mladých ľudí v Španielsku stalo obeťami digitálne vytvorených nahých snímok, ktoré boli bez ich súhlasu šírené po internete.
V úvode roka španielska prokuratúra informovala o prípade troch neplnoletých osôb v meste Puertollano, ktoré sú podozrivé z toho, že s využitím umelej inteligencie produkovali pornografické obrázky zamerané na svojich spolužiakov i učiteľov a následne ich šírili v prostredí školy.
Legislatívne reakcie a ich limity
Na situáciu reagujú aj štáty: britská vláda tento rok legislatívne zakázala vytváranie a šírenie falošného sexuálneho vizuálneho obsahu, pričom za tento čin môže páchateľ dostať až dvojročný trest odňatia slobody. Podobne konal aj americký prezident Donald Trump, ktorý v máji podpísal zákon s rovnakým cieľom.
Aj keď boli prijaté konkrétne právne opatrenia, internetové stránky ponúkajúce tzv. vyzliekacie aplikácie a iné nástroje na generovanie sexuálneho obsahu naďalej fungujú. Odborníci prirovnávajú tento zápas k boju s hydrou – aj keď sa jedna stránka zruší, rýchlo ju nahradí iná. Problém má teda stále rastúcu podobu, ktorá sa prispôsobuje a obnovuje.
Pozrite si aj archívnu reportáž: