Zneužívajú AI na tvorbu deepfake porna. Obeťami sú celebrity, ohrozené sú aj deti

BRATISLAVA / Zatiaľ čo umelá inteligencia (AI) ponúka obrovský potenciál v rôznych odvetviach, jej temnejšia stránka sa čoraz viac prejavuje v podobe falošných erotických videí a obrázkov. Takzvané "nudify" videá a deepfake pornografia, ktoré dokážu zmanipulovať tváre a telá na fotografiách a videách, ohrozujú nielen známe osobnosti, ale predovšetkým deti a tínedžerov.

Nudify videá: Zábava alebo nebezpečná zbraň?

Na internete sa objavujú aplikácie a videá, ktoré dokážu z bežnej fotografie vytvoriť explicitný sexuálny obsah. Odborník na AI, Branislav Šmidt, varuje: "Je to čoraz väčší trend, že AI sa bohužiaľ zneužíva na takéto explicitné materiály."

Sám sa stretol s prípadom, keď bola jeho známa vydieraná podobným pornografickým materiálom. Požadovali od nej peniaze pod hrozbou zverejnenia videa jej rodine. Po tejto traumatickej skúsenosti dotyčná osoba zmazala svoje profily na sociálnych sieťach.

Obete: Od Taylor Swift po španielskych tínedžerov

S podobným problémom sa stretla aj speváčka Taylor Swift, ktorej falošné fotografie zaplavili internet a vyvolali pobúrenie. Kým sa ich podarilo stiahnuť, prezdieľali ich desiatky miliónov ľudí. "Ostatní ľudia o tom hovoria a ostáva digitálna stopa, ktorá je viac-menej nevymazateľná," upozorňuje psychologička Eva Klímová.

Najzraniteľnejšou skupinou sú však mladí ľudia. Prieskum v Španielsku ukázal, že každý piaty mladý človek sa stal obeťou deepfake nahých fotografií zdieľaných online bez súhlasu. "Ten človek neustále bude žiť v strachu, kde sa môžu veci z jeho minulosti, ktoré on sám nikde nezavesil, nenafotil sa nahý a pod., môžu objaviť. Títo ľudia sú veľmi vysoko ohrozovaní samovraždami," varuje psychologička Klímová.

Právna ochrana na Slovensku? Zatiaľ slabá

Šanca brániť sa podobným útokom je na Slovensku zatiaľ obmedzená. "Prostriedky ochrany na Slovensku – existujú, ale ich efektivita a rýchlosť je v tomto prípade nedostatočná," hovorí advokát Martin Baláž.

Vo všeobecnosti máme právo na ochranu osobnosti a skutok môže napĺňať znaky kyberšikany. Ak sa video šíri na sociálnych sieťach, obeť sa môže domáhať tzv. práva na zabudnutie. Platforma je potom povinná video vymazať a zamedziť jeho ďalšiemu šíreniu, inak môže sama zodpovedať za škodu.

Ako sa chrániť pred zneužitím

TV JOJ

​

Štát si uvedomuje nebezpečenstvo

Štátny tajomník MIRRI SR, Radomír Šalitroš, zdôrazňuje potrebu chrániť deti a mládež pred diskrimináciou a obťažovaním cez nástroje AI. Minister školstva Tomáš Drucker dodáva, že si musíme na túto oblasť dávať "veľmi výrazný pozor".

Austrália už koná

Austrália už žiada od technologických gigantov, aby zastavili šírenie takýchto videí. Je len otázkou času, kedy sa k podobným opatreniam pripoja aj ďalšie krajiny.

Pozrite si aj reportáž o zneužívaní hlasov známych hercov:

​