Vojak zneužil armádnu AI na výrobu detskej pornografie. Vygeneroval tisíce obrázkov
Máte vypnuté reklamy
Vďaka financiám z reklamy prinášame kvalitné a objektívne informácie. Povoľte si prosím zobrazovanie reklamy na našom webe. Ďakujeme, že podporujete kvalitnú žurnalistiku.
FRANCÚZSKO / Francúzskymi ozbrojenými silami otriasa vážny bezpečnostný a etický škandál. Štyridsaťdvaročný vojak z departementu Moselle skončil vo vyšetrovacej väzbe po tom, čo mal zneužiť armádny systém umelej inteligencie na vytváranie tisícov pornografických snímok maloletých. Vyšetrovatelia navyše zistili, že kontaktoval deti na sociálnych sieťach a žiadal od nich sexuálne explicitný obsah.
Videá z internátu na pornostránke
Muža zadržali 22. júla vo francúzskom departemente Moselle. Podľa prokurátora v Metz Thomasa Bernarda sa priznal k časti skutkov a následne bol obvinený a vzatý do vyšetrovacej väzby.
AI mal bombardovať tisíckami príkazov
Podľa zdrojov denníka Le Républicain Lorrain zadal vojak armádnemu systému umelej inteligencie "cez 10 000 príkazov v snahe vynútiť si vygenerovanie snímok s detskou pornografiou", uviedol prokurátor.
Vyšetrovatelia zároveň zistili, že muž mal rovnaký nástroj zneužiť aj na vytvorenie pornografických snímok dvoch svojich kolegýň. Tie následne podali na vojaka trestné oznámenie. Ich tváre a telá mal bez ich súhlasu upravovať pomocou umelej inteligencie.
Maloletých oslovoval aj priamo
Prípad sa však podľa vyšetrovateľov neobmedzoval iba na generovanie obsahu pomocou AI. Po zatknutí mal vojak priznať, že na sociálnych sieťach kontaktoval maloletých mladších ako 15 rokov a žiadal od nich fotografie s pornografickým obsahom.
Proti mužovi preto začali súdne vyšetrovanie pre viacero trestných činov súvisiacich s vytváraním a šírením sexuálneho obsahu s maloletými, ako aj s vytváraním a šírením sexuálneho obsahu vytvoreného algoritmickým spracovaním bez súhlasu zobrazenej osoby.
Prípad vyšetrujú viaceré zložky
Vyšetrovanie prípadu dostali podľa Le Parisien na starosť vyšetrovacie sekcie Četníctva pre výzbroj, Národná kybernetická jednotka a vyšetrovacia brigáda v Thionville.
Vojak podľa dostupných informácií predtým nemal žiadny záznam v trestnom registri. Prípad teraz preverujú vyšetrovatelia, ktorí sa snažia zistiť rozsah jeho konania a všetok obsah, ktorý mal pomocou armádneho systému vytvoriť alebo získať.
Umelá inteligencia predstavuje nový problém
Francúzsky prípad zároveň upozorňuje na širší problém spojený so zneužívaním generatívnej umelej inteligencie na sexuálne násilie a manipuláciu.
Na riziko upozorňujú aj nemecké úrady. Spolkový kriminálny úrad podľa dostupných informácií eviduje prípady, v ktorých páchatelia využívajú AI nielen na vytváranie sexuálneho obsahu s maloletými, ale aj na manipuláciu a kontaktovanie potenciálnych obetí.
Podľa CNN Prima News pritom často nejde o úplne anonymné útoky. V niektorých prípadoch sa páchateľ a obeť poznali ešte predtým, ako začal byť nástroj umelej inteligencie využívaný na zneužívanie.