EÚ sa dohodla na zákaze AI nástrojov na tvorbu intímnych snímok bez súhlasu

Vďaka financiám z reklamy prinášame kvalitné a objektívne informácie. Povoľte si prosím zobrazovanie reklamy na našom webe. Ďakujeme, že podporujete kvalitnú žurnalistiku.

Archívna reportáž

Umelá inteligencia oživuje fotografie

BRUSEL / Zástupcovia Európskeho parlamentu a členských štátov EÚ sa zhodli na podobe zákazu aplikácií umelej inteligencie (AI), ktoré umožňujú vytvárať sexualizované snímky a videá skutočných ľudí bez ich súhlasu. Zákaz bude platiť od 2. decembra. Európsky parlament o tom informoval v dnešnej tlačovej správe. Europoslanci vec podporili už na marcovom plenárnom zasadnutí, keď dali zelenú vyjednávaniu s členskými štátmi. Ide o súčasť balíka opatrení na zjednodušenie a zmiernenie legislatívy v oblasti AI, ktorý navrhla Európska komisia.

Zakázané budú aj systémy bez ochranných opatrení

Zakázané bude napríklad uvádzať na trh Únie systémy AI určené na vytváranie takéhoto obsahu, ako aj uvádzať ich bez primeraných bezpečnostných opatrení, ktoré by jeho tvorbe zabránili.

Cieľom je ochrana pred zneužívaním

Európsky parlament a Rada EÚ, teda členské štáty, konkrétne spomínajú „materiál zobrazujúci sexuálne zneužívanie detí alebo zobrazujúci intímne partie identifikovateľnej osoby či ju zachytávajúci pri sexuálne explicitných činnostiach bez jej súhlasu“.

Dohodu ešte musia formálne potvrdiť

Europoslanci a zástupcovia členských krajín musia dohodu, predbežne dosiahnutú v noci na dnes, ešte formálne potvrdiť. Podľa tlačovej správy Európskeho parlamentu by sa tak malo stať pred 2. augustom tohto roka, odkedy majú začať platiť niektoré ustanovenia novej legislatívy. Tú Európska komisia navrhla vlani v novembri.

Impulzom bol škandál na sociálnej sieti X

Na problematiku v minulých mesiacoch upozornil najmä škandál na sociálnej sieti X miliardára Elona Muska. Jej používatelia pomocou chatbota Grok bez súhlasu generovali a upravovali sexualizované fotografie skutočných žien a detí.

Na situáciu najprv upozornili médiá a vyústila do viacerých vyšetrovaní, jedno z nich vedie britský regulačný úrad Ofcom. Okrem programu Grok však existujú aj špecializované aplikácie zamerané priamo na generovanie podobného obsahu.