Nové pravidlá pre umelú inteligenciu: EÚ posilňuje transparentnosť pre chatboty a deepfakes

BRUSEL / Od 2. augusta začínajú v krajinách Európskej únie platiť kľúčové ustanovenia Únijného aktu o umelej inteligencii (AI Act), ktoré majú za cieľ priniesť výrazne vyššiu transparentnosť do sveta digitálnych technológií. Používatelia sa dozvedia, kedy komunikujú so systémom AI, a umelo vytvorený obsah, ako sú deepfakes, bude musieť byť jasne označený.

Povinná transparentnosť: Kto je na druhej strane?

Jednou z najdôležitejších noviniek je povinnosť informovať užívateľov, že komunikujú s chatbotom alebo iným systémom umelej inteligencie. Táto zmena má zabrániť nedorozumeniam a zabezpečiť, aby ľudia boli informovaní o povahe svojho digitálneho partnera.

Jaroslav Kuba, advokát z poradenskej spoločnosti Rödl, potvrdzuje, že medzi najviditeľnejšie novinky patrí povinnosť jasne a včas informovať užívateľa, že komunikuje s chatbotom alebo virtuálnym či hlasovým asistentom poháňaným umelou inteligenciou. Dodáva, že rovnako aj tzv. AI agenti, ktorí samostatne vykonávajú činnosti ako rezervácie, objednávky či vybavovanie korešpondencie, musia podľa nových usmernení Európskej komisie nielen prezradiť, že sú umelou inteligenciou, ale aj za koho konajú.

Prečítajte si tiež

Umelá inteligencia pomáha predátorom zneužívať deti. Štatistiky varujú pred novými praktikami

​Deepfakes pod drobnohľadom: Čo je umelé, musí byť viditeľné

Ďalšou zásadnou zmenou je povinné označovanie tzv. deepfakes. Ide o obrázky, zvukové nahrávky či videá, ktoré sú vytvorené alebo upravené pomocou AI a môžu pôsobiť ako autentické. Tieto materiály budú musieť byť odteraz jasne označené ako umelo vytvorené.

Európska komisia podľa českého advokáta Jaroslava Kubu explicitne zaraďuje medzi deepfakes aj reklamné vizuály a produktové fotografie vytvorené AI, ak môžu klamať o skutočnom vzhľade alebo vlastnostiach výrobku, ako aj virtuálnych influencerov.

AI v službách verejnosti: Označovanie generovaného obsahu

Český telekomunikačný úrad (ČTÚ) v tejto súvislosti upozorňuje, že rovnaké pravidlá sa vzťahujú aj na texty zverejnené s cieľom informovať verejnosť o záležitostiach verejného záujmu, ktoré boli generované alebo manipulované AI systémom. ČTÚ zdôrazňuje, že v zmysle článku 50 ods. 5 AI Actu je nevyhnutné použiť jasné a rozpoznateľné spôsoby označenia. Praktickými príkladmi môžu byť značky alebo ikony typu "AI generated" pre úplne vygenerovaný obsah alebo "AI modified" pre obsah upravený umelou inteligenciou. Úrad bude v Česku dohliadať na dodržiavanie týchto pravidiel.

Dôraz na dodržiavanie: Vysoké pokuty pre porušiteľov

S novými pravidlami prichádza aj posilnený systém ich presadzovania. Národné dozorné orgány, rovnako ako Európska komisia, získavajú právomoci ukladať sankcie za porušenie ustanovení, ktoré sú už uplatniteľné – to znamená najmä zákazy neprípustných praktík, ale po novom aj pravidiel transparentnosti. Firmám, ktoré porušia pravidlá transparentnosti, môžu hroziť vysoké pokuty, ktoré môžu dosiahnuť až 15 miliónov eur alebo tri percentá celosvetového ročného obratu spoločnosti.

Prečítajte si tiež

Meta čelí obžalobe. Podľa prepustených zamestnancov ich vyhodila umelá inteligencia

​

Prečo sú zmeny dôležité: Informované rozhodnutia a jasné pravidlá

Cieľom týchto opatrení je podľa Európskej komisie obmedziť zavádzanie a manipuláciu a pomôcť ľuďom robiť informované rozhodnutia. Firmám zároveň prinášajú jasnejšie povinnosti a praktický spôsob, ako preukázať súlad s pravidlami. Nová legislatíva má tak prispieť k dôveryhodnejšiemu a bezpečnejšiemu prostrediu pre všetkých, ktorí sa stretávajú s umelou inteligenciou.