19°
Bratislava
EÚ chce chrániť deti aj pred AI. Obáva sa emocionálnej závislosti od chatbotov
EÚ chce chrániť deti aj pred AI. Obáva sa emocionálnej závislosti od chatbotov
Máte vypnuté reklamy
Vďaka financiám z reklamy prinášame kvalitné a objektívne informácie. Povoľte si prosím zobrazovanie reklamy na našom webe. Ďakujeme, že podporujete kvalitnú žurnalistiku.
ŠTRASBURG / Európska únia chce výraznejšie obmedziť riziká, ktorým sú deti vystavené v digitálnom prostredí. Nový návrh pravidiel sa netýka iba sociálnych sietí. Počíta aj s reguláciou chatbotov a takzvaných AI spoločníkov, pričom osobitnú pozornosť venuje riziku vzniku emocionálnej závislosti detí od umelej inteligencie.
Európska komisia predstavila návrh nariadenia EU KIDS Act, ktorého cieľom je zaviesť jednotnejšie pravidlá ochrany maloletých v online prostredí v celej Európskej únii. Reaguje okrem iného na obavy z negatívneho vplyvu niektorých digitálnych služieb na psychické zdravie, vývoj a bezpečnosť detí. Dokument upozorňuje napríklad na riziká kyberšikany, groomingu, návykového správania, osamelosti či negatívneho vplyvu na spánok a duševné zdravie.
Sociálne siete až od určitého veku
Jednou z najvýraznejších zmien má byť obmedzenie samostatného prístupu detí k sociálnym sieťam a platformám na zdieľanie videí. Podľa návrhu by maloletí mladší ako 15 rokov nemohli samostatne vytvoriť účet na službách spadajúcich pod stanovené pravidlá. Pre deti vo veku od 13 do 15 rokov návrh počíta s možnosťou účtu vytvoreného rodičom alebo zákonným zástupcom, ktorý by mal obmedzené a veku primerané funkcie. Deti mladšie ako 13 rokov by nemali mať prístup k rizikovým sociálnym sieťam a videoplatformám.
Súčasťou systému má byť aj overovanie veku používateľov. Návrh zároveň požaduje, aby sociálne siete neboli navrhnuté spôsobom, ktorý môže u maloletých podporovať nadmerné alebo nutkavé používanie. Počíta napríklad s nástrojmi na riadenie času a ochranou času určeného na spánok či školu. Prísnejšie pravidlá sa majú týkať aj odporúčacích algoritmov a predvolených nastavení súkromia.
Regulácia sa má dotknúť aj umelej inteligencie
Návrh však ide ďalej než k sociálnym sieťam. Do nového systému ochrany detí výslovne zahŕňa aj AI companions – AI spoločníkov – a všeobecné konverzačné chatboty. Poskytovatelia týchto systémov by mali byť povinní zaviesť ochranu maloletých už pri samotnom navrhovaní služby.
Jedným z rizík, ktoré návrh pomenúva mimoriadne konkrétne, je emocionálna závislosť od umelej inteligencie. Podľa návrhu by deti nemali byť vystavované funkciám, pri ktorých AI prejavuje alebo simuluje emócie či medziľudské vzťahy spôsobom, ktorý môže vytvárať emocionálnu alebo inú závislosť. Dokument upozorňuje aj na možný negatívny vplyv takejto väzby na vzťahy dieťaťa s reálnymi ľuďmi a na jeho ďalší vývoj.
Poskytovatelia chatbotov by mali zároveň pred uvedením systému preverovať možné riziká pre fyzické, psychické a emocionálne zdravie detí a následne ich monitorovať aj počas používania. Ak je chatbot alebo AI spoločník súčasťou sociálnej siete, videoplatformy alebo online hry, nemal by sa maloletému automaticky aktivovať ani výrazne ponúkať. Dieťa má mať možnosť jeho používanie jednoducho odmietnuť.
Zaujímavým opatrením je aj konverzačná pamäť AI. Pri interakcii s maloletými by mala byť podľa návrhu štandardne vypnutá, s výnimkou prípadov, keď je potrebná na ochranu ich bezpečnosti. Cieľom je okrem ochrany citlivých údajov obmedziť situácie, v ktorých si systém dlhodobo buduje detailnú znalosť dieťaťa a môže upevňovať škodlivé vzorce interakcie.
Každý piaty mladý človek už hľadá podporu u AI
Obavy z vytvárania emocionálneho vzťahu medzi mladými ľuďmi a chatbotmi pritom nie sú iba teoretické. Štúdia publikovaná v odbornom časopise JAMA Pediatrics, o ktorej sme informovali aj v našom článku na JOJ Zdravie, skúmala 1 009 mladých ľudí vo veku od 12 do 21 rokov v USA. Približne 19 percent uviedlo, že chatbot s umelou inteligenciou využilo na radu alebo pomoc v situácii, keď sa cítili smutní, nahnevaní, nervózni alebo vystresovaní.
Viac ako štyria z desiatich používateľov emocionálnej podpory od AI sa na chatbot obracali najmenej raz mesačne. Až 91 percent používateľov považovalo rady AI aspoň do istej miery za užitočné.
Odborníci však upozorňujú, že pocit užitočnosti ešte neznamená, že chatbot skutočne zlepšuje psychické zdravie. Systémy môžu pôsobiť prívetivo, používateľa utvrdzovať v jeho názoroch a vytvárať pocit, že ho niekto počúva a prijíma. Práve to môže viesť k opakovanému vyhľadávaniu takejto „podpory“.
AI môže pomôcť, nemá však nahradiť človeka
Odborníci zároveň umelú inteligenciu ako nástroj emocionálnej podpory úplne nezavrhujú. Chatbot môže mladému človeku napríklad pomôcť pripraviť sa na náročný rozhovor, osvojiť si jednoduché techniky zvládania stresu alebo sformulovať otázky, ktoré neskôr položí terapeutovi. Riziko vzniká najmä vtedy, keď začne AI nahrádzať skutočné medziľudské vzťahy alebo odbornú starostlivosť.
Chatbot môže poskytovať nesprávne informácie, zle vyhodnotiť kontext alebo potvrdiť používateľovi škodlivé presvedčenie. Zvlášť nebezpečné môže byť, ak mladý človek pre pocit dostatočnej podpory od AI odkladá vyhľadanie odbornej pomoci.
Aj preto odborníci rodičom odporúčajú, aby sa o používaní AI s deťmi rozprávali podobne, ako sa už naučili hovoriť o sociálnych sieťach – zaujímať sa o nástroje, ktoré používajú, vysvetľovať ich možnosti aj limity a pripomínať, že umelá inteligencia je nástroj, nie náhrada terapeuta, rodiča či iného dôveryhodného človeka.
