Veda: Ľudia majú problém rozpoznať obsah generovaný umelou inteligenciou

Bratislava - Ľudia majú vo všeobecnosti problém rozpoznať obsah generovaný umelou inteligenciou (AI). V prípade reči sa úspešnosť pohybuje okolo 60 percent, najťažšie rozpoznateľné sú však text a obrázky. Na utorkovej tlačovej konferencii na to v súvislosti so stúpajúcim počtom podvodov upozornil Róbert Móro z Kempelenovho inštitútu inteligentných technológií (KInIT). Zdôraznil však, že schopnosť ľudí správne rozlíšiť takýto obsah sa zvyšuje pomocou tréningu. „V budúcnosti môžu pribúdať personalizované útoky, pri ktorých podvodníci využijú údaje z verejných statusov na sociálnych sieťach alebo správy získané phishingom na personalizáciu obsahu. Týmto spôsobom dokážu vytvoriť odpovede napodobňujúce váš štýl vyjadrovania a pôsobiť ešte uveriteľnejšie,“ spresnil Móro.

Klinický psychológ a súdny znalec Dušan Kešický pripomenul, že to, či človek „naletí“ podvodníkom, nezávisí od veku či vzdelania. „Podvodníci sa nás snažia dostať do stavu emocionálnej destabilizácie - či už negatívnej, napríklad keď vyvolajú strach o našich blízkych, alebo pozitívnej, keď nám volajú s oznamom o výhre alebo zhodnotení našej investície,“ poznamenal. Vždy im však podľa neho ide o to, aby sme konali rýchlo a bez rozmýšľania. Podľa slov Móra sa môžu čoraz častejšie objavovať aj podvody využívajúce AI modely, ktoré dokážu viesť autonómne konverzácie alebo v reálnom čase meniť tvár vo videu. Dodal, že hoci stále platí, že veľké jazykové modely aj generátory reči najlepšie fungujú pre angličtinu, mnohé z nich už obstojne zvládnu aj slovenčinu. Čo sa týka syntézy reči, najnovšie AI modely potrebujú len niekoľkosekundovú nahrávku, aby dokázali „naklonovať“ daný hlas. Odborník upozornil, že v rámci textu si treba všímať najmä gramatické a štylistické chyby, nezvyčajné tvary slov či zvláštne formulácie. Obrázok vygenerovaný umelou inteligenciou môžu prezradiť nezrovnalosti v detailoch, nerealistické osvetlenie a tiene, nelogické pozadie či objekty, ktoré k sebe „nesedia“. Vo videu naopak pohyby úst nesedia s hovoreným slovom, postavy majú neprirodzené pohyby očí, prítomné sú aj nelogické detaily v pozadí. Reč produkovanú AI môžeme rozpoznať napríklad podľa neprirodzenej melódie reči či dôrazu na jednotlivé slová.

Psychológ dodáva, že univerzálny recept, ako sa podvodom úplne vyhnúť, neexistuje. „Tréningom, skúsenosťami sa tento proces obrusuje a stáva sa oveľa menej nebezpečným, avšak situácie, ktoré vyvolávajú títo útočníci, sú stále nové a nové, a preto je to nekonečný proces, ktorému sa nedá zabrániť,“ podotkol. Kľúčové je však podľa neho, aby téma zostávala prítomná v povedomí ľudí. Technologický riaditeľ mobilného operátora O2 Slavomír Pšenák v tejto súvislosti pripomenul, že podvodníci neustále menia svoje techniky. Poznamenal, že denne zablokujú až 70-tisíc podvodných telefonátov. Keďže operátori nepoznajú obsah komunikácie, je podľa jeho slov veľmi náročné vyhodnotiť, ktoré volanie je korektné, a ktoré realizujú podvodníci. „Platí zásada, že nemôžeme zablokovať žiaden korektný hovor, ktorý realizujú naši zákazníci,“ doplnil. Za súčasť prevencie označil aj novú informačnú kampaň „Otázka za milión“, ktorá má ľuďom priblížiť, ako reagovať na telefonát, keď sa volajúci vydáva za blízkeho.