Umelá inteligencia môže byť hrozbou pre ľudstvo

CAMBRIDGE / Najväčšie svetové autority na umelú inteligenciu varujú, že technológie môžu byť zneužité zločincami, teroristami ale aj nepriateľskými štátmi. Programátori navrhujúci systémy umelej inteligencie musia viac dbať na bezpečnosť a obmedziť možné zneužitie, vlády musia myslieť na nové zákonné úpravy.

Technológie, ktoré ešte pred niekoľkými rokmi existovali len vo vedecko-fantastických románoch a filmoch sú dnes už tu a rovnako reálna je aj hrozba ich zneužitia. Dvadsaťšesť špičkových odborníkov varuje pred rôznymi podobami zneužitia: drony premenené na strely, falošné videá manipulujúce verejnú mienku či automatizované hackovanie, to sú len niektoré z nebezpečenstiev, ktoré hrozia, ak sa vyspelá umelá inteligencia dostane do nesprávnych rúk. 

Programátori, technologickí výskumníci a zákonodarcovia musia užšie spolupracovať, aby pochopili a pripravili sa na zneužívanie umelej inteligencie Tá síce prináša mnohé veľmi pozitívne možnosti využitia, zároveň ale môže byť aj zneužitá. Potrebné sú aj nové, aktualizované zákony. Shahar Avin, vedec z Centra pre výskum existenčných rizík univerzity v Cambridge pre portál BBC povedal, že "stostranová správa sa sústredí na tie oblasti umelej inteligencie, ktoré sú dostupné už dnes, alebo ktoré sa vyvíjajú a budú dostupné v priebehu piatich rokov a nie vo vzdialenej budúcnosti."  

Technológie by mohli napríklad umožniť naprogramovanie dronov tak, aby pomocou softvéru na spoznávanie tváre sledoval konkrétneho človeka, boty by mohli vytvárať "fake" videá a správy s cieľom politickej manipulácie a hackeri by sa mohli napodobením hlasu nejakej osoby vydávať za ňu. Dr Seán Ó hÉigeartaigh, výkonný riaditeľ Centra pre výskum existenčných rizík a spoluautor štúdie hovorí: "Dlhé roky boli naše predstavy o schopnosti učenia strojov a umelej inteligencie prehnané. Už to ale neplatí. Potrebujeme zmeniť prístup a navrhovať softvér a hardvér tak, aby lepšie odolával hackerom. A musíme vyvíjať aj zákony, ktoré s tým pôjdu ruka v ruke." 

V máji začne v Európskej únii platiť nová všeobecná zákonná úprava ochrany osobných údajov (General Data Protection Regulation - GDPR). V Izraeli vyvíjajú novú technológiu, ktorá ma zabrániť zneužitiu ľudskej tváre na identifikáciu a následné ovládnutie osobných údajov. Špeciálny softvér vykoná drobné, temer nebadateľné zmeny na digitálnom zázname tváre, ktoré ale znemožnia spárovanie záznamu s archívnymi zábermi tváre danej osoby:

​