Pápež varuje pred umelou inteligenciou vo vojenstve: „Žiadny stroj by nemal rozhodovať o tom, či niekoho pripraviť o život“

Človek sa môže stať iba údajom v databáze

Pápež sa k téme vyjadril v piatok počas konferencie venovanej umelej inteligencii vo Vatikáne, na ktorej sa stretli medzinárodní odborníci.

„Niektoré rozhodnutia sa nikdy nesmú delegovať,“ zdôraznil Lev XIV. Varoval, že pri využívaní umelej inteligencie na vojenské účely či kontrolu hraníc hrozí, že človek bude vnímaný iba ako údaj v systéme.

„Keď sa človek ocitne na zozname cieľov alebo v databáze určenej na kontrolu hraníc, hrozí, že sa z neho stane len údaj. Rozhodnutia, ktoré ovplyvňujú ľudský život, slobodu a použitie sily, musia vždy podliehať účinnému dohľadu ľudí, ktorí sú o veci informovaní a nesú za svoje rozhodnutia zodpovednosť,“ uviedol pápež.

TASR

Vyzval na zákaz autonómnych smrtiacich zbraní

Hlava katolíckej cirkvi upozornila aj na nebezpečenstvo autonómnych zbraňových systémov. Tie dokážu samostatne vyhľadávať, vyberať a napádať ciele bez priameho zásahu človeka.

„AI preto musí byť odzbrojená. Vyzývam štáty, ktoré sa v novembri stretnú v Ženeve, aby podnikli konkrétne kroky smerujúce k zákazu autonómnych smrtiacich zbraní,“ vyhlásil.

V Ženeve sa od 16. do 20. novembra uskutoční hodnotiaca konferencia Dohovoru OSN o zákaze alebo obmedzení používania určitých konvenčných zbraní. Štáty budú rokovať aj o možnosti vytvorenia medzinárodne záväzných pravidiel, ktoré by autonómne zbraňové systémy regulovali alebo zakázali.

Prečítajte si tiež

Štáb TV JOJ vo Vatikáne. Pápež sa po operácii vracia pred veriacich

Predstavil päť zásad pre umelú inteligenciu

Lev XIV. zároveň predstavil päť základných princípov, ktorými by sa mal riadiť vývoj a využívanie umelej inteligencie. Jej budúcnosť podľa neho nie je vopred určená, stroje treba vnímať ako nástroje, nie ako osoby, a niektoré rozhodnutia im nikdy nemožno prenechať.

Inteligentné technológie majú podľa pápeža slúžiť spoločnému dobru. Na dodržiavanie etických zásad pri ich vývoji a používaní sú zároveň potrebné funkčné inštitúcie.

Pripomenul tiež odkaz svojho predchodcu Františka z roku 2024, podľa ktorého by žiadny stroj nikdy nemal rozhodovať o tom, či niekoho pripraviť o život.