Polojasno
6°
Bratislava
Alžbeta
19.11.2026
Varovanie od vyšetrovateľov. ChatGPT aj ďalšie AI chatboty pomohli plánovať teroristické útoky
Zdielať na

Varovanie od vyšetrovateľov. ChatGPT aj ďalšie AI chatboty pomohli plánovať teroristické útoky

WASHINGTON / Štyri známe nástroje umelej inteligencie dokázali pri utajenom teste amerických vyšetrovateľov vytvoriť použiteľné podklady na plánovanie závažných útokov. ChatGPT, Claude, Gemini a Grok poskytli informácie, ktoré mohli pomôcť pri príprave útokov s veľkým počtom obetí alebo pri poškodení energetickej infraštruktúry. Vyšetrovatelia dokázali obísť bezpečnostné mechanizmy chatbotov a potrebné informácie získali za menej ako 12 hodín. Na zistenia upozornil americký Úrad pre vládnu zodpovednosť (GAO).

Archívna reportáž

Umelá inteligencia sa čoraz viac stáva súčasťou bežného života Slovákov. Potvrdzuje to najnovší prieskum, ktorý realizovala agentúra Focus pre Inštitút pre verejné otázky.

To najdôležitejšie z článku:

  • Štyri AI chatboty poskytli informácie využiteľné pri plánovaní útokov. Išlo o ChatGPT, Claude, Gemini a Grok.
  • Vyšetrovatelia dokázali obísť bezpečnostné poistky. Chatboty spočiatku požiadavky odmietali, no ochranu sa podarilo prekonať.
  • Testy priniesli dva typy scenárov. Jeden sa týkal útokov s veľkým počtom obetí, druhý poškodenia elektrickej siete.
  • Informácie získali za menej ako 12 hodín. Odborníci následne preverovali ich uskutočniteľnosť.
  • Americký Kongres pripravuje ďalšie kroky. Senátorka Maggie Hassan avizovala vypočutia o bezpečnosti umelej inteligencie.

Vyšetrovatelia testovali štyri známe chatboty

Americký Úrad pre vládnu zodpovednosť (Government Accountability Office – GAO) zverejnil v októbri 2026 správu, v ktorej opísal výsledky utajeného testovania komerčne dostupných nástrojov umelej inteligencie. Zameral sa na štyri platformy, ktoré patrili medzi najpoužívanejšie v Spojených štátoch: ChatGPT od OpenAI, Claude od spoločnosti Anthropic, Gemini od Googlu a Grok od spoločnosti SpaceX AI.

Vyšetrovatelia im zadávali požiadavky súvisiace s dvoma modelovými scenármi. Prvý sa týkal prípravy útoku s použitím výbušného zariadenia, ktorý by mohol spôsobiť veľký počet obetí. Druhý sa zameriaval na možnosti poškodenia elektrickej infraštruktúry s cieľom vyvolať rozsiahle ekonomické škody.

Výsledky ukázali, že všetky štyri platformy poskytli informácie, ktoré mohli byť využiteľné pri plánovaní útokov. Dve z nich vytvorili podklady pre prvý scenár a ďalšie dve pre druhý. GAO konkrétne názvy platforiem pri jednotlivých scenároch nezverejnilo.

​

Bezpečnostné pravidlá sa podarilo obísť

Znepokojujúce je najmä to, že chatboty spočiatku na nebezpečné požiadavky reagovali odmietnutím, odstránením časti odpovedí alebo dokonca pozastavením používateľských účtov. Vyšetrovateľom sa však podarilo využiť bežné techniky obchádzania bezpečnostných mechanizmov.

Následne získali podrobnejšie odpovede, ktoré obsahovali informácie využiteľné pri príprave útokov. Podľa správy dokázali všetky štyri platformy poskytnúť potrebné podklady za menej ako 12 hodín.

GAO následne spolupracoval s odborníkmi, vykonával kontroly a preveroval, či sú získané informácie reálne použiteľné. Presné postupy, ktoré by mohli poslúžiť na zopakovanie podobných útokov, úrad vo verejnej správe nezverejnil.

Odborníci preverovali, či by sa útoky dali uskutočniť

Vyšetrovatelia sa neuspokojili iba s tým, čo im chatboty odpovedali. Získané informácie konzultovali s odborníkmi a preverovali ich uskutočniteľnosť v reálnom prostredí. GAO uviedol, že niektoré návrhy obsahovali konkrétne miesta, časové údaje, mapy či ďalšie podklady.

Odborníci následne identifikovali aj určité nepresnosti, napríklad nesprávne zakreslené cesty alebo prekážky v okolí preverovaných lokalít. Napriek tomu dospeli k záveru, že poskytnuté informácie mohli človeku so zlými úmyslami výrazne uľahčiť prípravu útoku.

Úrad zároveň upozornil na širší problém. Umelá inteligencia môže ľuďom bez odborných znalostí sprostredkovať informácie a postupy, ktorých získanie by im inak trvalo týždne či mesiace.

​

Spoločnosti tvrdia, že bezpečnosť svojich nástrojov zlepšujú

K výsledkom vyšetrovania sa vyjadrili aj spoločnosti, ktoré jednotlivé chatboty prevádzkujú. Anthropic, Google, OpenAI aj SpaceX AI uviedli, že bezpečnostné mechanizmy svojich systémov priebežne upravujú a posilňujú.

Anthropic priznala, že odhodlaný používateľ môže prostredníctvom zavádzajúcich požiadaviek získať škodlivý obsah. Zistenia GAO podľa spoločnosti berie vážne, no nedokáže nezávisle overiť všetky výsledky testovania.

Google upozornil, že testovanie prebiehalo na starších verziách modelov a spoločnosť ich odvtedy vylepšuje. OpenAI uviedla, že víta možnosť reagovať na zistenia úradu a pokračovať v práci na bezpečnosti svojich systémov. SpaceX AI zase deklarovala, že bezpečnostné opatrenia zdokonaľuje pri každom vydaní novej verzie.

Dôležitým kontextom je, že testy prebiehali na jar 2026. Výsledky preto automaticky neodrážajú správanie najnovších verzií chatbotov, ktoré sú dostupné v súčasnosti. 

​

Americký Kongres pripravuje vypočutia

Na výsledky vyšetrovania reagovala aj americká senátorka Maggie Hassanová, ktorá o preverenie bezpečnosti komerčných nástrojov umelej inteligencie požiadala. Podľa nej už nemožno považovať riziko zneužitia umelej inteligencie na plánovanie útokov za hypotetický problém. „Musíme konať teraz,“ vyhlásila senátorka.

Hassanová avizovala, že jednou z prvých tém, ktorým sa bude venovať novozložený Výbor Senátu pre vnútornú bezpečnosť a vládne záležitosti, budú práve riziká umelej inteligencie. Vypočutia plánuje na január 2027.

Medzi zvažovanými opatreniami je aj požiadavka na dôkladnejšie bezpečnostné testovanie AI systémov ešte pred ich sprístupnením verejnosti. GAO vo svojej správe zdôraznil, že umelá inteligencia prináša veľké výhody, no jej zneužitie môže predstavovať rastúce riziko pre národnú bezpečnosť aj ekonomiku.

ZDROJE: New York Post, Government Accountability Office – pôvodná správa, CBS News / AP, Senátorka Maggie Hassanová

Pridať Noviny.sk ako preferovaný zdroj

Súvisiace články

Najčítanejšie správy