AI už nie je len pomocník. Utočníci ju zneužívajú na kyberútoky, propagandu aj výskum biologických zbraní

Spoločnosť Anthropic 11. septembra 2026 zverejnila rozsiahlu správu o zneužívaní umelej inteligencie. Anthropic analyzoval prípady, ktoré jeho bezpečnostný tím zaznamenal od decembra 2025 do augusta 2026. Ide o 154-stranovú správu pokrývajúcu sedem oblastí vrátane kybernetických a vplyvových operácií, sledovania, podvodov, biologického zneužitia či vývoja zbraní.

Viac si môžete pozrieť tu:

We're publishing our most detailed threat intelligence report to date. It covers how people tried to misuse Claude—for cyberattacks, influence operations, surveillance, biology, and building weapons—and how we found and stopped them. We disrupted every operation in the report, and used the lessons from them to strengthen our safeguards. Where appropriate, we also shared what we found with authorities and other AI companies. These cases are not typical: we’re highlighting some of the most sophisticated misuse we’ve seen. But they’re especially important to discuss, because they show us where AI misuse is headed, where our safeguards work, and where they need to improve. We’re publishing this report so others can spot the same activity on their own platforms, and so we can give the public a clearer view of how emerging threats develop. Read the report: https://t.co/0EJUnYEgfz

— Anthropic (@AnthropicAI) September 10, 2026

Jedným z najvýraznejších zistení je podľa spoločnosti posun v spôsobe, akým útočníci využívajú AI. Claude už nemusel slúžiť iba ako nástroj na napísanie kódu alebo získanie rady. V niektorých prípadoch dokázal koordinovať väčšiu časť celej operácie. AI pomáhala s prieskumom cieľov, vývojom nástrojov, spracovaním ukradnutých údajov aj ďalšími krokmi útoku. Ľudia pritom často určovali hlavný cieľ a následne kontrolovali výsledky.

Anthropic upozorňuje, že takýto spôsob využitia AI môže znižovať nároky na počet ľudí aj úroveň ich odborných znalostí.

Prečítajte si tiež

Firmu Anthropic opúšťa výskumník. Obáva sa nekontrolovateľnej AI

Po odhalení dokázala meniť použité nástroje

Správa opisuje aj prípad označený ako označený GTG-20006, ktorú Anthropic pripisuje ruskej špionážnej skupine. Útočníci využívali AI pri tvorbe nástrojov určených na prenikanie do systémov.

Pozoruhodná bola najmä schopnosť reagovať na bezpečnostné opatrenia. Ak obranný systém škodlivý nástroj odhalil, AI pomáhala vytvoriť jeho upravenú verziu a pripraviť ju na ďalšie použitie. Podľa Anthropicu to ukazuje, že AI môže urýchliť celý proces, ktorý by predtým vyžadoval zásah skúseného človeka pri každom novom pokuse.

Falošné médiá vytvorili tisíce článkov

AI sa podľa správy nevyužíva iba na klasické hackerské operácie. Anthropic zachytil aj deväť vplyvových kampaní spojených s aktérmi z viacerých častí sveta (napríklad z Ruska, Íránu, Turecka, Južnej Ázie, Afriky či Európy). Za týmito operáciami mohli stáť vlády, štátne médiá, propagandistické inštitúcie, ale aj súkromné firmy či politickí aktéri. V niektorých prípadoch Claude pomáhal vytvárať celé systémy určené na šírenie propagandy. Nešlo teda iba o generovanie jednotlivých textov. AI sa podieľala na plánovaní kampaní, tvorbe obsahu, práci s falošnými profilmi či automatizovanom publikovaní.

Anthropic napríklad odhalil sieť približne 70 webov, ktoré sa tvárili ako nezávislé médiá. Pomocou AI dokázali prepisovať články do politicky ladených textov a následne ich automaticky zverejňovať. Obsah vznikal v približne 20 jazykoch a sieť podľa spoločnosti publikovala najmenej 8 913 článkov. Anthropic ju však odhalil ešte predtým, ako si stihla vybudovať výraznejšie publikum. Informoval o tom portál Novinky.cz.

Prečítajte si tiež

Môže nás umelá inteligencia vyhubiť? Experti varujú pred hrôzostrašným scenárom

Pokusy súviseli aj s biologickými zbraňami

Agentúra TASR upozornila na jedno z najcitlivejších odhalení, ktoré sa týka biologického výskumu. Anthropic za posledných päť mesiacov zablokoval niekoľko pokusov o využitie Claude pri aktivitách, ktoré mohli súvisieť s vývojom biologických zbraní. Spoločnosť zároveň upozorňuje, že pri niektorých vedeckých projektoch nie je jednoduché rozlíšiť legitímny medicínsky výskum od zámerov, ktoré môžu mať vojenské využitie.

V jednom prípade sa používatelia pokúsili pomocou Claude pripraviť návrh grantu na výskum vírusov. Projekt sa týkal postupov, pri ktorých sa menia vlastnosti patogénu. Takéto metódy sa používajú aj pri legitímnom výskume, napríklad pri hľadaní spôsobov ochrany pred infekciami, no zároveň môžu mať vojenské využitie. V inom prípade sa používatelia snažili vytvoriť plán výskumu variantu vtáčej chrípky schopného infikovať cicavce.

Anthropic uvádza, že jeho modely sú navrhnuté tak, aby pri požiadavkách smerujúcich k vývoju biologických zbraní pomoc odmietli. Zároveň však priznáva, že pri výskume s možným dvojitým využitím môže byť hranica medzi legitímnym a škodlivým zámerom nejasná.

Spoločnosť blokuje účty a sleduje zneužívanie

Anthropic tvrdí, že v prípadoch, ktoré vo svojej správe opisuje, zablokoval účty spojené so škodlivými aktivitami a svoje bezpečnostné mechanizmy ďalej upravuje.