Marián Otčenáš: Skôr, ako príde superinteligencia, príde vírus

Žijeme vo svete, ktorý má bohatú históriu stretov druhov, teda aj druhov zvierat, ktoré vyhynuli po zavlečení nového živočíšneho druhu z kontinentu na kontinent alebo na ostrov. Príkladom je vták mucharík guamský na ostrove Guam. Po zavlečení užovky hnedej (Boiga irregularis) vyhynul celý druh.

Dejiny poznajú náhle strety ľudských populácií, ktoré sa dovtedy vyvíjali oddelene. Po príchode Európanov do Ameriky v roku 1492 klesol podľa jedného súhrnného odhadu počet pôvodných obyvateľov v priebehu približne storočia zo 60 miliónov na 6 miliónov. Väčšinu z nich nezabilo násilie, ale choroby, ktoré zavliekli Európania, ako kiahne, osýpky a chrípka.

Tieto strety, pri ktorých viedla odlišnosť druhej populácie k jej prenasledovaniu, podrobeniu alebo vyhladeniu, si vyžiadali milióny životov. Príčinami boli napríklad:
Iná farba pleti alebo pôvod: rasové prenasledovanie, kolonizácia a otroctvo pripravili o život milióny ľudí.
Iná kultúra alebo etnická príslušnosť: snaha odstrániť odlišný jazyk, spôsob života a skupinovú identitu viedla k vyhladzovaniu miliónov ľudí.
Iná viera: náboženské vojny, prenasledovanie a vyhladzovanie príslušníkov iného vierovyznania si vyžiadali milióny obetí.
Príslušnosť k inému biologickému druhu: ľudská expanzia, lov a ničenie životného prostredia vyhubili alebo takmer vyhubili celé živočíšne druhy. Zaniklo pritom 90 až 100 percent ich populácie, v niektorých prípadoch išlo o milióny až bilióny jedincov.

Konkrétne prípady:
Holub sťahovavý: populácia sa odhadovala na 3 až 5 miliárd jedincov. Intenzívny komerčný lov a ničenie lesov ju za menej než sto rokov znížili na nulu; posledný jedinec uhynul v roku 1914.

Kobylka skalnatohorská: jediný roj z roku 1875 obsahoval odhadom 3,5 až 12,5 bilióna jedincov. Druh napriek tomu začiatkom 20. storočia vyhynul, najmä po premene jeho rozmnožovacích oblastí na poľnohospodársku pôdu.

Doteraz najväčšie straty na ľudských životoch však spôsobili baktérie, vírusy a parazity. Človek samotný je ako zabijak ľudí až na druhom mieste.
Za celé dejiny moderného človeka sa narodilo približne 117 miliárd ľudí. Z nich asi 109 miliárd už zomrelo. Súčasná žijúca populácia teda predstavuje približne 7 % všetkých ľudí, ktorí sa kedy narodili.

Veľké straty spôsobené stretom človeka s inými organizmami a ľudskými populáciami možno odhadnúť takto:
Baktérie, vírusy a parazity pripravili o život približne 20 až 50 miliárd ľudí.
Hlad a podvýživa, ktoré sú často priamym alebo nepriamym dôsledkom ľudskej činnosti, spôsobili alebo výrazne urýchlili smrť približne 5 až 15 miliárd ľudí.
Ľudské násilie (vojny, genocídy, otroctvo a politické represie) si vyžiadalo približne 500 miliónov až 1 miliardu obetí.
Priame útoky zvierat, najmä hadie uštipnutia, pripravili o život približne 100 až 500 miliónov ľudí.
Najväčším biologickým nepriateľom človeka preto neboli veľké šelmy ani iné ľudské populácie, ale mikroorganizmy. Baktérie, vírusy a parazity zabili v priebehu ľudských dejín mnohonásobne viac ľudí než vojny a ostatné formy organizovaného násilia.
Najväčším zabijakom človeka sú teda iné, oveľa jednoduchšie druhy, a to mikroorganizmy. Až potom nasleduje človek samotný.
Vírusy sa pritom podľa bežnej biologickej klasifikácie nepovažujú za živé organizmy, hoci ležia na hranici medzi živým a neživým.

Nie sú živé v pravom zmysle slova, pretože:
nemajú bunkovú stavbu,
nemajú vlastný metabolizmus,
nevytvárajú si vlastnú energiu,
nedokážu sa samostatne rozmnožovať.

So živými organizmami však majú spoločné to, že obsahujú genetickú informáciu, mutujú, podliehajú evolúcii a v hostiteľskej bunke vytvárajú svoje kópie. Preto sa označujú ako nebunkové biologické entity alebo vnútrobunkové parazity, nie ako živé organizmy. Teda jeden z najsmrteľnejších protivníkov ľudí sa ani len nepovažuje za živý organizmus. To je dôležitý bod tejto úvahy.

Keď sa pri pohľade na nové AI modely utešujete tým, že sú stále málo schopné, len generujú text a stále sú neživé, tak z pohľadu ohrozenia ľudského druhu je to veľmi slabý argument. Postačuje AI so schopnosťami na úrovni vírusu, ako ho poznáme z biológie. Predpokladám, že väčšina bude v tomto bode namietať, že AI nemôže mať biologickú podobu, a preto táto úvaha nedáva zmysel. Odpoveď je: zatiaľ nie.

Aj keď sa už objavujú projekty, v ktorých sa baktérie a vírusy vyvíjajú a geneticky modifikujú pomocou AI. Na túto vetvu apokalypsy však nenarážam, aj keď je úplne reálna, viď naše nedávne skúsenosti s covidom a celá história ľudstva. Smerujem k inému organizmu, v ktorom vie vírus, baktéria alebo parazit fungovať.

Internet.
Stručná história počítačových vírusov, od diskiet po kybernetické zbrane, vyzerá takto:

1971 – Creeper: prvé šírenie po sieti. Experimentálny program sa presúval medzi počítačmi siete ARPANET a zobrazoval krátku správu. Dáta neničil.
1982 – Elk Cloner: vírus medzi bežnými používateľmi. Šíril sa prostredníctvom diskiet medzi počítačmi Apple II. Namiesto ničenia dát zobrazoval žartovnú básničku.
1986 – Brain: vírus pre IBM PC. Infikoval zavádzací sektor diskiet. Ukázal, že vírusy môžu zasiahnuť rýchlo rastúci svet osobných počítačov.
1988 – Morris: automatické šírenie internetom. Červ sa kopíroval bez zásahu používateľa, preťažoval počítače a vyradil časť vtedajšieho internetu.
1991 – Michelangelo: ničenie dát v určený deň. Šíril sa disketami a 6. marca prepisoval dôležité časti pevného disku, čím zneprístupnil uložené súbory.
1999 – Melissa: masové šírenie e-mailom. Infikovaný dokument sa automaticky odosielal kontaktom používateľa a zahlcoval poštové servery.
2010 – Stuxnet: útok s fyzickými následkami. Malvér sabotoval priemyselné riadiace systémy a poškodzoval reálne zariadenia, nielen údaje.
2013 – CryptoLocker: kybernetické vydieranie. Zašifroval súbory obete a za ich obnovenie požadoval výkupné.
2017 – WannaCry: ransomvér spojený s červom. Sám sa šíril medzi zraniteľnými počítačmi a zároveň šifroval ich dáta.
2020 – SolarWinds: útok cez dôveryhodný softvér. Útočníci vložili škodlivý kód do legitímnej aktualizácie, ktorá im otvorila prístup do sietí mnohých organizácií.

Každý z uvedených vírusov mal dôležitý komponent: človeka, ktorý ho vytvoril a dal mu presný účel a presne definované správanie. Niekedy mu dal aj vlastnosť inšpirovanú reálnym (biologickým) svetom, teda schopnosť prepisovať vlastný kód, aby vírus nebol ľahko odhaliteľný antivírusom:

1990 – 1260/Chameleon: vírus začal meniť svoju podobu. Prvý známy polymorfný vírus pri každom kopírovaní pozmenil alebo zašifroval svoj kód. Antivírus ho preto nemohol ľahko odhaliť podľa stále rovnakého „podpisu“.
1998 – Win95/Regswap: vírus začal prepisovať vlastný kód. Metamorfný vírus pri každej kópii vymenil použité registre procesora, pričom jeho škodlivá funkcia zostala rovnaká. Každá kópia tak mala inú binárnu podobu.

Aj napriek podobným rozšíreniam to doteraz neboli vírusy s vlastnosťami, aké mali tie, ktoré vyhubili veľké časti ľudskej populácie. Chýba im na to dôležitá časť – genetický algoritmus: schopnosť mutovať (variabilita), dedičnosť a prirodzený výber – lepšia verzia prežije a tá sa rozmnožuje ďalej na úkor tej slabšej.

S nástupom doby AI, v ktorej už teraz žijeme, prichádza do tohto internetového organizmu nová kvalita. V doterajšej histórii bolo každé vniknutie do systému vždy dielom človeka alebo tímu ľudí, s pomocou softvéru – nástrojov, ktoré vytvorili. Softvér, ktorý sám zvládne univerzálne prieniky, je ťažko vytvoriteľný v dostatočnej kvalite.

Biologický vírus potrebuje schopnosť vniknúť a šíriť infekciu bez povšimnutia tak, aby si napadnutý organizmus a jeho imunita nič včas nevšimli alebo nemali recept na boj. Softvér, ktorý by mal podobnú vlastnosť, sa ako univerzálny vytvára veľmi ťažko – inteligentný hacker sa tu softvérom nahrádza veľmi ťažko. A práve tu vznikol kvalitatívny skok.

Príklad, ktorý sa už teraz zapísal do učebníc, je Hugging Face. Ak neviete, o čo ide, v skratke: OpenAI testovala nové AI modely na kybernetickom teste ExploitGym a Hugging Face je spoločnosť, u ktorej boli uložené správne riešenia tohto testu. Model mal za úlohu vyriešiť test tak, aby dosiahol čo najlepšie skóre.

Namiesto riešenia si však vybral pre neho ľahšie dosiahnuteľnú možnosť: vlámať sa do firmy, ktorá mala správne odpovede, a skóre si tak vylepšiť. Niečo ako keď sa žiak v škole snaží ukradnúť učiteľovi správne odpovede k písomke. Desivé sú na tom dve veci: prvá je tá, že sa mu to podarilo, a druhá tá, že to nezrealizoval jeden agent, ale stovky agentov, ktoré si úlohu rozdelili a útok koordinovali. Časť agentov sa venovala zahladzovaniu stôp a hľadaniu spôsobu, ako postupovať bez povšimnutia.

Čo vám to pripomína? Biovírus, ktorý sa snaží schovať pred imunitným systémom a úspešne preniknúť do organizmu.
Tu sa môžeme na chvíľu utešovať, že na beh podobných modelov a agentov je potrebný výkonný HW. Je to však len dočasné obmedzenie. Ak predpokladáte, že smerujem k výkonným GPU alebo iným výkonným AI strojom ktoré sa postupne rozširujú na internete či u nás doma, tak sa mýlite. Kvalitatívny skok príde oveľa skôr.

Ďalší príklad: Carna botnet – Internet Census 2012

Anonymný výskumník vytvoril kód, ktorý cez Telnet – najjednoduchší nešifrovaný spôsob prihlásenia cez textovú konzolu – skúšal iba štyri jednoduché kombinácie mena a hesla: root:root, admin:admin a prihlásenie ako root a admin bez hesla.

Po úspešnom prihlásení sa kód nahral do routera alebo set-top boxu a zariadenie pokračovalo v skenovaní ďalších IP adries – celého verejného internetu.
Koľko zariadení na internete by ste tipovali, že dokážete ovládnuť pomocou takej jednoduchej kombinácie hesiel? Bolo ich takmer pol milióna – 420 tisíc. Aký by bol Váš tip na čas, ktorý potreboval na rozšírenie po celom internete? Za jeden deň sa rozšíril na približne 100 tisíc zariadení.

Autor vypočítal, že ak by sa počet skenerov stále zdvojnásoboval (geometrickým radom), na nájdenie všetkých nechránených zariadení na internete by stačilo asi 16,5 hodiny.

Ak sa nad týmito číslami na chvíľu zamyslíte: koľko zariadení by sa Vám podarilo infikovať, keby ste použili slovník najbežnejších hesiel, ktoré ľudia používajú?
Viete, koľko ich je? Aký veľký je zoznam najpoužívanejších hesiel ľudstva?
1 000 – 10 000 hesiel: úplne najčastejšie heslá a predvolené kombinácie.
100 000 – 1 milión: praktický slovník bežných ľudských hesiel.
10 – 100 miliónov: veľký slovník zostavený z uniknutých databáz.
Miliardy záznamov: zlúčené úniky zo sociálnych sietí a iných veľkých systémov, reálne heslá. Koľko zariadení by sa Vám podarilo ovládnuť, keby ste takémuto jednoduchému vírusu pridali slovník podobnej veľkosti? Pokojne môžeme odhadovať milióny, desiatky miliónov a viac.

To, čo som opísal, je len malý, veľmi jednoduchý program. Nemá schopnosti človeka "hackera" prenikať do systémov. Len sa pokúsi prihlásiť heslom, skopíruje sa a znova sa pokúsi o tú istú úlohu. Postupne sa šíri ďalej. A keďže mal autora s dobrým úmyslom, škody nepáchal.

Skombinujte počítačový vírus, tak ako ho poznáme, s veľmi jednoduchým, nenáročným AI modelom. Modelom bez inteligencie, možno na úrovni malého zlomku prvého ChatGPT. Jediným jeho tréningom bude prelamovanie systémov – nič zložité, niečo na úrovni žiaka strednej školy, ktorý práve objavil svet hackovania. Vie si vyhľadať a pozrieť návod a postupovať podľa neho. Nájsť si otvorenú cestu a vyskúšať ju.

Model, ktorý bude schopný bežať na obyčajnom PC, telefóne alebo vo vašom novšom aute. Už dnes, nie zajtra. Malé modely, napríklad Phi-3-mini od Microsoftu, sa výkonom vyrovnali prvému ChatGPT už v roku 2024 a bežia aj na telefóne. Rozdiel medzi spomínaným študentom strednej školy a podobným AI modelom? Neporovnateľne nižšia inteligencia, ale na druhej strane miliónnásobne vyšší počet a veľká rýchlosť. Jednoduché rozdeľovanie úloh.

To, čo som opísal, stačí na znefunkčnenie celého sveta, tak ako ho poznáme. Nie najlepšie zabezpečených systémov na svete, ale všetkých ostatných.
A môžeme pokračovať ďalej. Aká je najväčšia slabina zabezpečených IT systémov? Človek. Človek a sociálne inžinierstvo. Ak sa chcete vlámať do zabezpečenej inštitúcie, najlepší vektor, najľahšia cesta, je človek.

Čo vedia súčasné AI modely robiť dobre? Napísať text, ktorému človek rozumie. Použiť človeka na konkrétnu úlohu. Stačí mu poslať správu. Spomeňte si, koľkí z vás otvorili alebo preposlali škodlivú správu cez e-mail alebo sociálne siete a „vybuchol“ vám napríklad WhatsApp. Mnohí z nás to urobia znova.
Nie je otázkou, či sa niečo podobné stane, ale kedy.

Náš svet a technológie, na ktorých sme každý deň existenčne závislí, nie sú na nič podobné pripravené. Ich zabezpečenie je veľmi slabé a obsahuje veľmi veľa chýb. Doteraz prežili, otužené len útokmi malej skupiny hackerov po celom svete (malej v porovnaní s miliardami možných AI agentov), ktorí ich zneužívajú pre svoj prospech, väčšinou finančný. Na útok miliárd AI hackerských agentov pripravené nie sú. V tomto internetovom organizme podobný vírus zatiaľ nikdy neexistoval. Z biológie a histórie ľudstva už vieme, ako vyzerá stret s novým vírusom.

V júni 2026 postavili výskumníci z Univerzity v Toronte presne to, čo opisujem. Ich AI červ beží na lokálnom otvorenom modeli s jednou grafickou kartou. V testovacej sieti s 33 počítačmi sa za 7 dní bez zásahu človeka rozšíril na 62 % z nich. Kód nezverejnili.

Ďalšie dôležité prípady:

PromptLock (2025): ransomware s lokálnym modelom. Ukázalo sa, že ide o výskum univerzity NYU. LAMEHUG / PROMPTSTEAL (2025): skutočný malvér ruskej skupiny APT28, ktorý počas útokov na Ukrajinu volal jazykový model. WeWorm (september 2026): samošíriaci sa červ pre WeChat. Chybu v aplikácii za pár dní našla a zneužila AI. Bol to výskum a chybu opravili ešte pred zverejnením.

Čaká nás ďalší veľký kvalitatívny skok, a to oveľa skôr, ako príde AI, ktorá nás nahradí ako najlepší evolučný druh. Zmyslom tejto úvahy nie je nikoho strašiť, ale pripraviť sa na väčšie výpadky vo svete, ktoré pravdepodobne nastanú. A zlepšovať odolnosť existujúcich systémov, aj pomocou AI. Inak to už nejde.

PS: Fakty v tomto texte boli overené vo verejných zdrojoch a opravené pomocou AI modelu Claude od spoločnosti Anthropic. V tvrdeniach a záveroch použitý model nenašiel žiadny rozpor.