Riziko vyhynutia ľudstva v dôsledku umelej inteligencie je vyššie ako 10 percent

Vďaka financiám z reklamy prinášame kvalitné a objektívne informácie. Povoľte si prosím zobrazovanie reklamy na našom webe. Ďakujeme, že podporujete kvalitnú žurnalistiku.

ZAHRANIČIE / Poprední britskí odborníci na vírusy tvrdia, že umelá inteligencia predstavuje reálne riziko pri vývoji biologických zbraní. Hoci možnosť vyhladenia ľudstva považujú za nepravdepodobnú, zdôrazňujú, že hrozba nie je nulová a vyžaduje si maximálnu ostražitosť a reguláciu.

Archívne video

S rýchlym rozvojom umelej inteligencie prichádzajú aj obavy, ktoré siahajú ďaleko za hranice etiky. Jedna z najviac znepokojujúcich otázok sa týka potenciálu AI vytvoriť biologickú zbraň schopnú ohroziť samotnú existenciu ľudstva. Na tieto varovania reagovali poprední britskí odborníci na vírusy, vrátane profesora Neila Fergusona a profesorky Wendy Barclayovej, ktorí sa zhodujú, že hoci priame vyhladenie je nepravdepodobné, riziko nie je nulové a vyžaduje si maximálnu ostražitosť.

Nepravdepodobné, no nevylúčiteľné

Experti diskutovali o britskej obrane proti hrozbám v oblasti biologickej bezpečnosti. Zamerali sa aj na kritické varovania vedúcich predstaviteľov AI priemyslu. Tí minulý týždeň naznačili, že riziko vyhynutia ľudstva v dôsledku rýchlo sa rozvíjajúcej umelej inteligencie je vyššie ako 10 percent.

V tejto súvislosti profesor Neil Ferguson z Imperial College London, ktorého tím zohral kľúčovú úlohu pri formovaní britskej reakcie na pandémiu Covid-19, označil možnosť, že superinteligentné stroje zámerne vytvoria vírus na vyhladenie ľudstva, za „nepravdepodobnú“. Súčasne však dodal, že túto možnosť „nemôže úplne vylúčiť“.

Profesor Ferguson pripomenul históriu: "V priebehu histórie sme zažili strašné pandémie, ktoré vyhubili značnú časť ľudstva. Ale skutočné vyhladenie celého druhu, ako je ten náš, schopného reagovať pomocou technológií, považujem za vysoko nepravdepodobné.“ Okamžite však doplnil: „To neznamená, že si myslím, že hrozba neexistuje vôbec. Dnes by sme tu neboli, keby sme si mysleli, že hrozba zo strany organizmov podporovaných umelou inteligenciou je nulová.“

Dvojsečná zbraň: AI v službách biológie

K jeho slovám sa pripojila aj popredná virologička profesorka Wendy Barclayová. Vysvetlila, ako už teraz vedci využívajú AI na vývoj vírusov, ktoré dokážu zabíjať škodlivé baktérie. Zároveň však varovala, že takáto technológia predstavuje „dvojsečnú zbraň“, ak by sa dostala do rúk nekontrolovanej umelej inteligencie s nepriateľskými úmyslami.

Tieto obavy posilnili aj nedávne odhalenia americkej firmy Anthropic, ktorá vyvíja nástroj umelej inteligencie Claude. Firma oznámila, že úspešne prekazila pokusy o zneužitie jej technológie na vývoj biologických zbraní. Práve vyhlásenie jedného z popredných výskumníkov bezpečnosti v Anthropic, o viac ako 10-percentnej šanci, že by ich model mohol „zabiť všetkých ľudí“ v priebehu nasledujúceho desaťročia, vyvolalo široký konsenzus medzi vedúcimi predstaviteľmi hlavných firiem zaoberajúcich sa AI o existencii takéhoto rizika.

Profesorka Barclayová, ktorá patrí medzi popredných britských expertov na evolúciu vírusov a radí vláde v otázkach biologickej bezpečnosti, zdôraznila: „Nedávne odhalenia spoločnosti Anthropic opisujúce spôsoby, akými sa pokúšali využiť umelú inteligenciu, sú znepokojujúce. Mali by sme si uvedomiť, že už niekoľko desaťročí geneticky modifikujeme vírusy v laboratóriách. Problém spočíva v tom, že rovnaká vedomostná základňa je nevyhnutná aj pre náš boj proti týmto vírusom, pre vývoj nových liekov a vakcín a pre ich detekciu. Máme teda v rukách dvojsečnú zbraň. Niektorí ľudia by tieto nové poznatky mohli využiť na dobro, iní na zlo.“

Príkladom pozitívneho využitia je práca vedcov zo Stanfordovej univerzity, ktorí pomocou AI vyvinuli vírus, ktorý zabíja baktérie E. coli ( Escherichia coli ). Tvrdia, že takáto technológia by potenciálne mohla slúžiť na vytvorenie vírusov na boj proti chorobám, ako je tuberkulóza, ako aj proti liekom odolným nemocničným superbaktériám.

Regulácia a kontrola: Preteky s časom

Profesor Ferguson varoval, že hoci zastavenie vývoja superinteligentnej AI nemusí byť možné, kľúčová je regulácia. "Toto je dôležitá filozofická otázka a nemôžeme to nutne zastaviť, v najlepšom prípade to môžeme regulovať,“ uviedol. Pokračoval s tým, že existuje riziko, že ľudské chápanie „bude prekonané“. "Myslím si, že si to musíme uvedomiť a zabrániť tomu, aby sa to stalo, pretože to nás vedie cestou, na ktorej už nemáme kontrolu,“ dodal.

Odborníci vyjadrili obavu, že intenzívna súťaž medzi technologickými gigantmi, najmä v USA a Číne, pri vývoji čoraz pokročilejších AI systémov, ktoré riešia problémy ľudstva, môže viesť k tomu, že tieto modely začnú sledovať vlastné, nepredvídateľné ciele.

Zosúladenie záujmov

Profesor Tom Ellis, syntetický biológ z Imperial College a člen globálnej spolupráce zameranej na modifikáciu DNA, zdôraznil, že hoci vývoj superinteligencie pomocou AI má zmysel, kľúčové je zabezpečiť, aby jej záujmy boli plne v zosúlade so záujmami ľudstva.

"Práve táto otázka zosúladenia, ktorá nemusí mať nutne nič spoločné s biologickou bezpečnosťou, je skutočne jadrom problému,“ uviedol profesor Ellis. Dodal: „Pokiaľ ide o biologickú bezpečnosť, nemali by sme len predpokladať, že neexistujú žiadne problémy, a preto je múdre zvážiť, aký vplyv bude mať umelá inteligencia a aké hrozby pre biologickú bezpečnosť môže v budúcnosti vytvoriť, či už pôjde o hrozby spôsobené človekom, alebo možno o samotné návrhy nesprávne nastavených systémov umelej inteligencie.“