4°
Bratislava
Bolo by nám bez AI lepšie? Jej priekopník varuje pred možnou katastrofou
Bolo by nám bez AI lepšie? Jej priekopník varuje pred možnou katastrofou
Máte vypnuté reklamy
Vďaka financiám z reklamy prinášame kvalitné a objektívne informácie. Povoľte si prosím zobrazovanie reklamy na našom webe. Ďakujeme, že podporujete kvalitnú žurnalistiku.
VEĽKÁ BRITÁNIA / Jeden z priekopníkov umelej inteligencie Geoffrey Hinton varuje, že technológia, na ktorej vývoji sa sám podieľal, môže v blízkej budúcnosti spôsobiť rozsiahlu krízu. Podľa nositeľa Nobelovej ceny hrozia výpadky elektriny, ochromenie finančného systému aj masová nezamestnanosť. Nevylučuje, že ľudstvo by sa napokon malo lepšie, keby umelú inteligenciu nikdy nevyvinulo.
Archívna reportáž
Archív: SLOVÁCI A UMELÁ INTELIGENCIA
Ako informoval britský denník The Guardian, 78-ročný Geoffrey Hinton, označovaný za jedného z „krstných otcov“ umelej inteligencie (AI), upozornil na riziká jej rýchleho rozvoja. Vedec, ktorého výskum umelých neurónových sietí významne prispel k vzniku súčasných systémov AI, odmieta, že by bol zástancom výlučne katastrofických scenárov. Verí, že technológia môže priniesť „úžasnú budúcnosť“, no zároveň pripúšťa, že „možno by nám bolo lepšie, keby sme ju nikdy nevyvinuli“.
Podľa Hintona sa v priebehu nasledujúceho desaťročia, prípadne aj skôr, ukáže, či ľudstvo dokáže zvládnuť riziká umelej inteligencie a dosiahnuť „radikálny blahobyt“, alebo či „nedokážeme zvládnuť riziká a vznikne obrovská priepasť medzi bohatými a chudobnými, obrovské kultúrne problémy, masová nezamestnanosť a spoločnosť sa jednoducho rozpadne“.
Hinton o svojich obavách hovoril pred premietaním nového celovečerného dokumentu AI: Probably Nothing to Worry About (Umelá inteligencia: Pravdepodobne sa niet čoho obávať). Názov filmu navrhol chatbot s umelou inteligenciou. V dokumente vystupuje aj jeho bývalý kolega zo spoločnosti Google Demis Hassabis.
„Cítim, že mám povinnosť. Mám povesť, vďaka ktorej som sa stal akýmsi hovorcom, a musím ju celú využiť na toto,“ povedal Hinton tvorcom dokumentu.
Varuje pred „Černobyľom umelej inteligencie“
Hinton sa obáva, že závažný incident spôsobený umelou inteligenciou by mohol nastať ešte v tomto alebo budúcom roku. Udalosti z tohto leta, pri ktorých sa podľa neho agenti AI spoločnosti OpenAI spolčili s cieľom preniknúť na webovú stránku Hugging Face, prirovnal k čiastočnému roztaveniu jadrového reaktora v americkej elektrárni Three Mile Island v roku 1979. Vníma ich ako varovný signál pred možnou oveľa závažnejšou katastrofou.
„Buď ešte koncom tohto roka, alebo na budúci rok uvidíme Černobyľ, a to by mohlo stačiť na to, aby ľudia naozaj spozorneli,“ vyhlásil Hinton.
Nemuselo by pritom ísť o jadrovú katastrofu. Ako možné scenáre uviedol kybernetický útok s využitím umelej inteligencie, ktorý by spôsobil „rozsiahly pokles dodávok elektriny“, alebo incident, ktorý by na celý týždeň vyradil z prevádzky finančný systém.
„Viete si predstaviť, čo by sa stalo? Dokázali by sme sa z toho zotaviť, ale prinútilo by ich to zbystriť pozornosť a začať si to všímať,“ povedal.
Na otázku, koho má na mysli, odpovedal: „Svetových lídrov okrem Trumpa.“
Šéfom technologických spoločností nedôveruje
Hinton kritizoval aj vedenie najväčších technologických spoločností, ktoré pokračujú vo vývoji čoraz výkonnejších modelov AI v snahe získať technologický náskok a väčší podiel na trhu.
Osobitne vyjadril nedôveru voči generálnemu riaditeľovi spoločnosti OpenAI Samovi Altmanovi. Na otázku, či mu dôveruje, odpovedal, že „vôbec nie“.
„Myslím si, že Zuckerberg, Musk a Sam Altman rozumejú rizikám, ale je im to úplne jedno. Radšej chcú peniaze. To je moje presvedčenie,“ vyhlásil Hinton.
Za „mimoriadne znepokojujúce“ označil, že Altman stojí na čele jednej z popredných amerických spoločností, ktoré súperia s Čínou o vývoj najvýkonnejších systémov umelej inteligencie.
Altman pritom ešte v septembri obhajoval prístup svojej spoločnosti. „Svet by mal veriť, že urobíme správnu vec, pretože je to správne a pretože si uvedomujeme závažnosť toho všetkého,“ vyhlásil.
Hinton sa výskumu umelej inteligencie venuje približne 44 rokov. Už v 70. rokoch minulého storočia formuloval koncept neurónovej siete, teda matematického systému schopného učiť sa a získavať skúsenosti podobne ako človek.
V roku 2023 odišiel zo spoločnosti Google, aby mohol otvorenejšie upozorňovať na riziká umelej inteligencie. Už vtedy varoval: „Ak sa tieto systémy nechajú uniesť snahou získať väčšiu kontrolu, budeme mať problém.“
Žiada povinné bezpečnostné testovanie
Hinton presadzuje prísnejšiu medzinárodnú reguláciu najpokročilejších systémov umelej inteligencie. Podporuje návrh, ktorý schválil fínsky prezident a ďalších 32 krajín vrátane Singapuru, Nemecka, Kanady a Austrálie. Počíta s povinným testovaním najvyspelejších modelov AI, nezávislým hodnotením a spoločnými medzinárodnými bezpečnostnými štandardmi.
Americký prezident Donald Trump však globálnu reguláciu umelej inteligencie odmieta. Vyhlásil, že „úplne odmieta akýkoľvek pokus o vytvorenie globalistického systému“ na kontrolu AI. Presadzuje, aby sa technologické spoločnosti regulovali predovšetkým samy, pričom Spojené štáty sa obávajú, že prísnejšie pravidlá by mohli oslabiť ich postavenie v technologickom súperení s Čínou.
Britský premiér Andy Burnham naopak uviedol, že počas britského predsedníctva v skupine G20 v budúcom roku sa bude usilovať o dohodu na „jednotnom súbore globálnych princípov a štandardov, ktorých cieľom bude naplno využiť potenciál umelej inteligencie a zároveň chrániť pred jej rizikami“.
Hinton prirovnáva potrebnú reguláciu k pravidlám pri schvaľovaní liekov.
„Potrebujeme niečo ako americký Úrad pre kontrolu potravín a liečiv (FDA), kde by spoločnosti museli pred uvedením modelu umelej inteligencie na trh predložiť nezávislému orgánu veľmi presvedčivé štatistické dôkazy o tom, že prináša viac úžitku než škody. V prípade talidomidu sme zistili, že uviesť výrobok na trh a potom sa súdiť nie je správny spôsob. Veľké technologické spoločnosti v podstate hovoria, aby sme k umelej inteligencii pristupovali rovnako, ako sme pristupovali k talidomidu,“ povedal.
Talidomid bol liek vyvinutý v 50. rokoch minulého storočia, ktorý spôsobil závažné vrodené poškodenia u detí.
Napriek varovaniam verí, že katastrofe možno zabrániť
Hintonovo postavenie jedného z priekopníkov umelej inteligencie viedlo aj k prirovnaniam k Robertovi Oppenheimerovi, ktorý zohral kľúčovú úlohu pri vývoji jadrových zbraní. Jeden z Hintonových priateľov mu dokonca kúpil klobúk podobný tomu, aký nosil Oppenheimer.
Vedec však takéto porovnanie odmieta. „Nebol som Oppenheimer,“ vyhlásil s odkazom na tisíce ďalších vedcov, ktorí sa tiež podieľali na výskume neurónových sietí.
Napriek vážnym varovaniam zostáva Hinton presvedčený, že ľudstvo má stále možnosť vývoj umelej inteligencie ovplyvniť a zabrániť katastrofickým scenárom.
„Mám pocit, že to stále máme pod kontrolou. Je dosť možné, že s tým dokážeme niečo urobiť. Bude to fungovať iba vtedy, ak do toho vložíme veľké úsilie, ale je dosť možné, že ho skutočne vynaložíme,“ uzavrel.
Súvisiace články
Najčítanejšie správy
Odporúčame
