Musíme spomaliť tempo - šéf Anthropicu vyzýva ostatné firmy na opatrnosť pri vývoji AI

Volanie po brzde: Šéf Anthropicu žiada spomaliť AI pre našu bezpečnosť

Rýchlosť vývoja umelej inteligencie (AI) je predmetom intenzívnych diskusií a rastúcich obáv. Dario Amodei, generálny riaditeľ americkej spoločnosti Anthropic, ktorá je jedným z popredných hráčov v oblasti AI, vyzýva k zásadnému spomaleniu tempa, akým sa rozširujú schopnosti týchto pokročilých modelov. Cieľom je získať viac času na riadenie potenciálnych rizík a zabezpečenie bezpečnosti. Informovala o tom agentúra Reuters.

Amodei načrtol trojkrokový rámec, ktorého hlavnou ambíciou je regulovať rýchlosť vývoja a poskytnúť ľudstvu priestor na pochopenie a kontrolu súvisiacich nebezpečenstiev. „Musíme spomaliť tempo, akým zlepšujeme schopnosti modelov umelej inteligencie. Pokrok bude aj tak rýchly a my musíme múdro využiť čas, ktorý tým získame,“ uviedol Amodei v eseji publikovanej na sociálnej sieti X.

Prečo je potrebná brzda? Rastúce obavy z zneužitia

Amodeiho výzva nie je bezprecedentná. Nadväzuje na správu o hrozbách, ktorú Anthropic zverejnil iba pred niekoľkými dňami. V nej spoločnosť podrobne opísala, ako boli jej vlastné modely umelej inteligencie, konkrétne Claude, zneužité rôznymi aktérmi na činnosti, ktoré siahali od vývoja zbraní cez kybernetické operácie až po sledovanie a rozsiahle podvody. Tieto príklady poukazujú na reálne riziká, ktoré so sebou nekontrolovaný a príliš rýchly vývoj prináša.

Prečítajte si tiež

Môže nás umelá inteligencia vyhubiť? Experti varujú pred hrôzostrašným scenárom

​Obavy z potenciálneho nebezpečenstva umelej inteligencie sa tento týždeň ešte zvýšili, keď výskumník spoločnosti Anthropic, Jacob Coxon, podal výpoveď. Svoje rozhodnutie odôvodnil silným vyhlásením, že „ľudia, ktorí vyvíjajú umelú inteligenciu, úprimne veria, že by nás mohla do konca tohto desaťročia všetkých zabiť.“

Cesta vpred: Regulácia a spolupráca sú kľúčové

Amodei pritom zdôrazňuje, že jeho zámerom nie je zastaviť pokrok v oblasti umelej inteligencie. Naopak, snaží sa zabezpečiť, aby spoločnosti mali dostatok času na riadne zabezpečenie svojich AI modelov a aby ich funkcionalitu a bezpečnosť mohla overiť nezávislá tretia strana.

V rámci navrhovaného plánu, ktorý je súčasťou spomínaného trojkrokového rámca, plánuje Anthropic dosadiť stálych externých expertov do popredných firiem zaoberajúcich sa umelou inteligenciou. Títo experti by mali mať prístup k relevantným nástrojom a k interným procesom posudzovania rizík, čo by malo zabezpečiť väčšiu transparentnosť a zodpovednosť.

Generálny riaditeľ zároveň vyzýva firmy z oblasti AI, aby dobrovoľne spolupracovali na vytýčení spoločných štandardov. Tento krok je v súlade s výzvami amerických zákonodarcov, ktorí taktiež volajú po zavedení nových regulačných pravidiel v snahe vyvážiť inováciu s potrebnou bezpečnosťou pre celú spoločnosť.