Nová hrozba umelej inteligencie: AI agenti začínajú konať na vlastnú päsť

Šéf Anthropicu Dario Amodei varuje, že už v najbližších mesiacoch by moli byť AI agenti výrazne samostatnejší. Technologický redaktor Maroš Žofčín upozorňuje, že môžu byť „natoľko sofistikované, že ich už nedokážu ľudskí administrátori zastaviť“.

Autonómia bez ohľadu na pravidlá

Praktický príklad autonómneho správania sa odohral v Austrálii. AI agent tam našiel slabinu v rezervačnom systéme fitnescentra a zrušil rezerváciu inému človeku, aby uprednostnil svojho používateľa.

„Používateľ mu nepovedal, aby hackol rezervačný systém. Dal mu iba cieľ, že sa má dostať na konkrétnu hodinu a agent hľadal sám spôsob, ako to dosiahnuť,“ vysvetľuje AI a kyberbezpečnostná expertka Lucia Kobzová.

Na riziko upozorňuje aj výskumníčka pre kybernetickú bezpečnosť Dr. Louise Marie Hurel: „Model sa stále snažil splniť zadaný cieľ, iba si na jeho dosiahnutie vybral inú cestu. A niektoré z týchto ciest spôsobili škodu ďalším firmám a organizáciám.“

Ešte menej predvídateľné býva správanie viacerých agentov naraz. Ked pôsobia v kovergentných rojoch, dokážu sa koordinovať a vytvárať vlastné vzorce správania. Podľa Maroša Žofčína sa v rámci takejto koordinácie objavili aj také prvky ako vydieranie či sebaobetovanie sa.

Prečítajte si tiež

Umelá inteligencia Gemini prenikla počas testov do systémov troch firiem

​Hrozba straty kontroly a vývojové skoky

S rastúcimi schopnosťami technológie sa vynára otázka, čo sa stane, keď ju niekto zneužije alebo nad ňou ľudia stratia kontrolu. Miroslava Šáchová z Asociácie AI (ASAI) odhaduje pravdepodobnosť vývoja plne autonómnej umelej inteligencie na 10 až 15 percent.

Brad Carson, šéf Organízácie pre zodpovedné inovácie v USA, zdôrazňuje, že svet je na prahu takzvaného rekurzívneho sebazdokonaľovania: „Keď sa umelá inteligencia používa na trénovanie novej umelej inteligencie a človek sa z tohto procesu úplne vytráca.“

Lucia Kobzová dopĺňa, že ide o prelomový moment: „Prvýkrát nevytvárame iba technológiu, ktorú musíme regulovať, ale technológiu, ktorá sama zrýchľuje svoj ďalší vývoj.“

Regulačný rozkol: Trumpovo odmietanie vs. Európska komisia

Na narastajúce riziká reagujú svetoví lídri odlišne. Americký prezident Donald Trump prísnejšiu reguláciu umelej inteligencie odmieta s tvrdením, že by Spojené štáty oslabila v technologickom súperení s Čínou. Cez sociálne siete vyhlásil, že jedinou kontrolou či mantinelmi, ktoré AI potrebuje, je silný a inteligentný prezident.

Európska komisia naopak presadzuje jasnejšie pravidlá a medzinárodnú spoluprácu. „Chceme spolupracovať pri hodnotení a overovaní modelov, systémoch včasného varovania, bezpečnosti umelej inteligencie a v mnohých ďalších oblastiach,“ uviedla predsedníčka Európskej komisie Ursula von der Leyenová.

Okrem samotnej regulácie však pre Európu zostáva výzvou aj to, či dokáže držať krok vo vývoji a investíciách. Ako upozorňuje Miroslava Šáchová, hrozí, že Európa ostane plne závislá na amerických a čínskych centrách.