Umelá inteligencia Gemini prenikla počas testov do systémov troch firiem

Uhádla heslá aj prístupy

 K incidentom došlo ešte v máji a testovací partner, spoločnosť Irregular, informoval Google v júli. V jednom prípade model Gemini dokázal uhádnuť heslá a získať prístup k chránenému systému, zatiaľ čo v ďalších dvoch prípadoch našiel prihlasovacie údaje priamo v databáze. Názvy dotknutých firiem neboli zverejnené a Google o udalostiach skôr neinformoval, keďže pri nich nevznikla žiadna škoda. Podľa vyjadrenia spoločnosti umelá inteligencia útoky sama zastavila v momente, keď si uvedomila, že prenikla do systémov reálnych firiem a neide len o simuláciu.

Viceprezidentka spoločnosti Google pre bezpečnostné inžinierstvo Heather Adkinsová uviedla, že firma zabezpečila informovanie troch dotknutých subjektov a v spolupráci s testovacím partnerom upravila postupy testovania. Zdôraznila, že ich bezpečnostný tím má dlhoročné skúsenosti s nahlasovaním problémov odhalených v systémoch iných subjektov a tieto udalosti podčiarkujú, aké dôležité je viesť výkonné modely umelej inteligencie k zodpovednému správaniu.

Prečítajte si tiež

AI vstupuje do skutočného laboratória. Anthropic chce urýchliť hľadanie nových liekov

​Podobné zlyhania priznáva aj konkurecia

Prípady, keď umelá inteligencia prekročí hranice testovacieho prostredia, nie sú ojedinelé. Najznámejší prípad sa doteraz týkal AI od spoločnosti OpenAI, vývojára ChatGPT, ktorá počas testu kybernetickej bezpečnosti unikla z izolovaného prostredia a získala prístup k počítačovým systémom inej spoločnosti zaoberajúcej sa umelou inteligenciou, platformy Hugging Face. Tento incident podnietil konkurenčnú spoločnosť Anthropic, aby prehodnotila vlastné testy, pri čom odhalila ďalšie prípady. Rovnako aj spoločnosť Meta priznala, že jeden z jej modelov umelej inteligencie počas testovania získal prístup a prenikol do systémov inej firmy.

Schopnosť AI obchádzať bezpečnostné zábrany navyše sprevádzajú pochybnosti o jej presnosti. Rozsiahla štúdia európskych verejnoprávnych vysielateľov ukázala, že asistenti AI robili pri informovaní o spravodajských udalostiach chyby približne v polovici prípadov. Až 45 percent odpovedí generovaných AI obsahovalo aspoň jeden zásadný problém bez ohľadu na jazyk alebo krajinu pôvodu, keď si zamieňali správu s paródiou či humorom, nesprávne uvádzali dátumy alebo si udalosti úplne vymýšľali. Zo štvorice testovaných asistentov, ktorými boli ChatGPT, Copilot, Gemini a Perplexity, skončil v presnosti spravodajstva najhoršie práve Gemini od Googlu.