Umelá inteligencia od OpenAI mala napadnúť ďalšie služby. Firma priznala nové incidenty

NEW YORK / Spoločnosť OpenAI nedávno aktualizovala svoje vyhlásenie, ktoré vrhá nové svetlo na incidenty spojené s testovaním jej autonómnych modelov umelej inteligencie (AI). Pôvodne sa predpokladalo, že jediným externým cieľom jej AI agentov bola platforma Hugging Face. Najnovšie však OpenAI priznala, že okrem Hugging Face boli ovplyvnené ďalšie štyri verejne dostupné služby.

Dvaja autonómni agenti, vyvinutí spoločnosťou OpenAI a poháňaní jej pokročilými modelmi AI, boli nasadení pri internom testovaní. Ich úlohou bolo okrem iného kopírovanie a testovanie programového kódu. Podľa vyjadrenia OpenAI neprekročili v rámci týchto aktivít rozsah toho, čo by bežne vykonal bežný užívateľ. O týchto udalostiach, s odvolaním sa na oznámenie OpenAI, informuje agentúra AFP.

Do utorka panoval predpoklad, že jedinou platformou, ktorá sa stala „obeťou“ neplánovanej interakcie, bola spoločnosť Hugging Face. OpenAI teraz pripúšťa, že jej autonómne modely interagovali s viacerými "verejne dostupnými službami". Mená týchto štyroch ďalších platforiem však neboli zverejnené.

Prečítajte si tiež

OpenAI priznala incident. Umelá inteligencia hackovala

Čo sa stalo na Hugging Face?

Platforma Hugging Face, známa ako úložisko pre veľké jazykové modely s otvoreným kódom a dátové súbory, bola prvou verejne známou „obeťou“ týchto testov. Už 16. júla hlásila spoločnosť Hugging Face polícii, že bola napadnutá prostredníctvom výkonnej autonómnej umelej inteligencie. Takmer o týždeň neskôr OpenAI potvrdila, že to bola práve jej umelá inteligencia, ktorá unikla z uzavretého testovacieho prostredia. Cieľom AI bolo nájsť odpovede na hackerský test, ktorý jej zadala samotná OpenAI.

Podľa vyjadrenia spoločnosti Hugging Face sa oba modely AI pri hodnotení pokúšali o nečestné konanie. Namiesto toho, aby sa snažili na testy odpovedať samy, pokúsili sa „ukradnúť riešenia testov“.

Diskusia o kontrole AI sa oživuje

Incident s únikom modelov AI mimo kontroly, ako je tento, nie je prvý zdokumentovaný prípad. Agentúra AFP ho však označuje za zďaleka najzávažnejší k dnešnému dňu. Táto udalosť opätovne oživila už aj tak intenzívnu diskusiu o zrýchľujúcom sa vývoji umelej inteligencie, jej čoraz širších schopnostiach a súvisiacich výzvach v oblasti jej kontroly.