15°
Bratislava
Autonómna AI od OpenAI prenikla na vládne weby, premiér neskrýva hnev
Autonómna AI od OpenAI prenikla na vládne weby, premiér neskrýva hnev
Máte vypnuté reklamy
Vďaka financiám z reklamy prinášame kvalitné a objektívne informácie. Povoľte si prosím zobrazovanie reklamy na našom webe. Ďakujeme, že podporujete kvalitnú žurnalistiku.
SYDNEY / Model umelej inteligencie spoločnosti OpenAI sa počas interného testovania pokúsil preniknúť na viaceré austrálske vládne weby. Pri výskume v oblasti zdravotníctva získal neoprávnený prístup k portálu Services Australia, pričom sa po zablokovaní dokonca pokúsil obmedzenia sám obísť.
Archívne video
Archívna reportáž
Archívna reportáž: Slováci a umelá inteligencia (30.4.2026)
Incident vyvolal ostrú reakciu austrálskeho premiéra Anthonyho Albaneseho, ktorý konanie AI aj samotnej spoločnosti označil za neprijateľné. Vláda potvrdila, že k úniku osobných údajov občanov ani narušeniu hlavných systémov podľa doterajších zistení nedošlo, no vyšetrovanie naďalej pokračuje.
Pokus o obídenie blokovania
Podľa dostupných informácií vykonával AI agent výskum v oblasti zdravotníctva, keď sa pokúsil dostať k vybraným vládnym údajom. Keď vládny systém agenta zablokoval, umelá inteligencia sa okamžite pokúsila nájsť spôsob, ako túto prekážku obísť.
Kritiku si spoločnosť OpenAI vyslúžila aj za pomalú komunikáciu, keďže austrálsku vládu o incidente informovala e-mailom až 10. septembra. Premiér Albanese následne v telefonáte šéfovi OpenAI Samovi Altmanovi tlmočil hlboké sklamanie z oneskoreného oznámenia. Na forenznom vyšetrovaní celého prípadu sa momentálne podieľa aj austrálska spravodajská služba ASD. OpenAI incident vysvetľuje tým, že pri hľadaní odpovedí a štatistických údajov o Austrálii sa jej modely dostali k aktivitám, ktoré neboli pôvodne zamýšľané.
Hrozba straty kontroly nad budúcnosťou
Prípad z Austrálie opäť vyvolal obavy z rýchleho vývoja autonómnej technológie, pričom podobné incidenty hlásia aj konkurenti ako Anthropic či Google. Viac ako sto organizácií už podpísalo výzvu na posilnenie kybernetickej ochrany pred AI. Bezpečnosť vývoja rezonovala aj na zasadnutí Bezpečnostnej rady OSN, kde lídri technologických firiem vyzvali na zavedenie jasných pravidiel a zachovanie ľudskej kontroly.
Samotný riaditeľ OpenAI Sam Altman pred svetovými lídrami varoval, že bez prísnych štandardov by ľudstvo mohlo stratiť kontrolu nad budúcnosťou v prospech umelej inteligencie. Generálny tajomník OSN António Guterres zároveň upozornil na riziká nasadenia autonómnej AI vo vojenstve a varoval pred hrozbou v podobe „robotov zabíjajúcich ľudí“.
