Rusi a Iránci zneužili ChatGPT: Umelá inteligencia šírila propagandu

Vďaka financiám z reklamy prinášame kvalitné a objektívne informácie. Povoľte si prosím zobrazovanie reklamy na našom webe. Ďakujeme, že podporujete kvalitnú žurnalistiku.

WASHINGTON / Americká spoločnosť OpenAI oznámila prekazenie dvoch rozsiahlych vplyvových operácií spojených s Ruskom a Iránom. Aktéri zneužívali nástroje umelej inteligencie, ako je ChatGPT, na vytváranie fiktívnych postáv a think-tankov s cieľom šíriť cielené geopolitické správy a propagandu, vrátane protiukrajinských naratívov, do špecifických cieľových skupín.

Archívna reportáž

Archív (11.06.2023): Ruská propaganda a dezinformácie

OpenAI odhalila, že účty spojené s Ruskom intenzívne využívali ChatGPT na rôzne úlohy. Ich aktivity sa primárne sústredili na krajiny Latinskej Ameriky, pričom cieľom veľkej časti ich snaženia bolo poškodiť povesť Ukrajiny. Okrem toho sa pokúšali ovplyvniť aj politické dianie v Argentíne a Bolívii a prispeli k napätiu vo vzťahoch medzi Ukrajinou a Poľskom. Informovala o tom agentúra TASR.

Kľúčovou súčasťou ruskej operácie bolo takzvané Centrum sociálneho výskumu (SRC) – fiktívny think-tank. Ten nielenže podvádzal regionálne inštitúcie, ale najímal aj zamestnancov v Latinskej Amerike. Podľa OpenAI sú dostupné dôkazy, ktoré naznačujú, že zamestnanci SRC si neboli vedomí, že ich práca slúži ruskej skupine. Spoločnosť OpenAI označila SRC za doteraz najkomplexnejší pokus o prevádzkovanie krycej identity, ktorý bol odhalený za posledného dva a pol roka.

Šírenie obsahu cez falošných novinárov

Iránska operácia zahŕňala vytvorenie siedmich profilov údajných novinárov. Tí sa vydávali za osoby zo západných krajín, vrátane Spojených štátov amerických. Tieto fiktívne identity slúžili na šírenie rozsiahlych článkov v médiách po celom svete. OpenAI identifikovala takmer 100 textov, ktoré boli uverejnené alebo distribuované v približne dvanástich malých až stredne veľkých internetových médiách. Tieto médiá sa zvyčajne zameriavajú na medzinárodné dianie, geopolitiku a udalosti na Blízkom východe.

Príkladom jednej z takýchto fiktívnych osobností bol „Ervin B. Hoskins“, ktorý si na sieťach X (predtým Twitter) a Instagram vytvoril účty a označoval sa za „amerického nezávislého spisovateľa“. Z informácií na X vyplývalo, že účet vznikol v západnej Ázii, zatiaľ čo údaje z Instagramu naznačovali sídlo účtu v Iráne. Oba účty boli medzičasom pravdepodobne pozastavené.

Umelá inteligencia ako nástroj vplyvových operácií

Obe zrušené vplyvové operácie, ruská aj iránska, výrazne využívali umelú inteligenciu. Slúžila im predovšetkým na vypracovávanie interných správ. Spoločnosť OpenAI upozornila na neobvyklý potenciálny dosah týchto operácií, keďže dokázali svoj obsah umiestniť nielen na sociálne siete, ale aj do tradičných médií.

OpenAI ďalej varuje, že umelá inteligencia môže takýmto operáciám pod falošným krytím poskytnúť väčší rozsah, zvýšenú efektivitu, lepšiu jazykovú plynulosť a rozsiahlejšie redakčné schopnosti. Tieto výhody môžu byť prevádzkovateľmi zneužité na manipuláciu s nič netušiacimi obeťami, ako sú zamestnanci alebo redaktori. Takto môžu umiestniť svoj obsah pre publikum, ktoré si nie je vedomé skutočného pôvodu obsahu ani motívov, ktoré za ním stoja.