AI firma Anthropic sa vzoprela Trumpovej administratíve kvôli zneužitiu technológií

WASHINGTON / Spoločnosť Anthropic, jeden z lídrov vo vývoji umelej inteligencie, sa dostala do ostrého konfliktu s Trumpovou administratívou. Odmietla totiž povoliť Pentagonu neobmedzené využívanie svojich AI modelov na masové sledovanie a autonómne zbrane, čo vyvolalo hrozbu sankcií. Ide o principiálny boj o etické hranice využitia AI, ktorý môže mať ďalekosiahle následky.

Anthropic odmietol spoluprácu s Pentagonom kvôli etickým obavám

Anthropic, technologická spoločnosť stojaca za chatbotom Claude, sa postavila proti tlaku Trumpovej administratívy. Dôvodom je nesúhlas s využívaním ich AI modelov na masové sledovanie obyvateľstva a autonómne zbraňové systémy.

Šéf spoločnosti, Dario Amodei, vyjadril obavy, že využitie AI v týchto oblastiach by mohlo podkopávať demokratické hodnoty.

Ultimátum a hrozba sankcií

Odpoveď na seba nenechala dlho čakať. Ministerstvo obrany dalo Anthropicu ultimátum, aby armáde umožnilo používať svoje produkty bez obmedzení. Následne prezident Trump nariadil federálnym úradom postupné ukončenie spolupráce s firmou. "Nepotrebujeme to, nechceme to a už s nimi nebudeme spolupracovať," napísal Trump a dodal, že väčšina úradov má spoluprácu ukončiť okamžite, Pentagon dostal šesťmesačné prechodné obdobie.

Situácia sa vyhrotila natoľko, že šéf Pentagonu uviedol: "S okamžitou platnosťou nesmie žiadny kontraktor, dodávateľ či zmluvný partner spolupracujúci s armádou Spojených štátov vstupovať do akejkoľvek komerčnej aktivity s firmou Anthropic."

Prečítajte si tiež

Odborník na americkú politiku: Prejav Trumpa bol odtrhnutý od reality

Anthropic sa bráni: Podniká právne kroky

Anthropic obvinenia odmieta a označuje ich za absurdné. "Žiadny spôsob zastrašovania ani trestov od ministerstva vojny nás neprinúti zmeniť postoj k masovému sledovaniu domácností ani plne autonómnym zbraniam," uviedla firma vo vyhlásení a dodala, že sa kvôli rozhodnutiu ministerstva obrany obráti na súd. Spoločnosť zároveň poukazuje na to, že označenie za bezpečnostné riziko, ktoré bolo doteraz vyhradené len pre protivníkov USA, nikdy predtým nebolo použité na americkú firmu.

Kto profituje z konfliktu?

Podľa agentúry AP nahráva táto situácia miliardárovi Elonovi Muskovi, ktorého chatbot Grok plánuje ministerstvo obrany využiť a udeliť mu prístup k utajovaným informáciám.

Dôležité súvislosti

• Anthropic získal vlani zmluvu s ministerstvom obrany v hodnote 200 miliónov dolárov.
• Spor s Trumpovou administratívou trvá najmenej od jesene.
• Klauzula o zákaze sledovania sa dotýka okrem iného FBI, Tajnej služby USA a imigračných úradov.
• Modely Claude od Anthropiku sú jediné špičkové modely schválené pre použitie v režime prísne tajné v systéme Amazon Web Services GovCloud využívanom americkými úradmi.
• Anthropic má osobitnú službu zameranú na zákazníkov z národnej bezpečnosti a s americkou vládou uzavrel kontrakt, podľa ktorého poskytuje služby federálnym úradom za symbolický poplatok jeden dolár.

OpenAI tvrdí, že urobí to isté, za čo bol Anthropic „potrestaný“

V internom memorande adresovanom zamestnancom, CEO OpenAI Sam Altman zdôraznil, že ide o problematiku presahujúcu rámec sporu medzi Anthropicom a americkým ministerstvom obrany. "Toto už nie je len otázka medzi Anthropicom a Pentagónom – je to otázka pre celé odvetvie a je dôležité jasne definovať náš postoj," píše Altman.

"Dlhodobo veríme, že AI by sa nemala používať na masové sledovanie ani na autonómne smrtiace zbrane a že pri vysoko rizikových automatizovaných rozhodnutiach by mal zostať človek v procese. Toto sú naše hlavné červené čiary," dodal.