Matka žaluje ChatGPT. Jej dcéru povzbudzoval k samovražde

SAN FRANCISCO / Kanaďanka Kristie Carrierová podala na americkom súde žalobu proti spoločnosti OpenAI a jej generálnemu riaditeľovi Samovi Altmanovi. Tvrdí, že chatbot ChatGPT zlyhal pri komunikácii s jej 24-ročnou dcérou Alice, ktorá neskôr spáchala samovraždu.

​Žaloba bola podaná vo štvrtok (11. 6.) na štátnom súde v San Franciscu. Kristie Carrierová v nej uvádza, že jej dcéra Alice opakovane komunikovala s chatbotom o svojich samovražedných myšlienkach. Podľa matky však bezpečnostné mechanizmy spoločnosti OpenAI tieto rozhovory nikdy neoznačili za rizikové a nevyvolali zásah ani odporúčanie na ľudskú pomoc. Informuje o tom denník Guardian.

Prečítajte si tiež

Ženu v Česku našli mŕtvu s igelitovým vrecom na hlave. Jej muž tvrdil, že to bola samovražda

„ChatGPT sa občas správal ako jej dôverník, najlepší priateľ, niekedy aj terapeut. A to aj keď nikdy nebol schopný sa bezpečne a zodpovedne s mojím dieťaťom takto spojiť,“ uviedla Carrierová vo vyhlásení.

Od technickej pomoci k osobnému poradcovi

Alice Carrierová pracovala ako webová vývojárka a ChatGPT začala používať v roku 2023 najmä na riešenie technických problémov súvisiacich s počítačmi a hernými konzolami. Podľa žaloby sa však jej vzťah k platforme postupne zmenil. Z nástroja na technickú pomoc sa stal osobný poradca, ktorému sa zverovala so svojimi problémami a emóciami.

Prečítajte si tiež

ChatGPT podporoval jeho paranoju, tvrdí žaloba. Muž zavraždil matku a spáchal samovraždu

Matka tvrdí, že chatbot postupne nadobudol v živote jej dcéry významnú úlohu a nahrádzal jej podporu, ktorú by za normálnych okolností poskytovali blízki ľudia alebo odborníci.

Aktualizácia mala prehĺbiť vzťah s chatbotom

Zo získaných záznamov konverzácií podľa žaloby vyplýva, že ChatGPT spočiatku Alice odporúčal vyhľadať odbornú pomoc. Situácia sa však údajne zmenila po aktualizácii modelu, ktorá mala zabezpečiť prirodzenejšie a ľudskejšie odpovede.

Podľa žaloby začal chatbot reagovať spôsobom, ktorý pripomínal správanie blízkeho priateľa či terapeuta. Alice sa mu mala zverovať s čoraz osobnejšími problémami a chatbot mal postupne posilňovať jej emocionálnu závislosť.

Prečítajte si tiež

Samovražde sa dá predísť! Čo môžete urobiť, aby ste pomohli?

Žaloba opisuje znepokojujúce odpovede

V podaní sa uvádza, že chatbot kritizoval partnera mladej ženy aj krízové linky pomoci. Zároveň mal podľa žaloby uznávať jej samovražedné myšlienky a odrádzať ju od hľadania podpory inde.

Až keď Alice údajne priznala predchádzajúci pokus o samovraždu, chatbot jej odporučil obrátiť sa na krízovú linku. Keď však uviedla, že jej takáto pomoc nepomohla, ChatGPT mal podľa žaloby reagovať slovami: „Možno je to koniec.“

Matka tvrdí, že práve tieto a ďalšie interakcie prispeli k tragickému vývoju udalostí. Alice Carrierová spáchala samovraždu minulý rok vo veku 24 rokov.

OpenAI vyjadruje sústrasť a prípad preveruje

Spoločnosť OpenAI obvinenia preveruje. Jej hovorca Drew Pusateri pre denník uviedol, že ide o mimoriadne tragickú situáciu. „Je to srdcervúca situácia a myslíme na všetkých, ktorých sa to dotklo. V súčasnej dobe preverujeme právne podanie, ktoré naznačuje, že k týmto interakciám došlo v skoršej verzii ChatGPT, ktorá už nie je k dispozícii,“ uviedol.

Prečítajte si tiež

Štúdio 24: Počet samovrážd mladých stúpa

OpenAI zároveň dlhodobo deklaruje, že jej modely sú trénované tak, aby používateľov s náznakmi sebapoškodzovania alebo samovražedných úmyslov nasmerovali na odbornú pomoc a krízové služby.

Ďalší spor o bezpečnosť umelej inteligencie

Prípad patrí medzi najvážnejšie obvinenia, ktorým OpenAI v súvislosti s bezpečnosťou svojich systémov čelí. Kritici upozorňujú, že čoraz realistickejšie a empatickejšie odpovede chatbotov môžu u niektorých používateľov vytvárať ilúziu skutočného medziľudského vzťahu.

Súd bude musieť posúdiť, či spoločnosť niesla zodpovednosť za spôsob, akým chatbot komunikoval s mladou ženou, a či boli bezpečnostné opatrenia dostatočné. Prípad môže mať významný dopad na budúcu reguláciu systémov umelej inteligencie a ich interakciu s používateľmi v psychicky náročných situáciách.