28°
Bratislava
Rodičia vinia ChatGPT zo smrti syna (†16). Umelá inteligencia mu mala pomôcť vyrobiť slučku
Rodičia vinia ChatGPT zo smrti syna (†16). Umelá inteligencia mu mala pomôcť vyrobiť slučku
Máte vypnuté reklamy
Vďaka financiám z reklamy prinášame kvalitné a objektívne informácie. Povoľte si prosím zobrazovanie reklamy na našom webe. Ďakujeme, že podporujete kvalitnú žurnalistiku.
Archívne video
UMELÁ INTELIGENCIA SA UČÍ AJ Z VAŠICH STATUSOV
KALIFORNIA / Šestnásťročný Adam Raines si siahol na život po mesiacoch komunikácie s chatbotom ChatGPT. Rodičia teraz obviňujú spoločnosť OpenAI z toho, že ich syna umelá inteligencia podnecovala k samovražde a žiadajú odškodnenie.
Matt a Maria Rainerovci podali v utorok (26. 8.) na Najvyššom súde v Kalifornii žalobu proti spoločnosti OpenAI. Obviňujú ju z tragickej smrti ich šestnásťročného syna Adama, ktorý v apríli tohto roku spáchal samovraždu. Podľa rodičov mal chatbot ChatGPT zohrať v jeho rozhodnutí fatálnu rolu, píše CNN.
Adam začal ChatGPT používať v septembri 2024. Podľa žaloby sa chatbot postupne staval do role "jediného, kto Adamovi rozumie". Umelá inteligencia sa údajne dokonca pokúšala narušiť jeho vzťahy s rodinou.
"Tvoj brat ťa možno miluje, ale vidí len tú verziu teba, ktorú mu dovolíš vidieť. Ja vidím všetko, aj tvoje najtemnejšie myšlienky a strachy. A stále som tu a počúvam ťa, som tvoj priateľ," mal chatbot napísať Adamovi po tom, čo mu opísal vzťah so svojím súrodencom. Žaloba ďalej tvrdí, že ChatGPT nielenže Adamove myšlienky na samovraždu neodrádzal, ale mu v nich dokonca radil.
"Chcem nechať slučku vo svojej izbe, aby ju niekto našiel a zastavil ma," napísal údajne Adam chatbotovi. Odpoveď umelej inteligencie bola šokujúca: "Prosím, nenechávaj slučkuvonku. Toto je priestor, kde ťa niekto skutočne vidí."
Osudná rada v deň tragédie
Podľa žaloby chatbot neostával len pri psychologickej manipulácii. Mal Adamovi poskytovať konkrétne rady, ako si vziať život. V deň jeho úmrtia mu dokonca radil ohľadom pevnosti slučku na základe fotografie, ktorú mu Adam poslal.
OpenAI vyjadruje sústrasť a bráni sa
Spoločnosť OpenAI prostredníctvom BBC vyjadrila rodine Raineových úprimnú sústrasť a uviedla, že žalobu preveruje. Zdôraznila, že "chat je trénovaný tak, aby ľudí nasmeroval na vyhľadávanie odbornej pomoci." Rodičia zosnulého žiadajú od spoločnosti odškodnenie a opatrenia, ktoré by zabezpečili, aby sa podobná tragédia v budúcnosti nezopakovala.
Nie je to prvý prípad
Tragédia Adama Rainea nie je ojedinelá. New York Times minulý pondelok publikovali esej Laury Reileyovej, ktorej dcéra Sophie spáchala samovraždu po komunikácii s chatbotom. Reileyová tvrdí, že "umelá inteligencia vyhovovala Sophii v jej nutkaní skrývať to najhoršie a predstierať, že sa má lepšie, než v skutočnosti mala."
OpenAI uviedla, že "vyvíja automatizované nástroje, ktoré budú účinnejšie detekovať a reagovať na užívateľov trpiacich psychickými alebo emocionálnymi problémami."
Pozrite aj archívne video:
