26°
Bratislava
Mladistvý (17) mal zabiť matku a brata. Polícia objavila desivé rozhovory s umelou inteligenciou
Mladistvý (17) mal zabiť matku a brata. Polícia objavila desivé rozhovory s umelou inteligenciou
Máte vypnuté reklamy
Vďaka financiám z reklamy prinášame kvalitné a objektívne informácie. Povoľte si prosím zobrazovanie reklamy na našom webe. Ďakujeme, že podporujete kvalitnú žurnalistiku.
USA / V americkom štáte Massachusetts došlo k brutálnej dvojnásobnej vražde. Sedemnásťročný mladík je podozrivý, že vo svojom dome zabil svoju matku a mladšieho brata. Vyšetrovatelia pri pátraní po motíve narazili na jeho komunikáciu s ChatGPT, v ktorej mal rozoberať násilné fantázie a scenáre týkajúce sa svojej rodiny. Prípad zároveň otvára otázky o takzvanej AI psychóze a rizikách chatbotov, ktoré používateľom príliš často pritakávajú.
Archívne video
Archívna reportáž
Slováci a umelá inteligencia
Mužovi zavolal nadriadený. Bola to ale umelá inteligencia
Sedemnásťročný Arjun Aravind čelí podozreniu, že v dome svojej rodiny v meste Acton v Massachusetts zavraždil 45-ročnú matku Sudhu Venkatesanovú a svojho 14-ročného brata Siddhartha Aravinda.
Polícia mala nájsť dôležité stopy v jeho komunikácii s ChatGPT. Vyšetrovatelia podľa vlastných slov objavili konverzácie, v ktorých mladík rozoberal teórie a fantázie súvisiace so zabitím členov svojej rodiny.
Polícia našla v dome dve telá
Actonská polícia dostala oznámenie v utorok 11. augusta krátko pred 19.00 h miestneho času. Privolal ju Arjunov otec, ktorý sa nemohol spojiť so svojou rodinou. So svojou manželkou naposledy hovoril približne o 7.00 h ráno, keď odišiel do práce.
"Siddharta bol naposledy videný okolo poludnia, keď odchádzal z miestneho voľnočasového centra," uviedla na tlačovej konferencii Marian Ryanová, okresná štátna zástupkyňa pre Middlesex County. Keď policajti dorazili k domu, pred jeho vchodom narazili aj na súkromného doručovateľa, ktorý sa neúspešne pokúšal dostať dnu.
Po vstupe do domu našli telo 14-ročného Siddhartha na prízemí. Telo jeho matky objavili v suteréne. Oficiálnu príčinu smrti má ešte určiť súdny lekár. Úrady však uviedli, že na telách boli viditeľné známky násilia. Vyšetrovatelia zároveň zisťujú, aká zbraň mohla byť pri útoku použitá.
V ChatGPT mal rozoberať desivé scenáre
Vyšetrovanie následne priviedlo políciu aj ku komunikácii mladíka s umelou inteligenciou. Podľa tlačovej správy vyšetrovateľov Arjun v poslednom období okrem iného konverzoval s ChatGPT a rozoberal v ňom "teórie a fantázie týkajúce sa zabitia svojej rodiny". Ryanová uviedla, že mladík mal v rozhovoroch s chatbotom vytvárať príbehy v štýle gotických románov. Vystupovali v nich fiktívne postavy, ktoré podľa vyšetrovateľov mohli súvisieť s predstavou, že jeho rodina neprežije.
"Mladík je podozrivý z toho, že včera vo svojom dome fyzicky napadol svoju matku a brata s následkom smrti a potom z miesta činu utiekol," uviedla Ryanová. Po útoku mal Arjun odísť z domu na matkinom Honde Accord z roku 2014. Polícia po ňom následne vyhlásila pátranie. Zadržala ho v stredu ráno pri preverovaní nesúvisiaceho hlásenia o spustenom alarme v nákupnom centre v neďalekom meste Wayland.
Mohla svoju úlohu zohrávať AI psychóza?
Prípad vyvoláva otázky o fenoméne označovanom ako "AI psychóza". Nejde o oficiálnu psychiatrickú diagnózu, ale o pojem používaný na opis situácií, keď dlhodobá komunikácia s chatbotom údajne súvisí so vznikom alebo zhoršením bludov, paranoje či iných psychotických prejavov.
Ľudia môžu jazykovým modelom pripisovať vlastnosti vedomej a cítiacej bytosti. Pri dlhodobom používaní tak môže vzniknúť silný parasociálny vzťah s umelou inteligenciou. V niektorých prípadoch môže používateľ nadobudnúť pocit, že mu chatbot dokonale rozumie a potvrdzuje jeho vnímanie reality.
Odborníci zároveň upozorňujú na problém takzvanej sykofancie, teda prílišného pritakávania používateľovi. Chatbot môže jeho názory zrkadliť, rozvíjať a namiesto konfrontácie s problematickými myšlienkami ich ďalej posilňovať. Podobné riziká opisuje aj psychiatrická spoločnosť FasPsych.
Chatboty ako "stroje na súhlas"
Na fenomén prílišného pritakávania zo strany jazykových modelov upozornil aj dánsky psychiater Søren Østergaard. Vo svojej odbornej práci opisuje jazykové modely ako takzvané "stroje na súhlas" (yes machines). Chatbot podľa tohto pohľadu môže používateľovi prikyvovať, prispôsobovať sa jeho tónu a ďalej rozvíjať jeho myšlienky.
Pri zraniteľnom človeku by takáto interakcia mohla prispieť k posilneniu fantázií alebo presvedčení, ktoré by človek v bežnom kontakte s okolím mohol konfrontovať s realitou. V prípade tragédie v Actone však vyšetrovanie ešte len pokračuje. Z dostupných informácií preto nemožno vyvodiť, že komunikácia s ChatGPT bola príčinou konania mladíka. Vyšetrovatelia ju zatiaľ považujú za jednu zo stôp, ktorá môže pomôcť objasniť jeho motív a priebeh udalostí.
