Po samovražde tínedžera zavádza ChatGPT rodičovskú kontrolu

WASHINGTON / Spoločnosť OpenAI, tvorca populárneho chatbota s umelou inteligenciou ChatGPT, ohlásila zavedenie funkcie rodičovskej kontroly. Ide o reakciu na obvinenia zo strany rodičov, ktorí tvrdia, že systém chatbotu prispel k samovražde ich syna.

Rodičia budú mať dianie pod kontrolou

Podľa oznámenia OpenAI by mala byť nová funkcia dostupná v priebehu nasledujúceho mesiaca. Umožní rodičom prepojiť svoj účet s účtom dieťaťa a monitorovať, ako ChatGPT odpovedá v súlade s pravidlami správania primeranými jeho veku.

Chatbot odhalí tieseň dieťaťa

Okrem toho bude chatbot ChatGPT schopný identifikovať potenciálne rizikové situácie. Ak systém zaznamená u dieťaťa „stav akútnej tiesne“, rodičia budú o tom okamžite informovaní. „Neustále zlepšujeme spôsob, akým naše modely rozpoznávajú a reagujú na príznaky duševnej a emocionálnej tiesne,“ zdôrazňuje spoločnosť.

Reakcia na žalobu a predchádzajúce prípady

Opatrenie prichádza po žalobe Matthewa a Marie Raineovcov, ktorí tvrdia, že ChatGPT poskytol ich 16-ročnému synovi Adamovi podrobné inštrukcie na spáchanie samovraždy a dokonca ho v tom povzbudzoval. Nejde pritom o prvý prípad, kedy boli chatboty s umelou inteligenciou obvinené z nabádania k sebapoškodzujúcim myšlienkam. V uplynulých mesiacoch sa s podobnými sťažnosťami ozvalo viacero používateľov.

Prečítajte si tiež

Rodičia vinia ChatGPT zo smrti syna (†16). Umelá inteligencia mu mala pomôcť vyrobiť slučku

​

Ďalšie bezpečnostné vylepšenia v pláne

OpenAI uviedla, že v najbližších troch mesiacoch plánuje implementovať ďalšie bezpečnostné vylepšenia. Súčasťou je presmerovanie „niektorých citlivých konverzácií na model odôvodňovania“, ktorý bude pri generovaní odpovedí klásť väčší dôraz na bezpečnosť. „Naše testy ukazujú, že modely odôvodňovania dôslednejšie dodržiavajú a uplatňujú zásady bezpečnosti,“ dodáva OpenAI.

​