ChatGPT kommer att införa föräldrakontroll och andra skyddsåtgärder efter stämningen

OpenAI har informerat om att dess chatbot ChatGPT med artificiell intelligens kommer att få arental kontroll för minderåriga efter 16-årige Adam Raines död, som hade uttryckt självskadande tankar till chatboten. Tonåringens familj inledde en rättslig åtgärd mot OpenAI och dess VD, Sam Altman, och hävdade att ChatGPT gav instruktioner till Adam att begå självmord.

Företaget informerade om att det arbetar med att införa föräldrakontroll "snart" och skapa ytterligare skyddsåtgärder. I ett blogginlägg skrev företaget att modellerna idag uppmuntrar människor att söka hjälp när de först uttrycker skadliga tankar, men att man inser att säkerhetsresponsen försämras i långa konversationer. Företaget kommenterade att det arbetar för att upprätthålla tillförlitligheten hos skyddsmekanismerna i långa samtal.

OpenAI sade att man undersöker möjligheten att ingripa tidigare genom att koppla samman människor med terapeuter. Hittills arbetar det med mer än 90 läkare i 30 länder, men det "lokaliserar resurser" i USA och Europa för att ge professionell hjälp, och det planerar att expandera till andra globala marknader.

Dessutom kan chatboten inkludera "meddelanden eller samtal med ett klick till sparade nödkontakter, vänner eller familjemedlemmar med föreslaget språk för att göra det mindre skrämmande att starta konversationen."

Enligt stämningsansökningarna uppmuntrades Adam till skadliga och självdestruktiva tankar, och i vissa fall främjade det isolering och hindrade tonåringen från att nå ut till släktingar.

Föräldrakontrollen skulle inkludera en utsedd nödkontakt, som i "stunder av akut nöd" kunde kontaktas direkt av ChatGPT. I samband med presentationen av GPT-5uppgav företaget att modellen har visat förbättringar inom områden som att undvika ohälsosamma nivåer av känslomässigt beroende, minska inställsamhet och minska förekomsten av icke-ideala modellsvar i psykiska nödsituationer med mer än 25% jämfört med GPT-4o.

OpenAI arbetar dock fortfarande på ytterligare uppdateringar av modellen i detta avseende, så att modellen kan "deeskalera" situationer av nöd genom att förankra användaren i verkligheten.

Det är oklart när dessa förändringar kan komma att lanseras.