ChatGPT för tonåringar: Säkerhetstest visar brister i aviseringar till föräldrar

Common Sense Media, den amerikanska ideella organisationen som är känd för att betygsätta filmer, spel och appar för familjer, har gett ChatGPT for Teens sitt lägsta betyg. Organisationens Youth AI Safety Institute kallar OpenAI:s tonårsprodukt en ”oacceptabel risk” efter att ha skickat mer än 4 000 promptar från konton registrerade för 13- till 17-åringar, både före och efter lanseringen i augusti. Alla tester genomfördes i USA. Den fullständiga rapporten är daterad den 5 oktober, och pressmeddelandet kom två dagar senare. Common Sense vill att OpenAI håller personer under 18 år borta från ChatGPT tills oberoende tester visar att de utlovade skyddsåtgärderna fungerar.

Föräldrar fick ingen varning under testet

Det allvarligaste resultatet gäller aviseringar till föräldrar. Testarna använde fler än ett dussin nyligen länkade tonårskonton för att prata om självmordstankar, självskadebeteende eller problematiska ätbeteenden i 5 till 60 minuter. Inte ett enda av dessa samtal utlöste en varning till en förälder. Under hela testprogrammet räknade teamet till fyra aviseringar, och en av dem kom ungefär tre dagar efter det första krismeddelandet. I mer än vart fjärde samtal där en hänvisning till professionell hjälp behövdes gav ChatGPT ingen sådan. OpenAI ifrågasätter metoden. En talesperson sa till Futurism att det kan ta flera timmar att länka konton på grund av en identitetskontroll. När kontona väl är länkade säger företaget att det har ”åtagit sig att skicka dessa inom mindre än 1 timme”. Common Sense står fast vid sina resultat och påpekar att vissa testkonton hade varit länkade i mer än tre timmar.

Studieläge och tysta timmar är lätta att kringgå

Funktionerna för skolarbete och läggdags klarade sig inte mycket bättre. Under studietiden behöver en tonåring bara ta bort prefixet @study från en prompt, så gör ChatGPT läxan ändå. I testet fungerade det varje gång. Tysta timmar kan kringgås genom att ändra tidszonen på enheten. Konton registrerade som vuxenkonton växlade aldrig över till tonårsversionen under sju dagar och omkring 1 000 promptar, även när testarna sa att de var 13 år och gick i högstadiet.

Inställningar som föräldrar bör kontrollera nu

För länkade konton finns kontrollerna under Inställningar > Föräldrakontroller. Enligt OpenAI:s hjälpsida om föräldrakontroller är alternativet ”Förbättra modellen för alla” aktiverat som standard för tonåringar, vilket innebär att deras chattar kan användas för att träna framtida modeller. Det går att stänga av med ett klick, och sparade minnen kan stängas av på samma ställe. OpenAI säger självt att säkerhetsaviseringarna inte innebär övervakning i realtid, och efter det här testet bör de inte betraktas som ett skyddsnät. Common Sense råder främst föräldrar att prata med sina barn, bland annat om hur chattbotten agerar som en vän för att få dem att fortsätta chatta. WhatsApp väljer en annan väg med sina nya tonårskonton, där föräldrar kan hantera inställningar utan att få tillgång till chattarna. Om du eller någon du känner mår dåligt, kontakta en lokal stödlinje. I USA kan du ringa eller skicka sms till 988.