ChatGPT: vad träningsläget inte stänger av

ChatGPT har en inställning som får människor att känna sig trygga. Den heter ”Förbättra modellen för alla”, finns under Datakontroller, och att slå på den känns som att stänga en dörr. Från och med nu lär sig AI:n ingenting av mig.

Det stämmer, men bara i den utsträckning som OpenAI skriver om det: ”När du väl har valt bort detta kommer nya konversationer inte att användas för att träna våra modeller.” Det finns redan två begränsningar i den meningen. Det handlar om nya konversationer, och det handlar om träning. Allt annat ligger utanför dess ansvarsområde.

Vad reglaget faktiskt gör

Den håller dina konversationer borta från modellträningen från det ögonblick du slår av den. Den gäller för hela kontot, oavsett vilken enhet du använder, och du kan slå på den igen när som helst. Röstläget har en separat inställning.

Vad den inte gör är inte lika tydligt beskrivet. Dina konversationer finns kvar i din historik, de används helt enkelt inte längre för träning. Och eftersom historiken finns kvar, finns också allt som byggts upp utifrån den kvar. Det är där den del som de flesta missar börjar.

Ett: tummarna återkallar växlingen

På samma sida som innehåller det centrala löftet öppnar ett senare stycke upp det igen. Betygsätt ett svar med tummen upp eller tummen ner så ger du feedback. Och sedan, skriver OpenAI, kan hela konversationen kopplad till den feedbacken användas för att träna dess modeller. Detta gäller även uttryckligen fall där du i förväg valt att avstå.

Det är den enda dokumenterade vägen genom vilken en hel chatt fortfarande kan hamna i träningen även när omkopplaren är avstängd. Den utlöses av en gest som de flesta människor betraktar som grundläggande hövlighet. Supportkonversationer fungerar på samma sätt.

Två: reglaget har inget minne av det förflutna

OpenAI framställer löftet som framåtblickande, inte som en återkallelse. Allt som samlats innan du stängde av funktionen kan användas för träning, eftersom det är precis vad företaget förbehåller sig rätten till för personliga konton. Avstängningen träder i kraft från det ögonblick du aktiverar den. Jag kunde inte hitta någon mening om retroaktiv verkan på någon av hjälpsidorna.

Tre: minnen är ett andra system

Minnet är den funktion som låter ChatGPT komma ihåg saker om dig så att du inte behöver upprepa dem. Den hänger inte ihop med träningsknappen, utan hör till personaliseringen. Och den är mer beständig än den ser ut.

Sammanfattningen i dina inställningar visar inte allt. Den är avsedd att fånga de viktigaste detaljerna, men enligt OpenAI är det inte allt som ChatGPT kommer ihåg från dina chattar. På den direkta frågan om sammanfattningen innehåller alla minnen svarar företaget: ”Inte nödvändigtvis”.

Den viktigaste punkten kommer längre ner. Att radera dina minnen och stänga av minnesfunktionen raderar inte de gamla chattarna. Om du slår på minnesfunktionen igen senare kan ChatGPT skapa nya minnen utifrån det som finns kvar i din historik, vilket uttryckligen inkluderar äldre konversationer. Det minne du raderade kan komma tillbaka.

Dessutom gäller i det äldre systemet för sparade minnen att ett minne lever kvar längre än den chatt det kommer ifrån. Och OpenAI kan spara en logg över raderade sparade minnen i upp till 30 dagar.

Fyra: anslutna appar följer sina egna regler

Alla som har kopplat Gmail, Drive, Canva eller någon annan tjänst till ChatGPT har öppnat en andra kanal. På planerna Free, Plus, Go och Pro kan OpenAI använda information från anslutna appar för träning så länge som funktionen är aktiverad. På planerna Business, Enterprise och Edu görs detta inte som standard.

Så reglaget täcker den riktningen. Vad det inte täcker är den andra. Appen ser utdrag ur dina konversationer, och med minnesfunktionen aktiverad även innehåll från dina minnen, samt din IP-adress, enhet och webbläsartyp, språk, region och ungefärlig plats. Dessa uppgifter omfattas av leverantörens villkor, inte av OpenAI:s.

Fem: radering innebär inte att texten raderas överallt

En borttagen chatt försvinner omedelbart från ditt konto och planeras att raderas permanent inom 30 dagar. Med två undantag som OpenAI själva nämner: om chatten redan har avidentifierats och kopplats bort från dig, eller om den måste behållas av säkerhetsskäl eller på grund av juridiska skyldigheter.

I praktiken är det filerna som spelar större roll. Allt du har laddat upp i en konversation hamnar också i ditt bibliotek, och biblioteket är separat. Att radera en chatt raderar inte en fil som lagras där. Detsamma gäller filer i ett projekt eller en anpassad GPT, som finns kvar tills projektet eller själva GPT:n raderas.

OpenAI drar själv slutsatsen: för att helt ta bort något från vad ChatGPT vet om dig måste du radera varje källa där det förekommer.

Sex: säkerhetskontrollerna upphör aldrig

På hjälpsidan för datakontroller finns en rad som är lätt att förbise. Att stänga av minnet och personaliseringen inaktiverar inte säkerhetsfunktioner som kan använda begränsad, säkerhetsrelevant kontext i sällsynta, högriskfyllda situationer så att ChatGPT kan svara på ett säkrare sätt. Det finns ingen knapp för det.

Temporary Chat, som många uppfattar som ett inkognitoläge, är inte heller något undantag. Det används inte för träning, skapar inga minnen och försvinner efter 30 dagar. OpenAI kan fortfarande behålla en kopia i upp till 30 dagar av säkerhetsskäl och granska den för att övervaka eventuellt missbruk. Dina anpassade instruktioner gäller även där.

Vad du faktiskt ska göra

Att ta detta på allvar innebär mer än en inställning. Först själva växlingsknappen, under Profil, Inställningar, Datakontroller. För det andra personalisering och minne, där du raderar sammanfattningen och stänger av funktionen. OpenAI säger att den kontrollen finns på webben och fortfarande håller på att rullas ut på mobilen. För det tredje, rensa Biblioteket, eftersom det är där filerna finns som inte tas bort när du raderar chattar. För det fjärde, titta under Inställningar, Appar för att se vilka tjänster som är anslutna och koppla bort det du inte behöver.

Och för det femte: låt tummarna vara. Ett betyg är den enda gesten som kan leda till att en hel konversation används i träningen trots att du valt att avstå.

För konversationer som bör lämna så få spår som möjligt är Temporary Chat det bättre verktyget. Inte träningsknappen. Hur långt datavägarna nu sträcker sig framgår tydligt av den nya aktivitetsloggen för Mac, som lanserades i Europa den 20 augusti.