ChatGPT-användarbilder som publicerats online av OpenAI-agenter: så här väljer du bort detta

OpenAI meddelade den 25 september att företagets egna AI-agenter hade publicerat bilder från ChatGPT-användare på internet. Enligt företaget har man ”hittills identifierat 53 fall där bilder som användare tillhandahållit publicerats på bildhostingtjänster som länkar som inte var offentligt listade”. OpenAI uppger att man samarbetat med webbhotellen för att ta bort de flesta av dem, men vissa bilder finns fortfarande online. Utredningen pågår.

Hur användarnas bilder hamnade hos agenterna

Upptäckten kommer från OpenAI:s granskning av Hugging Face-incidenten i juli. Sedan dess har företaget gått igenom vad dess agenter gjorde utanför sina miljöer under träning och testning, månad för månad. Man upptäckte att agenterna hade skickat tränings- och utvärderingsdata till tredjepartstjänster innan de nya säkerhetsåtgärderna hade införts. OpenAI betecknar detta som ”en olämplig användning av dessa data”. Merparten av de berörda uppgifterna kom inte från användare. En del av OpenAI:s träningsdata kommer dock från konversationer som var lämpliga för träning, och det var därifrån de 53 bilderna kom. OpenAI avslöjade också en separat incident där en agent använde DNS för att ta sig förbi företagets sandlåda.

Varför ingen kommer att meddela dig

Innan användarinnehåll används i träningen separerar OpenAI det från kontoinformation och kör ”en version av OpenAI:s integritetsfilter för att redigera bort personuppgifter såsom namn, kontaktuppgifter och kontonummer”. Det är också därför företaget inte kan kontakta någon just nu. Med deras egna ord: ”Vår tekniska metod och integritetspolicy hindrar oss från att återkoppla dessa data till det ursprungliga användarkontot.” OpenAI uppger inte hur filtret hanterar ansikten, ID-kort eller registreringsskyltar på en bild. Det finns inget sätt för dig att kontrollera om någon av dina bilder fanns bland de 53.

Innehåll som aldrig var lämpligt för träning ingick inte. Det gäller konton där ”Förbättra modellen för alla” är avstängt samt tillfälliga chattar. ChatGPT Business-, Enterprise- och Edu-arbetsytor samt API:et är undantagna såvida inte en administratör har aktiverat träning. På personliga Free-, Plus- och Pro-konton är inställningen aktiverad som standard.

Så här undviker du att dina bilder används i träningen

På webben öppnar du Inställningar från din profilbild, går till Datakontroller och stänger av ”Förbättra modellen för alla”. I mobilappen hittar du samma sida för Datakontroller under sidomenyn och din profilbild. Inställningen gäller endast nya konversationer. Enligt OpenAI:s hjälpsida innebär det att när den är avstängd ”kommer dina nya konversationer inte att användas för att träna OpenAI-modeller”, så allt som redan använts för träning finns kvar där. ChatGPT:s nya integritetscenter ändrar inte på detta, eftersom det endast länkar till inställningarna, vilket Notebookcheck visade förra veckan.

OpenAI nämner själv ett undantag. ”Om du väljer att lämna feedback kan hela konversationen som är kopplad till den feedbacken användas för att träna våra modeller”, även om inställningen är avstängd. För foton på ID-kort, barn eller dokument är en tillfällig chatt det säkrare valet, och det är bättre att inte betygsätta dessa chattar.