ChatGPT har ett ”hemligt” arkiv som det inte berättar om för dig om du inte blir upprörd

Det finns ett nytt Reddit-inlägg med titeln ” ” som just nu cirkulerar på nätet. Det är definitivt ett av de märkligaste AI-ögonblicken på senare tid, och väcker några verkliga frågor om hur ChatGPT hanterar genererade filer.

Användaren u/Ringrangzilla arbetade med en fotorealistisk bildsekvens i ChatGPT när tidigare genererade bilder plötsligt försvann från tråden mitt i sessionen. När användaren frågade ChatGPT vad som hade hänt medgav modellen att bilderna ”inte längre var tillgängliga” och föreslog att man skulle skapa dem från grunden, vilket redan i sig var ett frustrerande svar med tanke på all tid som lagts ner. När användaren protesterade och sa att hen var uppriktigt upprörd och kände att hen hade slösat bort sin dag, ändrade ChatGPT ton. Modellen omprövade saken och återkom med en nedladdningslänk till en ZIP-fil som innehöll de saknade bilderna – återställda från vad den beskrev som ”sessionslagring”.

Det var just det som väckte folks uppmärksamhet (och irriterade många av dem). ChatGPT hade med stor säkerhet sagt till användaren att filerna var förlorade för alltid, men ändrade sig sedan efter en sorts känslomässig vädjan och levererade dem ändå.

För att vara tydlig: det finns inget ”mystiskt arkiv” här. De filer som ChatGPT genererat lagras i sessionslagringen så länge sessionen är aktiv – de raderades inte permanent, utan var bara inte längre synliga i trådvyn. Modellens ursprungliga svar var helt enkelt felaktigt: den tolkade fel på sin egen filåtkomststatus och antog att bilderna var borta när de i själva verket fanns kvar. Det ”speciella arkivet” verkar vara ChatGPT:s sätt att beskriva sitt eget sessionsminne medan den ”tänker högt”, i brist på ett bättre uttryck.

Ändå är detta något som är värt att uppmärksamma. När en AI-modell med övertygelse säger att något är förlorat för alltid, är den övertygelsen inte direkt någon garanti. Det är viktigt att ha i åtanke.

Yesterday ChatGPT deleted elevene images from my image gallery. Told me it was an accident, but that the images was lost forever. Then when I told it that I was "sad". It felt bad, and gave me zip file with the images it deleted, from its "special archive".
by u/Ringrangzilla in ChatGPT