Elon Musks Grokipedia används som källa i ChatGPT-svar

Enligt en nyligen publicerad rapport från The Guardiananvänder den senaste ChatGPT-modellen i allt högre grad Elon Musks online-encyklopedi Grokipedia för att svara på frågor. Som en del av utredningen citerade AI plattformen för olika ämnen, till exempel politiska strukturer i Iran samt biografiska detaljer om historiska personer.

Denna utveckling väcker oro över kvaliteten på den information som tillhandahålls av ChatGPT. För att vara mer exakt genomgår dessa detaljer inte samma verifieringsprocesser som källor som underhålls av redaktionella team eller en större gemenskap.

Grokipedia skapades av Elon Musk som en konkurrent till den etablerade Wikipedia. Medan Musk anklagar Wikipedia för att vara vänstervridet och säger att hans projekt strävar efter sanning och neutralitet, ser kritiker ofta Grokipedia som den motsatta ytterligheten. De menar att plattformen ibland presenterar innehåll från ett politiskt högerorienterat perspektiv eller tar upp kontroversiella ämnen på ett ensidigt sätt.

Till skillnad från Wikipedia, som redigeras av människor, genereras texterna på Grokipedia i första hand av den interna AI-modellen Grok. Användarredigeringar är inte en del av detta system, eftersom kvaliteten förmodligen kontrolleras av xAI-anställda. När andra språkmodeller som GPT-5.2 använder dessa maskingenererade texter som faktakälla uppstår en teknisk återkopplingsloop där AI:er lär sig av varandra.

Detta ökar risken för ett s.k. "garbage in, garbage out"-scenario. Om AI:er börjar använda ofiltrerat material från andra AI:er som grund för sina egna svar kan felaktigheter eller specifika fördomar föras vidare utan någon form av granskning. The Guardians undersökning har redan visat att ChatGPT citerar Grokipedia och upprepar påståenden som går utöver etablerad kunskap eller som redan har motbevisats för länge sedan. Detta illustrerar faran med att desinformation ser mer trovärdig ut på grund av AI-modellernas ömsesidiga citeringar, och att det blir allt svårare för användarna att upptäcka sådan falsk information.

OpenAI har redan svarat på rapporten och betonar att modellens webbsökning försöker återspegla ett brett spektrum av offentligt tillgängliga källor och synpunkter. En talesperson uppgav att säkerhetsfilter finns på plats för att minska risken för att visa länkar till innehåll med hög potential för skada. Dessutom tillhandahåller ChatGPT svar med citat och källor för öppenhetens skull. Företaget nämnde vidare pågående program som är avsedda att filtrera bort källor med låg trovärdighet.