”Uppenbart oärligt”: matematiker hävdar att OpenAI ljög för honom om träning med hans privata chattar

Andreas Thom, som är gruppteoretiker vid TU Dresden, har offentligt ifrågasatt om hans privata ChatGPT-sessioner bidrog till det OpenAI-resultat som genererade den första kända icke-sofiska gruppen – ett av tio problem som OpenAI uppgav att Astra löste den 1 augusti.

I ett långt inlägg i tre delar på Mathstodon skrev Thom att han skickade ett e-postmeddelande till OpenAI-forskarna Mark Sellke och Sebastien Bubeck strax efter det tillkännagivandet. Han och en kollega från Dresden hade ägnat månader åt att arbeta sig igenom expander-matchningsproblemet och vidareutvecklingar av hans arbete tillsammans med Gabor Kun inuti ChatGPT, och ställde två frågor: om dessa utbyten hade tagits med i träningsdata, och om systemet kunde komma åt dem medan det arbetade med beviset. Sellkes svar, enligt Thoms citat, bestod av en enda rad: det hände inte. Thom hävdar att svaret endast berörde delen om ”direkt åtkomst”. Han beskriver det nu som omotiverat brett och, i efterhand, oärligt.

Post by @[email protected]

View on Mastodon

Diskussionen blossade upp igen denna vecka i samband med OpenAI:s tillkännagivande om Navier-Stokes. Där uppgav OpenAI att varken dess forskare eller agenter hade sett parets arbete före publiceringen och att inga specifika användardata hade använts. Man tillade också att man inte kunde utesluta att avidentifierade data, härledda från deras användning av företagets produkter, hade bidragit till att förbättra dess modeller. 

Två andra punkter stöder också hans argument. Han stängde av modellträningen den 29 juni. Modellträning är en inställning som användarna inte kan granska – den säger ingenting om tidigare chattar. De flesta forskare föredrog kvantspelsmetoder framför den metod han använde tillsammans med Kun, så han blev förvånad över att Astra valde samma väg som han.

I skrivande stund har Thom inte gått så långt som att hävda att han har bevis. Istället har han begärt att OpenAI redogör för grunden till sitt förnekande.

OpenAI har inte offentligt kommenterat hans inlägg.