CMV Subreddit infiltrerad av bots för ett oetiskt universitetsexperiment

Forskare från University of Zurich genomförde i hemlighet en studie med AI-botar för att se om de förändrar människors åsikter om olika ämnen. Experimentet riktade sig till subreddit r/changemyview (CMV), en populär diskussionstråd om många ämnen från motsatta synpunkter.

De icke namngivna forskarna kontaktade inte moderatorerna i förväg eller sökte tillstånd innan de AI-genererade robotarna användes. Moderatorerna informerades efter experimentet via e-post som "en del av ett avslöjande steg"

Några av de mer fördömande exemplen inkluderar en bot "som låtsas vara ett våldtäktsoffer", en som agerade "som en traumarådgivare som specialiserat sig på missbruk" eller en bot som poserade "som en svart man som motsatte sig Black Lives Matter."

Moderatorerna anklagade också forskarna för att ha bytt från en planerad metod med "värdebaserade argument" som godkänts av universitetets etiska kommission till mer "personliga och finjusterade argument" som inte godkänts.

Robotarna fick tillgång till Originalposterns (OP) personliga attribut, vilket inkluderade kön, ålder, plats, etnicitet och politisk inriktning som härleds från deras inläggshistorik på plattformen. Forskarna hävdade att metoden var motiverad eftersom "avsaknaden av befintliga fältexperiment utgör en oacceptabel lucka i kunskapsmassan"

Svaret från forskargruppen vid University of Zurich gjorde inte mycket för att släcka elden. De hävdade att de var "engagerade i full transperens" De argumenterade för sin sak genom att "hjälpa samhället att förbereda sig för den verkliga effekten av AI-driven övertalning"

Ännu viktigare var att de trodde att detta projekt "gav viktiga insikter" och "att undertrycka publicering inte står i proportion till vikten av de insikter som studien ger."

I ett e-postmeddelande som skickades till Engadgethävdade forskarna att "de potentiella fördelarna med denna forskning väsentligt uppväger dess risker"

Det blev så illa att Reddits chefsjurist, Ben Lee, svarade på inläggen och sa att teamet hade "förbjudit alla konton som är associerade med University of Zurichs forskningsinsats" Lee sa att Reddit var "i färd med att nå ut till University of Zurich och det här specifika forskningsteamet med formella juridiska krav"