Sony-patent kan ge AI-censurverktyg till alla spelkonsoler, men medför risker

Den roll som generativ AI bör spela i spelutvecklingen har ständigt debatterats. Sony anser att AI också skulle kunna göra det möjligt för spelare att enkelt filtrera bort eller ersätta stötande innehåll. Ett nytt patent, upptäckt av Clawseomegamerbeskriver en mycket anpassningsbar form av censur. Men eftersom tekniken inte är begränsad till PS5-konsoler kan kritiker hävda att den är mogen för missbruk.

Sony-patentet kallas "Automatic Bespoke Edits of Video Content Using AI" och har ett publiceringsdatum den 4 december. Sekvensen skulle innebära att en processor identifierar scener som en användare vill undvika. En andra processor skulle sedan radera eller modifiera delar av video eller ljud enligt fördefinierade regler. I dokumentet nämns "videospelinnehåll" som en potentiell tillämpning.

Inlagan förklarar hur standarder för betygsättning av spelfilmer eller musik utvecklas över tid. AI-verktyg skulle kunna göra det möjligt för dagens publik att omforma innehåll för att uppfylla förändrade standarder. Detta tillvägagångssätt skulle ha uppenbara fördelar för föräldrar. Vårdnadshavare kan ha olika uppfattningar om vad som kvalificerar sig som explicit. Men, vilket inte nämns i patentet, det skulle också kunna möjliggöra censur baserad på politisk övertygelse.

Sonys AI-censur kan bli en industristandard

I dokumentet hittar läsarna referenser till Nintendo och Microsoft, som konkurrerar med PlayStation-konsoler. Även om tekniken skulle fokusera på "datorekosystem", skulle den kunna tillämpas på all konsumentelektronik.

I Sony-patentet betonas att användarna ska ha kontroll över vad AI-tekniken blockerar. Under uppspelningen skulle meddelanden på skärmen kunna varna tittarna för stötande material. De skulle då ha alternativ, inklusive att ändra ljud eller video eller till och med "infoga deepfake ersättningsinnehåll." En ny censurerad version av verket skulle kunna genereras.

Med alla AI-verktyg finns det naturligtvis en potential för dåliga aktörer att utnyttja deras kapacitet. Det mest oroande är att deepfakes ofta gör det svårt att upptäcka redigerat innehåll. Det är också oklart om maskininlärning har avancerat till den punkt där föräldrar kan lita på det för att hålla barn säkra. I vilket fall som helst, som med en nyligen Sony-förslag för att förbättra haptisk feedbackkan det dröja flera år innan spelarna får se denna adaptiva censur på konsoler.