Claude kan nu sätta ett osynligt avtryck på din text, även om du har skrivit den själv

Anthropic har infört ett nytt system som bäddar in osynliga vattenmärken direkt i text som genereras av Claude. Till skillnad från metadata som bifogas ett dokument eller en bild är det nya märkningssystemet utformat för att följa med den genererade texten när den kopieras och klistras in någon annanstans och kan till och med bestå även efter viss efterföljande redigering.

Europeiska unionen kan åtminstone till viss del ta åt sig äran – eller skulden – för utvecklingen. Anthropic uppger att man, i egenskap av leverantör av både generativa AI-modeller och -system, har undertecknat EU:s AI-lags artikel 50.2, uppförandekoden om transparens för AI-genererat innehåll. Det nya märkningssystemet är det sätt på vilket företaget för närvarande avser att omsätta dessa åtaganden i praktiken, även om företaget inför det över hela världen istället för att begränsa det till den union som ligger bakom den regulatoriska drivkraften.

Företaget uppger att alla Claude-modeller som lanseras den 2 augusti 2026 eller senare stöder tekniken från och med lanseringen. Anthropic avser också att successivt utvidga systemet till äldre modeller. Systemet är inte heller begränsat till marknader där krav på märkning av AI-innehåll kan göra sådana åtgärder nödvändiga, eftersom företaget inför det globalt.

Anthropic avslöjar inte hur vattenmärket fungerar

Enligt Anthropic vävs vattenmärket in direkt i Claudes textutdata utan att det synligt förändrar det resulterande svaret. Detta skiljer det i grunden från konventionella metadata om ursprung, som helt enkelt kan försvinna i samma ögonblick som innehållet frigörs från sin ursprungliga fil.

Exakt hur Anthropic åstadkommer detta förblir något av ett mysterium. Företaget har hittills avstått från att publicera detaljerad teknisk dokumentation som förklarar hur textvattenmärket inbäddas eller upptäcks. Man hävdar dock att märkningen inte påverkar ”betydelsen, kvaliteten eller stilen” i Claudes svar.

Systemet sträcker sig också betydligt längre än den konsumentinriktade chatboten Claude. Anthropic uppger att de modeller som stöds genererar märkt text när de används via Claude, Claude Code, Cowork, företagets API och tredjeparts molnplattformar. Utvecklare som använder Claude-modeller på icke-inbyggda sätt är därför inte undantagna från det nya härkomstsystemet.

Anthropic planerar på sikt att göra detekteringsmekanismerna tillgängliga för tredje part, även om företaget ännu inte har avslöjat hur dessa verktyg kommer att fungera eller, för den delen, vem som kommer att få använda dem.

Ironiskt nog bevisar ett Claude-vattenmärke inte att Claude har skrivit texten

Det finns dock en ganska väsentlig reservation. Att upptäcka Claudes vattenstämpel innebär inte nödvändigtvis att Claude faktiskt har skrivit det underliggande materialet. Allt som passerar genom Claude kan potentiellt få vattenstämpeln, vilket gör dess närvaro till ett tecken på Claudes inblandning snarare än ett bevis på att AI är upphovsman.

Anthropic medger själva att även text som helt och hållet är skriven av människor kan få ett vattenmärke efter att ha bearbetats av Claude. En författare skulle till exempel kunna skriva en hel artikel själv och endast använda Claude för att korrekturläsa, översätta eller redigera den. Den färdiga texten kan ändå komma att bära Claudes osynliga märke.

Den som är fast besluten att bli av med nämnda vattenstämpel måste ta till omfattande redigering, omformulering, översättning eller kombination av Claudes utdata med annat material, vilket i praktiken undergräver dess ursprungliga syfte. Det verkar också oundvikligt att tekniken kommer att ge upphov till en uppsjö av småskaliga verksamheter som ägnar sig åt att ta bort den fruktade vattenstämpeln från text som genererats av Claude.

Den situation som uppstår är därför något märklig. Ett positivt resultat kan tyda på att Claude vid någon tidpunkt har bearbetat en text, men det kan inte slutgiltigt fastställa att Claude har skrivit den. Omvänt bevisar frånvaron av ett detekterbart vattenmärke inte nödvändigtvis att Claude aldrig var inblandad. 

Kommer detta verkligen att minska AI-slarvet? Troligen inte

Det för oss i princip tillbaka till ruta ett, eftersom förekomsten – eller avsaknaden – av Claudes vattenstämpel inte bevisar någonting. AI-slop-ifieringen verkar fortsätta obehindrat, åtminstone under överskådlig framtid. 

Det skapar dock ett oroande prejudikat för andra AI-företag, som utan tvekan kommer att följa Anthropics exempel och försöka bygga in mekanismer för härkomstverifiering i sina AI-resultat. ”Vi förorenar inte våra resultat med osynliga märkningar” kommer därför att bli en legitim marknadsföringsslogan för AI-företag i en nära framtid. 

Bilder och vissa andra filer som genereras med hjälp av Claude hanteras på ett annat sätt. Anthropic använder C2PA Content Credentials för stödd icke-textbaserad output, där kryptografiskt signerad härkomstinformation bifogas till genererade filer istället för att utsätta dem för samma teknik för textvattenmärkning.

För tillfället är kanske den största obesvarade frågan vad Claudes osynliga textmärkning egentligen består av. Om systemet påverkar valet av token under genereringen skulle dess implementering och potentiella effekt på modellens resultat kunna visa sig vara betydligt mer intressant än konventionell härkomstinformation baserad på metadata.

Anthropic uppger att ytterligare teknisk dokumentation om deras vattenmärkningsmetod kommer att publiceras i framtiden. Fram till dess förblir det okänt exakt vad Claude gör bakom kulisserna.