"Världen är i fara": Anthropics chef för AI-säkerhet säger upp sig, oförmögen att förena sitt arbete med sina värderingar

I sitt avskedsbrev redogör Sharma inte bara för skälen till sin avgång utan levererar också en skarp varning: "Världen är i fara." Han beskriver den nuvarande situationen som en "polykris", där flera sammanhängande kriser utvecklas samtidigt. Enligt honom är detta redan på väg att hända. Han klargör att hans oro inte är begränsad till tekniska hot som artificiell intelligens eller biovapen, utan omfattar ett bredare spektrum av sammanlänkade globala kriser - inklusive ökande geopolitiska spänningar.

Sharma understryker hur svårt det är att upprätthålla sina värderingar i det dagliga arbetet. Även organisationer med starka principer utsätts för ständiga påtryckningar att ändra prioriteringar eller göra pragmatiska kompromisser. Anthropic presenterar sig som ett säkerhetsfokuserat, värderingsdrivet alternativ till andra ledande AI-bolag - vilket gör hans kritik än mer betydelsefull.

Sharma planerar att studera filosofi - samhället reagerar med respekt

Det är anmärkningsvärt att Mrinank Sharma planerar att lämna teknikbranschen helt och hållet och studera filosofi istället. Överlag har communityn på X reagerat med respekt och förståelse. Många användare berömmer hans arbete inom AI-säkerhet och önskar honom lycka till. Vissa kritiker hävdar att han kunde ha haft större inflytande om han hade stannat kvar på företaget. Sharma kontrar med att det faktum att han står utanför organisationen ger honom större frihet att tala öppet. Detta tyder på att han kan fortsätta att följa utvecklingen inom tekniksektorn och dela med sig av sina åsikter på avstånd.

Utöver sina kommentarer om globala kriser innehåller Sharmas avskedsbrev också referenser som har väckt uppmärksamhet. I fotnoterna citerar han ett verk om så kallad "CosmoErotic Humanism", publicerat under pseudonymen David J. Temple. Namnet uppges vara kopplat till Marc Gafni, en andlig lärare som tidigare har kritiserats för anklagelser om sexuella övergrepp. Även om Sharma inte kommenterar denna koppling har referensen väckt frågor om de intellektuella influenser som ligger bakom hans beslut att avgå.

Det är fortfarande oklart vilken inverkan Sharmas avgång kommer att ha på Anthropics framtid. Företaget bakom chatboten Claude driver för närvarande en stor reklamkampanj, som marknadsför sin AI-assistent som ett annonsfritt alternativ. I det sammanhanget kan tidpunkten för hans avgång visa sig vara obekväm.