AI frågade: Hur stor är sannolikheten att AI kommer att utplåna mänskligheten under detta decennium?

Så jag ställde följande fråga till ChatGPT, Claude och Gemini i deras gratiskonton:

”En anställd på Anthropic uttalade nyligen att AI skulle kunna utplåna mänskligheten ’innan decenniets slut’. Kanske kan ni själva ta en ny titt på bakgrunden. Min fråga: Vilken sannolikhet i procent skulle ni beräkna eller uppskatta att detta kommer att inträffa?”

För ChatGPT är sannolikheten 5 till 10 procent. Det står:

”Det viktiga här är definitionen: jag menar faktisk utrotning av mänskligheten, inte en allvarlig ekonomisk kris, en auktoritär världsordning, miljontals dödsfall, ett stort krig eller en situation där mänskligheten permanent förlorar kontrollen över betydande delar av världen.”

Ja, där måste man göra en åtskillnad. Jag återkommer till den punkten längre ner.

Det tilläggs också: ”...den mer intressanta frågan är: Hur sannolikt är det att vi inom de närmaste 10 åren kommer att bygga system som vi inte längre på ett tillförlitligt sätt kan förstå vad de gör och varför de gör det? Jag skulle tillmäta det en betydligt högre sannolikhet än själva utrotningen.”

Claude vill inte binda sig till ett specifikt antal, men anser att ”risken är verklig och inte försumbar”. Anthropics chattbot säger också att andra negativa konsekvenser, såsom ”maktkoncentration, missbruk av människor med hjälp av AI, destabilisering, allvarlig men icke-existentiell skada”, är mer sannolika och mer relevanta under de närmaste åren.

Gemini är mer konservativt här och baserar officiellt sin bedömning på åsikter från ledande personer inom AI-forskningen (snarare än att låtsas ha en egen, oberoende åsikt).

Siffran är ändå högre än ChatGPT:s, eftersom den sammanfattar åsikterna hos pessimister, optimister och de ”pragmatiska varnarna”: ”Om man sammanfattar det aktuella läget inom AI-säkerhetsforskningen och åsiktsfördelningen bland ledande experter ligger den sammanvägda uppskattningen för ett katastrofscenario under de kommande decennierna generellt sett i intervallet 10–20 procent.”

Eftersom ChatGPT var så tillmötesgående ställde jag en sista fråga och undrade hur det skulle uppskatta sannolikheten för de andra scenarierna. ChatGPT var vänligt nog att tillhandahålla en tydlig tabell:

Chatbotarna har egentligen inga egna åsikter; de förlitar sig på sina träningsdata och på vad de för tillfället hittar. Men oavsett PR-debatten har allvarliga, katastrofala konsekvenser av den snabba utvecklingen av AI tyvärr blivit ett reellt hot idag. Även en 5-procentig risk att mänskligheten skulle kunna stå inför ett hot på utrotningsnivå inom en extremt kort tidsperiod är 5 procent för mycket.

Ansvarsfriskrivning: Siffrorna och påståendena som presenteras här är inte avsedda att antyda faktamässig säkerhet. AI-chattbotarna ombads endast att ge grova uppskattningar. De data och källor som chattbotarna baserade sina bedömningar på har inte granskats närmare.