MIT-professor varnar i ny bok: Vad vi blir när vi pratar med maskiner

En LLM kan generera en mening som: ”Det låter verkligen jobbigt. Jag förstår varför det gjorde dig ledsen.” Människor upplever den här meningen som empatisk. Men LLM:er är inte medkännande, de upplever inte känslor, de känner inte med (oss) — de simulerar helt enkelt empati.

Ändå är LLM:er redan samtalspartner för många människor när det gäller mänskliga och känslomässiga frågor och situationer. De används som rådgivare vid kärlekssorg, för att hålla barn sysselsatta eller till och med för att fylla tomrummet när terapeutisk vård inte finns tillgänglig.

I sin nya bok ”Artificial Intimacy: Who we become when we talk to machines” (Amazon) varnar MIT-professorn och sociologen/psykologen Sherry Turkle för konsekvenserna för samhället. Hon grundar sin kritik på sina observationer och forskningsresultat:

LLM:er verkar lyssna tålmodigt och säger sällan emot, samtidigt som de ger beröm och komplimanger. Verkliga människor kan vara betydligt mer krävande, särskilt när det gäller att lösa känslomässiga konflikter; att hantera andra kräver ofta hårt arbete, liksom att upprätthålla relationer och hålla kontakten. När människor i allt högre grad delar sina bekymmer och konflikter med chattbotar och undviker samtal med verkliga människor, övar de allt mindre på socialt samspel i verkliga livet och kan till och med förlora förmågan att se sig själva som ”relationella” varelser i ett samhälle präglat av mångfald. Chattbotar simulerar bara empati; de känner ingenting och har inget genuint intresse av välmåendet hos personen de pratar med. Det kan vara mycket farligt.

Barn och tonåringar är särskilt sårbara till följd av detta. Barn måste fortfarande lära sig att skilja mellan saker och människor, lära sig att samspela socialt, bygga tillit och känna sig bekväma med att tillbringa tid ensamma för att utveckla sin egen fantasi. Ändå upplever barn ofta chattbotar som en verklig ”person i telefonen”.

I grund och botten handlar Turkles argument inte bara om AI, utan om vår relation till bekvämlighet. Ju mer tekniken befriar oss från obekväma situationer, desto mindre kanske vi övar på att hantera sådana situationer. Det gäller sociala situationer lika mycket som att hitta information eller bygga upp vår egen kunskap. Genom den intensiva användningen av LLM:er riskerar samhället att i allt högre grad förlora båda dessa förmågor. Eller, som författaren uttrycker det:

”Vi håller på att förlora våra färdigheter som relationella varelser. Vi håller också på att förlora våra färdigheter i arbetslivet. Vi håller på att förlora våra färdigheter i personliga relationer. Det gäller över hela linjen.”

Och hennes rekommendation: Vad bör vi göra? För det första bör vi acceptera att livet innebär friktion. Vi lär oss av den, även — eller särskilt — eftersom den är svår och kräver ansträngning. Friktion är inte något dåligt; tvärtom. Vi behöver utveckla förmågan att ta oss igenom svårigheter och växa av dem. Om vi bara undviker svårigheter vinner vi ingenting; tekniken försvagar oss som individer. Vi bör gå samman med andra människor, skapa en motrörelse och stärka de sociala aspekterna av våra egna liv. Möt livets friktion, för livet är friktion!