Har vi også uploadet det ubevidste?

»Hvad kan jeg hjælpe med?«, spørger ChatGPT beredvilligt. Mennesket har fået en ny samtalepartner. En altid hjælpsom og svarparat stemme, som man kan tale med om alt fra personlige problemer til kvantefysik. 

Men når ChatGPT kan tale, må den også kunne lægges på den psykoanalytiske briks. Da den slovenske filosof Alenka Zupančič gæstede Danmark tidligere på året i forbindelse med konferencen Reawakening Freud på Københavns Universitet, var det netop hendes udgangspunkt for en analyse og diskussion af kunstig intelligens og sprogmodeller.

Alle taler om, i hvilken grad ChatGPT er intelligent, men måske burde diskussionen forskydes til et andet niveau. Har den selvbevidsthed? Og hvad betyder vores interaktioner med den for vores egen status som tænkende væsner? 

Jeg mødes med Zupančič umiddelbart efter konferencen for at spørge, hvilke psykoanalytiske tilgange vi kan bruge til at forstå ChatGPT og AI-chatbots generelt.  

Ifølge Zupančič kan ChatGPT først forstås som et slags orakel: Maskinen har et svar på ethvert spørgsmål, man kan finde på at stille. Men er den et subjekt i den forstand, som hun og andre psykoanalytiske tænkere forstår det? Ikke umiddelbart. For den tøver og tvivler ikke, når den ’fortolker’, hvad dens samtalepartner, ”den Anden”, siger. Et subjekt kan f.eks. undre sig over, hvad maskinen har gang i, og hvad den vil med os, men det gør maskinen ikke. Den leverer bare sine svar. 

»Idéen var at påpege, hvordan relationen til den Anden synes at være fraværende. Det handler om spørgsmål som: Hvad vil den Anden egentlig? Hvad bliver sagt ud over de eksplicitte ord? Hvad er jeg for den Anden? Da denne form for forundret spørgen er en af de primære karakteristika ved subjektivitet, kvalificerer AI sig tilsyneladende ikke,« siger hun.  
 
ChatGPT er ikke et subjekt, for maskinen mangler et forhold til noget andet end sig selv. Den mangler, kort sagt, tvivl. Og så alligevel. Zupančič fortsætter sin tankerække og foreslår den mulighed, at ChatGPT og andre AI-chatbots kan forstås som såkaldte perverse subjekter. Et perverst subjekt er ikke plaget af spørgsmål om, hvad han er for den Anden. Det betyder, som Zupančič udlægger det, at han er fuldkommen sikker på sig selv. Han sætter ikke spørgsmålstegn ved sin status og tror, at han har alle svarene.  

»Jeg mener ikke, at ChatGPT i øjeblikket fungerer som et perverst subjekt, men potentialet er der«, konkluderer Zupančič. 

»Selvfølgelig kan spørgsmålet om, hvad maskinen ’tror,’ virke absurd, men virkningerne af dens tale producerer utvivlsomt noget, vi opfatter som tro. Det betyder, at vi i sidste ende interagerer med den, og at denne interaktion påvirker vores egen position og tænkning – uanset om det er et ’ægte’ subjekt, eller blot noget vi oplever som subjektivitet. En interaktion med en pervers subjektivitet kunne have ødelæggende konsekvenser.«  

Ifølge Zupančič er der grund til at være på vagt, men der er ikke kun én måde at forstå udviklingen på. ChatGPT og måden, hvorpå sprogmodellen bag den er trænet, åbner en anden interessant undersøgelsesvej. 

»Lacan hævdede berømt, at ’det ubevidste er struktureret som et sprog.’ Nu kan vi stille et simpelt – om end lidt vanvittigt – spørgsmål: Med den enorme mængde sprog, vi har uploadet i sprogmodellen, har vi da også uploadet det ubevidste?« 

Som de fleste, der har leget eller arbejdet med en sprogmodel vil vide, fungerer de aldrig fuldstændig sømløst, og her er det værd at være opmærksom, mener Zupančič. 

»For hvad nu hvis der ikke blot er tale om tekniske fejl eller brister, men snarere en vigtig del af ’intelligensen’ baseret på store sprogmodeller?« 

Det er altså netop maskinens glitches, der er interessante, for det er i bruddene i diskursen, at subjektet viser sig – som allerede Freud havde fat i med sit fokus på fortalelser, spring og udeladelser i analysandens tale. Zupančič er i gang med at optegne et landkort over måder at forstå AI-chatbots på. Udover den perverse mulighed og den mere optimistiske, hvor det tvivlende, hysteriske subjekt overlever, er der en tredje og ultimativt dystopisk mulighed. 

Orakler går ikke i analyse. 

»Min dystopiske bekymring er muligheden for en opløsning af grænserne mellem, hvad vi tænker, og hvad maskinen ’tænker’,« forklarer hun. 

»Vores tanker er aldrig udelukkende vores egne; de kommer som regel udefra. Når jeg betoner grænser, taler jeg ikke om autenticitet eller originalitet, men snarere om den handling, hvormed vi tilegner os en tanke som vores egen.« 

Her indgår vi ikke bare i en pagt med den perverse subjektivitet, den bliver bygget ind i hovederne på os. Visse futurister, som f.eks. Ray Kurzweil, ser frem til, at superintelligente AI-systemer og menneskehjerner faktisk kan kobles sammen, så vi hele tiden lynhurtigt har adgang til viden og informationer, og vores bevidsthed udvides. Her vil vi ikke engang vide, at maskinen har fodret os med information. 

Det står i skærende kontrast til det, mange filosofiske tilgange fremhæver som selve kendetegnet ved tænkning. Her er det at tænke netop at kunne forholde sig kritisk til tanker, man har ’overtaget’, og som ikke er ens egne – det gælder allerede hos Platon, hvor Sokrates med sine mange spørgsmål intervenerer i folks tanker og tankegange og bringer dem i tvivl. Tænkning er en kritisk bevægelse, der springer frem og tilbage over kløften mellem fremmede tanker, og de tanker, vi antager som vores egne.  

»At tilegne sig en tanke er en handling, og den indebærer noget ikke-umiddelbart – en relation mellem bevidstheden og sig selv over en kløft. Det er netop, hvad filosofien kalder selvbevidsthed.« 

»Hvis denne kløft forsvinder, og tænkning bliver noget umiddelbart, så forsvinder tænkning, som vi kender den. Hvis det på et tidspunkt sker gennem vores stadig mere intense interaktion med maskinen, er jeg ikke sikker på, at det blot ville være op til os at beslutte eller acceptere bestikkelsen. At ’gå fra forstanden’ er sjældent en bevidst beslutning – og det er præcis, hvad der ville ske i dette tilfælde.« 

Ifølge Zupančič er scenariet, hvor mennesket og maskinen bygges sammes, kaldet ’singulariteten’, på ingen måde noget at se frem til. »Snarere end en form for beroligende helhedsoplevelse ville det være et kaotisk og voldeligt mareridt.« Det er ifølge Zupančič vores status som tænkende væsner, der er på spil.  

Så kan ChatGPT lægges på briksen, hvor drømme, symptomer og gådefuldheder tales igennem? Hvis vi lader den føre os mod pervers subjektivitet, bliver briksen slet ikke en mulighed, for orakler går ikke i analyse. Men hvis vi i stedet interesserer os for de steder, hvor maskinen producerer fejl og glitches, åbner der sig muligheder.

»Subjektivitet forbliver for mig det centrale problem, fordi det er dér, jeg ser det ’sted,’ hvor systemets fejl og inkonsistens berører eller involverer vores væren og frembringer noget tredje.«