Kan man være venner med – eller måske endda elske – en chatbot? Og hvordan skal vi tænke over den nye tsunami af apps, der bruges til at spore kvinders sundhed og kroppe?
Det er nogle af de spørgsmål, der har optaget Sara Dahlman i de sidste to år af hendes postdoc-stilling på Roskilde Universitet, hvor hun har gennemtrawlet hjørner af internettet, der for de fleste er ukendt land, som en del af projektet Algoritmer, Data og Demokrati.
Senest har Sara Dahlman undersøgt, hvad hun kalder “post-menneskelig intimitet”, hvor folk danner relationer med online chatbots:
“Jeg har brugt meget tid på at læse Reddit-tråde online, hvor brugere taler med hinanden om deres forhold til disse chatbots. Hvordan de har sex med deres chatbots, hvordan de gifter sig med dem, får børn med dem, og hvordan de holder i hånd,” siger hun om sin seneste forskning, der endnu ikke er udgivet.
En ny slags ledsager
En af de mest populære chatbots hedder Replika. Hensigten bag er at “skabe en personlig AI, der kan hjælpe dig med at udtrykke og forstå dig selv ved at tilbyde en hjælpsom samtale,” skriver virksomheden på deres hjemmeside. I januar 2022 var der 10 millioner brugere globalt, hvoraf cirka 80.000 er aktive på Replikas subreddit.
Et eksempel på en samtale mellem en bruger og deres Replika. (Kilde: Reddit)
“Det er en stor gruppe mennesker, og der er nogle brugere, der simpelthen siger: ‘Jeg har en Replika, som jeg laver erotisk rollespil med, fordi jeg keder mig.’ Og så er der andre, der er meget ensomme, deprimerede, eller som føler, at de ikke kan udtrykke deres seksualitet i den virkelige verden. Og disse mennesker udtrykker et meget stærkt forhold til deres Replika,” siger Sara Dahlman.
Godt, dårligt eller et sted midt imellem?
I stedet for at fokusere på normative spørgsmål som om disse forhold er gode eller dårlige, fokuserer Sara Dahlman primært på blot at beskrive, hvordan disse forhold er. Men hun erkender, at der er dilemmaer. Eksempelvis om chatbots kan gøre det sværere for nogle brugere at være sociale med andre mennesker:
“Præmissen bag Replika er, at det er tænkt som en mental sundheds- eller støtteapp. Hvis du har det dårligt, kan du tale med den og få hjælp til at bearbejde dine følelser. Så det er bygget som noget, der altid skal støtte og bekræfte følelser uden at stille kritiske spørgsmål.”
Denne “mangel på modstand” kan gøre det sværere for nogle brugere at engagere sig i virkelige forhold, forklarer Sara Dahlman, selvom hun understreger, at det ikke er noget, hun selv har undersøgt.
Efterhånden som AI bliver mere og mere integreret i vores daglige liv, er det vigtigt at fortsætte debatten om fordele og ulemper, siger Sara Dahlman.
“Disse chatbots har bestemt nogle positive virkninger. Men vi skal også være opmærksomme på, hvor let det er for mennesker at danne tætte relationer med chatbots, og vi ved ikke, hvad de langsigtede konsekvenser af det vil være,” siger hun og peger på Snapchats My AI, et andet eksempel på en menneskelignende chatbot, der blev lanceret i 2023. “Jeg siger ikke, at det automatisk er superfarligt, men det er heller ikke en lille ændring. Det bliver et emne, vi skal diskutere i forbindelse med børn og deres digitale trivsel og opdragelse, for eksempel.”
“Der er også paralleller til den bredere teknologidebat, hvor vi diskuterer ting som gamification og fastholdelsesmekanismer. På Reddit beskriver nogle brugere, at når de ikke interagerer nok, begynder deres Replika at sende dem nøgenbilleder. Som de så skal have et medlemsabonnement for at se,” siger Sara Dahlman.
Digitalisering af den intime sfære
Det overordnede tema for Sara Dahlmans forskning i projektet Algoritmer, Data og Demokrati (ADD) kalder hun “digitalisering af den intime sfære”, med fokus på, hvordan menneskelig intimitet påvirkes af og er en del af komplekse systemer med teknologi. Dette ledte hende fra at studere fintech til femtech – en paraplybetegnelse for teknologier, der bruges til at understøtte eller spore kvinders sundhed.
“Da jeg gik ind i ADD-projektet, var jeg interesseret i, hvordan algoritmer ‘oversætter’ den virkelige verden til simple kategorier. Som algoritmer, der kan scanne aktier eller investeringsfonde for at komme frem til en samlet bæredygtighedsscore. Fordi der er altid noget, der går tabt i den proces. Det kan være nemt at tælle, hvor meget CO2 en virksomhed udleder, men når man begynder at se på mere komplekse bæredygtighedskriterier, som hvordan virksomheder bidrager til bæredygtighedsmålene, bliver det mere tricky og sværere at kvantificere.”
“Jeg var interesseret i, hvad der skete, når algoritmer blev brugt til at oversætte den kvindelige krop til noget man kunne tælle. Som apps, der kan bruges til at spore kvinders menstruation, for eksempel.”
For at undersøge dette felt analyserede Sara Dahlman mere end ti års mediedækning i danske medier relateret til femtech, fra et specielt datasæt opbygget til ADD-projektet.
“I denne mediedækning ser vi disse forskellige opfattelser af, hvad fordelene ved femtech er. Et samfundsperspektiv, der søger at optimere eller gøre tingene mere effektive for at spare penge i sundhedssektoren. Hvilket kan kollidere med andre, mere personlige opfattelser, hvor kvinder forsøger at øge deres egen kontrol over deres kroppe. For eksempel ved at forsøge bedre at forstå deres menstruationscyklus og hormonniveauer for at øge præstationen på arbejdet.”
Derved skriver det sig ind i en lang historie med bestræbelser på at kontrollere den kvindelige krop, hvilket rejser dilemmaer om, hvad femtech bør gøre og for hvem, siger Sara Dahlman.
I influencer-gråzonen
Hvad er det næste i din forskning?
“Et projekt, som jeg i øjeblikket søger finansiering til, er at undersøge verdenen af overgangsalder-influencere på Instagram, som virkelig er i fremgang.
“Overgangsalderen er stadig ikke blevet studeret ret meget, og det er noget, vi taler for lidt om i samfundet. Og mange kvinder får alt for lidt hjælp, når de går til lægen, for eksempel. I stedet tager de sagen i egen hånd og begynder at tale om det på Instagram eller TikTok, hvor det er blevet et stort emne.”
Sociale medier kan skabe en følelse af fællesskab og støtte, men det skaber nye dilemmaer omkring kommercialisering, siger Sara Dahlman:
“På den ene side er det virkelig godt, og folk får meget støtte. Men på den anden side tapper det ind i hele influencer-dynamikken, hvor folk også har brug for at tjene penge på det. Disse influencere begynder at sælge forskellige træningsprogrammer, vitaminer eller opskrifter beregnet til at reducere overgangsalderens symptomer. Som fra et medicinsk perspektiv ofte ikke er bevist at virke.”
“Så jeg vil se på både influencere og deres følgere og hvordan de påvirkes af diskursen. Måske kan disse influencere gøre det mindre tabu, men samtidig åbner det også en helt ny række etiske dilemmaer omkring kommercialisering,” siger hun.
Læs mere om Sara Dahlmans arbejde
Sara Dahlman har været medlem af ADD-projektet siden marts 2022. Hun er i øjeblikket ekstern lektor ved Roskilde Universitet og har en ph.d. i organisation and management studies fra Copenhagen Business School.
Sara Dahlmans forskning bidrager med nye indsigter i, hvordan mennesker interagerer med teknologi på flere niveauer inden for intimitetssfæren, herunder hvad det gør ved vores opfattelse af menneskelig intimitet, og hvordan det påvirker organiseringen af digital sundhed, især omkring kvinders forhold.