ADD-bloggen giver et indblik i ADD-projektets forskning på tværs af de seks universitetspartnere. Mød vores forskere fra Aalborg Universitet, Aarhus Universitet, Copenhagen Business School, Roskilde Universitet, Københavns Universitet og Syddansk Universitet. Læs om deres projekter, aktiviteter, idéer og tanker – og få et nyt perspektiv på de kontroverser og dilemmaer, vi står overfor i digitaliseringens tidsalder, og ideer til, hvordan vi kan arbejde for at styrke det digitale demokrati.
Af Sine Nørholm Just, professor på Roskilde Universitet og ADD-projektets forskningsleder
Med tanke på den igangværende udvikling, hvad er chancen så for, at AI kan arbejde for demokratiet? I de fem år vi har arbejdet på Algoritmer, Data og Demokrati (ADD-projektet), er det spørgsmål kun blevet mere presserende. Projektets mission er at præsentere løsninger såvel som diagnoser, og vores opgave er derfor ikke kun at identificere og vurdere den aktuelle udvikling, men også at foreslå hvilke potentielle socioteknologiske AI-demokrati konfigurationer, der virker bedre end andre. Den formulering fremstår nok urimeligt kryptisk; hvorfor ikke bare flytte fokus fra digitalisering til AI og sige, at vi nu sigter efter at forbedre AI-demokratiet?
ADD-projektets mission statement
Sagen er, at en af de største indsigter fra de første fem år af ADD-projektet er, at AI ikke kun er én ting (Suchman, 2023) – AI er en bevægelig del af mange forskellige og dynamiske sociotekniske relationer og skal forstås i og som sin mangfoldighed. På samme måde som demokratiets kvalitet ikke skal måles på stabilitet, selvom stabile samfund synes at følge med velfungerende demokratier.
I stedet bør vi vurdere demokratiets tilstand ud fra evnen til uenighed, evnen til at rumme mangfoldighed. Et velfungerende demokrati muliggør kontroverser, hvor gensidig anerkendelse ikke er ensbetydende med enighed (Just, 2024): Du og jeg er måske ikke enige, men vi støtter hinandens ret til vores holdninger.
Derfor er definitioner af AI teknologier, der ikke tager højde for teknologiernes mangetydighed, demokratisk skadelige. Og samfundsmæssige udviklinger, der stræber efter at afpolitisere AI og gøre teknologien ukontroversiel, er tilsvarende problematiske. Det bringer os tilbage til spørgsmålet om bedre AI-demokrati konfigurationer, der nu kan forstås som relationer, hvor tekniske og samfundsmæssige elementer hver især understøtter hinandens mangfoldighed. Relationer, der inviterer til, hvad man med reference til Karl Popper kan betegne som ’det åbne AI samfund’.
Ironisk nok kan man ikke se den virksomhed, der hedder OpenAI, som en rollemodel for det åbne AI samfund. Selvom den pointe ikke er hovedærindet her, vil jeg alligevel bruge den til at illustrere centrale elementer af den øjeblikkelige AI-demokrati konfiguration, før jeg vender tilbage til spørgsmålet om bedre konfigurationer. I det følgende vil jeg derfor først tage bestik af de AI kontroverser, vi har undersøgt i de første fem år af ADD-projektet, for derefter at indikere, hvordan vi vil fortsætte forskningen på området de kommende fem år.
Kontroversielle algoritmer og algoritmiske kontroverser
Da projektet gik i luften i 2021, var algoritmer og data allerede blevet en del af den offentlige samtale, og deres demokratiske implikationer var allerede en central bekymring. Det var også præmissen for forskningsprojektet, idet vi spurgte, hvordan algoritmer og data optræder i offentlige kontroverser, hvordan kontroverser er formet af teknologier og, ikke mindst, hvordan algoritmer og data kan blive organiseret på en sådan måde, at man skaber et bedre grundlag for at udfolde kontroverserne.
På trods af det udgangspunkt, havde vi hverken forventet eller forudset den eksplosion af AI kontroverser, vi har set de sidste fem år. Når man her fra 2026 ser tilbage på debatten 2021, var dens omfang og intensitet på niveau med et stearinlys – et stearinlys, der i de mellemliggende år har antændt en altopslugende brand. Det har, mildest talt, været spændende at få lov til at følge det skift i den offentlige opmærksomhed og bekymring, som det udfoldede sig.
I vores forskning har vi kortlagt, hvordan algoritmer og data er blevet midtpunkt for offentlig bekymring, hvordan de er blevet genstand for kontroverser. Gennem analyser af et stort datasæt af danske mediers dækning af ”alle slags” algoritmer og data fra 2011 til 2021, har vi kunne se mangfoldigheden af emner, men også observeret hvordan teknologiske problematikker er blevet koblet på – og diskuteret indenfor rammerne af – en lang række af andre emner, fra fodbold og popmusik til international politik og dansk erhverv. Og vi har set, hvordan diskussionen i stigende grad er centreret omkring teknologierne og deres udviklere.
Kortlægningen blev gennemført af forskere ved TantLab (AAU), som også faciliterede intensive datasprints for alle deltagere i ADD-projektet, hvilket gjorde det muligt at få indsigt i, hvordan de kontroverser, som vi hver især var mest interesserede i, udspillede sig i den danske mediedækning. For eksempel undersøgte mine kollegaer på Roskilde Universitet og jeg, hvordan algoritmer og data italesættes i relation til kvinders sundhed. Vi fandt to dominerende tendenser: individuel ansvarliggørelse via adgang til data, fx ved brug af menstruations-trackere, og kollektiv effektivisering via implementering af algoritmiske teknologier i sundhedssektoren, fx i i relation til det danske screeningsprogram for brystkræft (Dahlman et al., 2023).
Kortlægning af kontroverser ved algoritmer i den danske mediedækning, 2011-2021
Parallelt med studiet af kontroverser om algoritmer og data, har vi undersøgt, hvordan kontroverser er blevet algoritmiske og datagjorte. Hvad betyder det for demokratiske samfund, når organiseringen af offentlig debat i høj grad er outsourcet til digitale teknologier og, ikke mindst, virksomhederne bag dem?
Vi finder et svar på det spørgsmål i det indeks for det danske digitale demokratis tilstand, som blev bestilt af Digitaliseringsministeriets Center for Sociale Medier, Tech og Demokrati og udført i samarbejde mellem Centre for Digital Citizenship på Roskilde Universitet og Digital Democracy Centre på Syddansk Universitet (Filstrup et al. 2025).
Vores indeks viser:
- Adgangen til arenaer for digitalt demokrati er konsekvent høj for alle borgere
- Deltagelsen varierer afhængigt af borgernes forskellige identitetspositioner; majoriteten føler sig fuldt repræsenteret og i stand til at snakke frit, men minoritetsgrupper, derimod, oplever manglende repræsentation og stor modstand, når de forsøger at deltage
- Holdningerne varierer på tværs af forskellige dimensioner, og borgerne nærer størst mistillid til tech-virksomheder, mens de også er tøvende overfor demokratiets etablerede institutioner.
Den overordnede indeksscore er pænt over gennemsnittet, og den allestedsnærværende digitalisering af det danske samfund presser tallene op. Men borgernes ulige deltagelse og deres udbredte skuffelse over beslutningstagerne er en indikation på, at organiseringen af den digitale offentlighed ikke tjener demokratiet – eller i hvert fald, at den digitale offentlighed kunne være bedre organiseret.
Efter generativ AI, syndfloden
I november 2022 blev samtalen om AI-kontroverser fuldstændig oversvømmet af den pludselige og skelsættende fremkomst af generativ AI. Eller rettere sagt, sådan føltes det på det tidspunkt: fra det ene øjeblik til det andet var AI-baseret indholdsproduktion overalt, og alle havde en mening om det. Og disse holdninger var enten ekstremt håbefulde eller ekstremt pessimistiske, hvilket vil sige, at debatten blev intensiveret og polariseret.
Bemærkelsesværdigt nok var de store industrielle aktører, der udviklede og lancerede de nye AI-teknologier, også med til at hype debatten om dem – og de var lige så tilbøjelige til at fremføre pessimistiske fortællinger, hvor AI-teknologier kunne udgøre “eksistentielle risici” for menneskeheden og planeten, som de var til at formulere håbefulde visioner om en bedre AI-fremtid.
Det er her, OpenAI bliver relevant som repræsentant for de gensidigt forstærkende “boom-through-doom”-udtalelser (Roose, 2023). Ud over at hype AI-teknologier, har de optimistiske og pessimistiske fremstillinger det til fælles, at de rummer en form for determinisme. Uanset om man anlægger et utopisk eller dystopisk syn på, hvad AI-fremtiden vil bringe, så har visionen en indbygget følelse af uundgåelighed; AI-teknologier vil blive dominerende, hvad end man bryder sig om det eller ej.
Set fra ADD-projektets perspektiv er denne deterministiske vending særligt bekymrende, da den ikke blot begrænser evnen til at præsentere alternativer og indskrænker muligheden for at diskutere disse alternativer, men på et endnu mere grundlæggende niveau også svækker fornemmelsen af, at der overhovedet findes et valg. Paradoksalt nok har hyperpolitiseringen af AI depolitiserende konsekvenser, idet AI-samfundet præsenteres som en kendsgerning snarere end et projekt.
Gør AI-demokratiet kontroversielt igen
Udfordring af antagelsen om, at teknologiske udviklinger er uundgåelige, både på godt og ondt, vil være en central prioritet for ADD-projektet i de kommende fem år. Vi fokuserer på tre indbyrdes forbundne temaer: infrastrukturskabelse, bæredygtighed og meningsdannelse i AI-demokratier.
Det første tema tager direkte fat på spørgsmålet om, hvordan forestillingen om uundgåelighed konstrueres, med det formål at vise, at AIs rolle i samfundet er under løbende udvikling; en kontingent og omstridt proces snarere end et nødvendigt eller, for den sags skyld, “automatisk” udfald.
Her siger vores forskning mod at “sige det usagte højt” – mod at afnaturalisere og dermed genpolitisere de antagelser om AI, som er indlejret i infrastrukturskabelsen, dvs. arbejdet med at gøre AI til en integreret del af samfundet. Det rejser også spørgsmål om data, som OpenAI og lignende virksomheder endnu ikke har anerkendt, endsige håndteret; spørgsmål om ejerskab og mulige kompensationer, spørgsmål om kvalitet og knaphed, men også om AIs stigende cirkularitet. I takt med at stadig mere af den tilgængelige data vil være AI-genereret, bliver AI så at sige trænet på sig selv, og det rejser spørgsmålet om, hvorvidt samfundet stadig vil spille en rolle i AI-på-AI relationer.
Det andet tema retter sig mod en af de måder, hvorpå AI i sin nuværende sociotekniske konfiguration er direkte skadelig for samfundet; nemlig gennem den belastning, teknologien påfører planeten. Vi må konfrontere fremstillinger af AI som en bæredygtighedsløsning med teknologiernes aktuelle ubæredygtighed; særligt det energi- og vandforbrug, der er forbundet med træning og implementering af stadig større modeller. Og vi vil eksperimentere med mindre, mere specialiserede modeller, som kan opnå samme resultat med mindre forbrug. Her ser vi konturerne af et skifte væk fra dogmet om, at den største model er den bedste model, og det bliver muligt at udfordre idéen om, at AI uundgåeligt vil udvikle sig til en “general purpose”-teknologi. I stedet kan vi tænke AI i flertal; ikke som ét altomfattende system, der “forandrer alt”, men som forskellige værktøjer, der kan bidrage til løsningen af forskellige udfordringer.
Én ting er klar: så længe AI ikke er miljømæssigt bæredygtig, kan den ikke understøtte sunde demokratier. Derfor er det centralt for omstillingen mod bæredygtige AI-demokratier at adressere de spændinger, der opstår, når AI præsenteres som en løsning på store samfundsudfordringer, samtidig med at teknologierne fortsat er en del af problemet.
Med det tredje tema vender vi perspektivet om og foreslår, at AI-teknologier i visse henseender kan tilbyde løsninger på problemer, der opstår ved brugen af netop disse teknologier. Et sådant problem er meningsdannelse, altså hvordan mennesker opnår viden og formulerer deres holdninger, når produktionen af tekster, billeder, kode og andre socialt betydningsfulde tegn kan automatiseres.
Siden introduktionen af ChatGPT og andre generative AI-systemer, er det blevet udbredt at udtrykke bekymring for AI’s indvirkning på individuel læring og kollektiv meningsskabelse. Disse bekymringer er legitime; studerende, der snyder til eksamener, og vælgere, der manipuleres af deepfakes, for blot at nævne to centrale eksempler, kan bidrage til en udhuling af demokratiet. Men problemet er måske ikke iboende i AI-teknologierne, og frem for at afvise AI-genereret meningsdannelse som helhed vil vi overveje, om og hvordan AI-værktøjer kan bruges til at styrke læring, kreativitet, deltagelse og deliberation. I den ånd vil vi eksperimentere med AI-demokrati frem for at forsøge at benægte dets eksistens.
Kun ved at insistere på, at AI-samfundet er kontingent, en mulighed og ikke en nødvendighed, kan vi genoplive diskussionen om, hvordan vi mener, det samfund bør være. Og kun ved at engagere os i de mange forskellige former, det kan tage, har vi en chance for at forme åbne AI-samfund.
Referencer:
Dahlman, S., Just, S. N., Pedersen, L. M., Lantz. P. M. V. & Kristiansen, N. W. (2023): Datafied female health: Sociotechnical imaginaries of femtech in Danish public discourse. MedieKultur, 74: 105-126.
Filstrup, S., H., Kristensen, J. B., Lorenzen, M. S., Andersen, K., de Vreese, C., Just, S. N. & Mayerhöffer, E. (2025): Indeks for det danske digitale demokrati 2024. Available at: https://www.ft.dk/samling/20241/almdel/diu/bilag/73/2994645.pdf.
Just, S. N. (2024): Controversial Encounters in the Age of Algorithms. Bristol: Bristol University Press.
Roose, K. (2023): AI poses ‘risk of extinction,’ industry leaders warn. New York Times. Available at: https://www.nytimes.com/2023/05/30/technology/ai-threat-warning.html.
Suchman, L. (2023): The uncontroversial ‘thingness’ of AI. Big Data & Society, https://doi.org/10.1177/20539517231206794.