ADD blogpost: De demokratiske informationsmiljøers sammenbrud – indsigter fra et forskningsophold i Amsterdam 

Af Ulrikke Dybdal Sørensen, erhvervs-ph.d.-studerende i Center for sociale medier, tech og demokrati, Digitaliseringsministeriet – uds@digmin.dk. 

Hvad sker der i Amsterdam? 

Amsterdam er en forskningshub for stærke vidensmiljøer og solide forskningsgrupper. I løbet af juli besøgte jeg Universiteit van Amsterdam (UvA): Digital Methods Initiative (DMI), Institut for Mediestudier og Institut for Kommunikationsvidenskab. Størstedelen af tiden tilbragte jeg i DMI’s sommerskole, og havde samtaler med flere ledende forskere på de to institutter. Dette indlæg sammenfatter mine indsigter. 

Sommerskolen er en del af DMI, der arbejder med at udvikle metoder til internetrelateret forskning, og er en af Europas førende forskningsgrupper inden for internetstudier. Begge dele ledes af Richard Rogers, som er professor i medier og digital kultur ved UvA. Sommerskolen består af to ugers intense datasprint, hvor empiriske spørgsmål udforskes i en række forskellige projekter. Fællesnævnere for dette år var sociale medier, AI platforme og udviklingen i tilgangen til indholdsmoderation og faktatjek. 

Sommerskolens anden uge blev indledt af Tom Willaert. Han er forsker ved Vrije Universiteit Brussel, en del af det europæiske Horizon projekt SoMe4Dem og præsenterede sit arbejde om sociale medier og den offentlige sfære, hvor han gentog diagnosen af, at digitale medier kan have negative indvirkninger på demokratiet. Med afsæt heri fremlagde han et empirisk-informeret framework for en mere systematisk tilgang til at studere, hvordan sociale medier påvirker den offentlige sfære. Metoden består af en model for den deliberative offentlighed med fire kernefunktioner: information, deliberation, kollektiv handling og kollektive aktører. Det forbindes til den online offentlighed på sociale medier og begrebet om affordances. Det vil sige de handlingsmuligheder og artefakter, der fordrer bestemt adfærd eller muliggør bestemt brug på f.eks. en digital platform.  

Udover at adressere behovet for en mere systematisk forskning på området, bidrager frameworket også til udvikling af mere definitive koncepter, der kan udforskes empirisk på sociale medier. Det fremtidige arbejde ligger nu i at underbygge og styrke frameworket med empiriske undersøgelser, hvilket imidlertid kræver metodisk udvikling og videre operationalisering af kernebegreber, for kritisk at undersøge sociale mediers påvirkning på demokratiet.  

NoteNotNeeded: Community Notes på X  

Community Notes på X er et brugerdrevet moderationssystem, hvor brugere kan tilføje noter til opslag for at give det kontekst eller påpege vildledende indhold. Noterne gennemgås af andre brugere og bliver kun offentliggjort og vist under opslaget, hvis noten bliver vurderet ”hjælpsom” af nok brugere med forskellige synspunkter. Med andre ord, er Community Notes designet til at opnå en konsensus på baggrund af “mangfoldighed af perspektiver“. Det beregnes ved hjælp af en såkaldt brobygningsalgoritme, der vurderer “forskellige perspektiver” baseret på, hvordan folk tidligere har vurderet noter.  

Disse spørgsmål udforskede jeg sammen med Richard Rogers og en gruppe internationale deltagere i sommerskolens første uge. Konkret tog vi udgangspunkt i om Community Notes er dissenssus- eller konsensusopbyggende, og hvor effektivt systemet er til det? Vi undersøgte effektivitet ud fra tre aspekter: Hvor meget konsensus (eller dissensus) skabes der? Hvor hurtigt skabes den? Og er det relativt få forfattere, der gør det meste af arbejdet?  

Vi fandt, at 80% af noterne er skrevet af mindre end 27% af alle note-bidragsydere, at det tager i gennemsnit 4 dage før noter bliver offentliggjort, hvis de overhovedet bliver det, og at over 88% af noterne befinder sig i det, vi definerede som ”dissenssus” eller som i en ”tilstand af manglende enighed”. Det vil sige, at langt størstedelen af de noter, der produceres, aldrig offentliggøres – enten fordi de ikke bliver vurderet som hjælpsomme fra brugere med forskellige synspunkter, eller fordi de aldrig bliver vurderet.  

Ugen efter datasprintet, udgav Digital Democracy Institute of the Americas (DDIA) en ny undersøgelse: A Deep Dive into X’s Community Notes. Den viser, at over 90% af notes aldrig bliver offentliggjort og understreger, at det er bekymrende tal for et system, der ellers promoveres som effektiv i kampen mod manipulerende information. Når systemet dermed viser sig i højere grad at skabe en tilstand af uenighed snarere end konsensus, indikerer det, at systemet ikke når sit mål. 

Et vigtigt spørgsmål er, hvad der driver dette. Vores undersøgelsen viste, at ingen af de noter med flest ”ratings” var nået til en konsensus, selvom noterne havde +2000 ratings, som er langt over grænsen på 5 ratings sat af X. Fælles for disse ratings var at størstedelen var kategoriseret som ”NoteNotNeeded”, som er en rating-kategori introduceret af X i 2021, når en note ikke vurderes nødvendig. Det introducerer en form for ikke-algoritmisk engagement i Community Notes, hvor der vurderes, om der er uenighed omkring en note, i stedet for at der vurderes, hvorvidt et opslag er vildledende eller mangler kontekst.  

NoteNotNeeded anvendes også i resumeet, når noteforfattere opretter en note. Her fremgår det som ”NNN” og anvendes ikke kun til at markere, at en note er unødvendig grundet det opslag, som noten henviser til, som enten er en tydelig holdning, et udsagn, satire, en joke eller et rygte. ”NNN” anvendes også til at kommentere andre noter eller som en måde at henvende sig til andre noteforfattere på. Begge former for ”NNN” indikerer, at brugerne, i stedet for at bedømme en note, introducerer en form for debat ind i systemet, som i højere grad lægger sig op ad en mere deliberativ form for konsensus end den mere ”producerede” konsensus, som Community Notes bygger på. 

“Transparency Washing” og Digital Services Act 

Nærmest samtidig med at Europa Kommissionen lancerede en harmonisering af gennemsigtighedsrapporteringen under Digital Services Act (DSA), udforskede jeg på sommerskolens anden uge gennemsigtighed som princip og praksis. Med TikTok som case – en udpeget “Very Large Online Platform” (VLOP) – undersøgte vi, hvorvidt gennemsigtighedsrapporteringen lever op til sit demokratiske formål. 

For gennemsigtighed som princip er det afgørende for den demokratiske kontrol af de meget store online platforme, at offentligheden og den enkelte bruger får et indblik i platformenes maskinrum på en gennemsigtig og ensartet måde. Derfor kortlagde vi den regulatoriske ramme, som DSA’en opstiller for gennemsigtighed. Den har til formål at holde aktører ansvarlige for deres samfundsmæssige indvirkning ved at operere på måder, der kan monitoreres og evalueres af både myndigheder og andre enheder såsom forskere og civilsamfundsorganisationer.  

Det er stadig et åbent spørgsmål, om den nuværende praksis rent faktisk fremmer meningsfuld gennemsigtighed. Flere peger på, at der er udfordringer med den måde platformene vælger at leve op til opgaven. Det indebærer bl.a. udfordringer med de typer data, der offentliggøres, og hvordan de stemmer overens med forskellige formål med gennemsigtighed, og at der er betydelige forskelle i detaljeringsgraden, konsistensen og standardiseringen af oplysninger på tværs af platforme, samt at der mangler tydelige og præcise beskrivelser af, hvordan platformene indholdsmodererer.  

For gennemsigtighed som praksis er det interessant at undersøge, hvor effektiv TikToks gennemsigtighedsrapportering og indholdsmoderation er, i forhold til gennemsigtighedskravene i DSA’en. Det vil sige; er det muligt at få indblik i, hvorvidt TikTok gør, som de siger, de gør? 

Mens information om gennemsigtighed, uanset om du forsøger at blive klogere på EU’s regler eller TikToks overholdelse, er en kompliceret affære, der er vanskelig at navigere i, så er sprogbruget og formuleringerne overlappende. Det vil sige, at TikTok ”efterligner overholdelse” ved at gentage det regulatoriske sprog uden at levere de tekniske detaljer, der skal gøre det muligt at vurdere, hvorvidt de gør, som de siger, de gør.  

Imidlertid er det ikke kun TikTok, der er underlagt kritik for deres manglende overholdelse af fundamentale bestemmelser i DSA’en, når det kommer til gennemsigtighed og ansvarlighed for den samfundsmæssige indvirkning, platformene har. Dataadgang er ikke kun en akademisk debat med indsatser, der alene går på at ”tracke” hvordan dataadgang udfolder sig (eller mangel på samme). Det er også en politisk debat, hvor dataadgang fremhæves som grundlæggende for at sikre demokratisk kontrol med platformene.  

Samtidig viste vores analyse, at det ikke kun er platformene der kritiseres for deres manglende vilje til at leve op til gennemsigtighedskrav og -principper, men også at DSA’en som regulatorisk ramme kritiseres. Her centrerer de kritiske røster sig om, at der er uhensigtsmæssige krav til indholdsmoderation, der kan føre til overmoderation og censur, at EU Kommissionen selv opererer med uigennemsigtige processer, samt at DSA’en medfører disproportionale administrative byrder.  

Når gennemsigtighedsrapportering risikerer at blive en skrivebordsøvelse, bliver det uanset vanskeligt at sikre, at de meget store online platforme lever op til den rolle, de spiller i samfundet og centrale demokratiske processer. Det giver anledning til at overveje, om gennemsigtighed som praksis derfor snarere er et spørgsmål om ”transparency washing”, end det handler om at leve op til det demokratiske princip om gennemsigtighed.  

EU har med de harmoniserede retningslinjer for gennemsigtighedsrapporterne introduceret fælles og sammenlignelige opgørelsesmetoder for, hvordan platformene lever op til gennemsigtighed. Det skal gøre det muligt at sammenligne overholdelse af bl.a. gennemsigtighed på tværs af platforme. Samtidig introducerede EU i starten af juli den delegerede retsakt for dataadgang, som skal styrke forskeres position og klarlægge proceduren for at søge om dataadgang til ikke offentligt tilgængeligt data, og dermed understøtter muligheden for at tjekke om platformene gør, som de siger, de gør. 

To ledende forskeres største bekymringer for demokratiet i en digital verden 

Udover at udforske empiriske spørgsmål om sociale medier i relation til digital governance og demokrati, har jeg som led i forskningsopholdet også haft samtaler med to ledende forskere på UvA, inden for platforms studier og medie- og kommunikationsforskning. Her drøftede vi, hvordan platformiseringen af information og kommunikation har forandret vilkårene for det demokratiske samfund, og hvilke konsekvenser det har. Det omhandlede særligt konsekvenserne det har i forbindelse med kvaliteten af information og af den demokratisk samtale, herunder om vi overhovedet kan tale om kvalitet når vi tager det vores informationsstrømme fyldes med og den større rolle som “infotainment” spiller i betragtning.  

I keynote Willaerts rapport fremhæves det, at der er en stigende konvergens mellem den politiske sfære og underholdningsverdenen, især på de sociale medier. Det var også et omdrejningspunkt for mine samtaler, hvor vi diskuterede, hvordan tilgangen til fakta og kvalitetsindhold har en helt anden klang, end den vi kender fra traditionelle medier og publicistiske principper. Det ændrer vilkårene, når der i stigende grad stilles spørgsmål til, hvad troværdige kilder- og kvalitetsindhold er. Det betyder, at grundlæggende kerneværdier knyttet til det at være ”en informeret borger” udfordres, når der er en øget ”ligegyldighed” rettet mod det at være informeret, men større fokus på- og værdi i at være underholdt. I tråd med Neil Postmans ide er vi ved ”at more os ihjel”. Eller vi er i hvert fald ved en del af en udvikling, hvor man ikke engagerer sig i at være informeret om vigtige samfundsmæssige emner, i hvert fald ikke på den måde, som vores medievirkelighed og demokratiske informationssamfund er bygget op om. 

Udover at introducere et sammenbrud af den demokratiske informerede offentlighed, så vækker den digitale informationskultur og platformsejerskab bekymring. Ikke kun hvordan det har indvirkning på deltagelse og engagement i et demokratisk informationssamfund, men også i forhold til koncentrationen af magt og hvordan det stiller marginaliserede grupper. Mange af de udfordringer vi står overfor, er i imidlertid ikke nye, de er accelereret og nået højder på en måde, der gør det vanskeligt at navigere i og håndtere, især når der samtidig sættes spørgsmålstegn ved fundamentet for handling og dermed demokratiet.