Kontroversielle data og algoritmer
Data og algoritmer bliver i stigende grad kontroversielle. Selvom algoritmiske beslutningsprocesser ofte sker helt afkoblet menneskelig indblanding, er algoritmernes infrastruktur alligevel med til at fremme splittelse i den offentlige information og samtale. Sammensmeltningen mellem den teknologiske og sociale udvikling bidrager til en stigende demokratisk tillidskrise. Selvom den teknologiske udvikling er en del af problemet, er den uundgåeligt også en del af løsningen.
‘Crisis of public trust’
Leder af forskningsteamet i ADD-projektet, Sine Nørholm Just, deltog i IWDK- Internet Week Denmark, til en samtale med Anders Høeg Nissen om, hvordan vi bygger digitalt demokrati. Her beskriver Nørholm Just, hvordan vi i dag er i en ’crisis of public trust’, delvis forårsaget af den polarisering, som skjulte algoritmer og kontroverser skaber i offentligheden.
Eksempelvis vil vi, når vi læser en nyhed blive foreslået lignende nyheder. På den måde former algoritmer den offentlige debat og bestemmer hvilken information, der bliver gjort tilgængelig for borgeren. Et andet eksempel er algoritmer, der træffer betydningsfulde valg for borgeren. Eksempelvis kan man bruge algoritmer til at vurdere, om en person har mulighed for at tage et lån i banken.
Det er et problem, når vi som borgere ikke er bevidste om, at vi bliver præsenteret for et udsnit af viden og holdninger, som minder om vores egne, eller når man som sagsbehandler af lån ikke er opmærksom på de bias, der ligger i den data, som algoritmen baserer sin vurdering på. Dette truer det digitale demokrati.
“To me, it means both a democracy that is supported by digital technologies, but also digital technologies that are democratic”
Sine Nørholm Just
Sine Nørholm Just understreger, at det altså ikke er et spørgsmål om mere eller mindre teknologi. Det er et spørgsmål om bedre og mere kritisk udvikling og brug af teknologi. Det handler om at skabe demokratiske, smarte og retfærdige løsninger på tværs af den offentlige og private sektor.
Hvad er digitalt demokrati?
“To me, it means both a democracy that is supported by digital technologies, but also digital technologies that are democratic”. Sine Nørholm Just beskriver et digitalt demokrati som en interaktion mellem det sociale og det teknologiske.
Digitalt demokrati er altså en proces, hvor vi bruger digitale teknologier til at forbedre de demokratiske institutioner, men også bruger demokratiske institutioner til at forme teknologier og sikre, at teknologierne har mennesket i førersædet.
To nøgleprincipper
Sine Nørholm Just beskriver, at vores fremtidige teknologiudvikling må have to nøgleprincipper som fundament: Transparens og forklarbarhed.
Om transparens beskriver Nørholm Just: ”We need to always know when algorithms have been implied, we need to always know what data sets they have been trained on, and we need to always know what decisions they are making and who else might have been involved in those decisions”.
Forklarbarheden betyder, at vi skal være I stand til at forstå, hvilke biases, dynamikker og implikationer, der er forbundet med algoritmer – også selvom vi ikke er uddannet i at kode dem selv.
Hvis vi har disse principper for øje, er der mulighed for at udvikle vores teknologiske løsninger med tillid som et implementeret og centralt element.
“We need to always know when algorithms have been implied, we need to always know what data sets they have been trained on, and we need to always know what decisions they are making and who else might have been involved in those decisions”
Sine Nørholm Just
Et ambitiøst forskningsprojekt
Dette skal Sine Nørholm Just og seks andre forskere undersøge de næste 10 år i forbindelse med projektet Algoritmer Data og Demokrati. Projektet stiller spørgsmålet: Hvordan kan algoritmer og data bruges til at oplyse og engagere borgerne og styrke demokratiet? og stiller skarpt på digitaliseringen som en af vores tids største tillidskriser.
Du kan læse mere om forskningen her. Se eller gense interviewet med Sine Nørholm Just her.