I takt med digitaliseringen af samfundet bliver algoritmer en større del af danskernes hverdag. Teknologien bruges ikke længere kun af Netflix til at vise dig netop den serie, du synes er interessant. Algoritmer anvendes i større og større omfang i centrale dele af vores samfund, fra sundhedsvæsnet til forsikringsselskaber og arbejdspladser.  

I det her tema dykker vi ned i danskernes bekymringer, når det kommer til anvendelse af algoritmer i en række brugsscenarier. Vi stiller også skarpt på, hvor vi ser muligheder og positive potentialer for anvendelsen af teknologien.  

Læs om metoden 

For mange er algoritmer det, der målretter reklamer og indhold til dem 

De fleste deltagere i fokusgrupperne forbinder algoritmer med den funktion, som bestemmer, hvad de ser på sociale medier, eller med den funktion som sørger for at målrette reklamer til dem på baggrund af deres søgehistorik. Den type af algoritmer er mere gennemskuelige for danskerne, sandsynligvis fordi de en-til-en kan se sammenhængen mellem for eksempel deres søgehistorik og den reklame, der vises i deres Facebook-feed. Selvom kendskabet til algoritmer er højere blandt danskere med høje digitale kompetencer, er der generelt enighed om, at der mangler viden om, hvordan algoritmer træffer beslutninger og hvilke data de trækker på, og om hvornår man selv er i kontakt med en algoritme. 

Algoritmer må godt bruges til at målrette reklamer – hvis de rammer rigtigt

For nogle er det en gevinst i hverdagen, at algoritmer kan målrette relevante og gode tilbud til dem, fordi det for eksempel gør de daglige indkøb meget nemmere. Men den måde at anvende algoritmerne på ses kun som positivt, så længe algoritmer rammer rigtigt. Eksponering for mange irrelevante reklamer er kernen til stor irritation blandt danskerne, og faktisk er 21 pct. af danskerne i meget høj grad bekymrede for algoritmer, der bruges til at målrette reklamer og produkter. 

Overordnet vurderer de fleste, at der er begrænsede risici ved at anvende algoritmer i sundhedsvæsnet 

Algoritmer kan være med til at styrke et ellers presset sundhedssystem, men de skal kun anvendes som støttesystemer for sikre vurderingen af det hele menneske 

For flere opvejer fordelen ved at bruge algoritmer i sundhedssystemet overordnet de ulemper, der kan være ved anvendelsen. Særligt fremhæver deltagere i fokusgrupperne algoritmernes potentiale til at aflaste et ellers presset sundhedssystem – en gevinst, som de deltagere i fokusgrupperne, der arbejder i sundhedssystemet, bekræfter. Nogle fremhæver i den forbindelse, at algoritmer tilmeld kan åbne sundhedspersonalets øjne for sygdomme eller behandlingsmuligheder, som potentielt kunne blive overset. 

For de fleste er det dog essentielt i vurderingen, at algoritmerne kun benyttes som støtteværktøj og ikke får lov til at træffe automatiske beslutninger. Det skal være sundhedsfagligt personale, der træffer afgørende beslutninger om borgernes behandling og helbred, fordi man ellers vil være bekymret for, at borgeren blot bliver vurderet ud fra ’et regnestykke’ fremfor som et helt menneske. Der er en manglende tillid til, at algoritmerne altid træffer de rigtige beslutninger, og holdningen er, at algoritmer slet ikke er i stand til at erstatte fagpersonalets evne til at foretage komplekse sundhedsvurderinger.  

Man vil gerne dele sine sundhedsdata – og helst med samtykke

Algoritmernes evne til at behandle store mængder af data giver nogle en tryghed og sikkerhed, da ”mennesker kan ikke vide alt” (Sofie, 26 år), og generelt er danskerne i fokusgrupperne villige til at dele deres sundhedsdata. Det tjener nemlig et almennyttigt formål, som kan gavne både dem selv og resten af samfundet. De er mindre bekymrede for, at algoritmerne reproducerer eksisterende bias, men til gengæld er de optagede af, at der skal gives samtykke til anvendelsen af deres sundhedsdata og til, at data om dem indgår i tidlig opsporing af sygdomme og forudsigelse af helbredsudvikling baseret på algoritmer. 

Algoritmer fodret med fejlagtige data bekymrer danskerne 

Der er nogle deltagere i fokusgrupperne, som forbinder algoritmer i sundhedsvæsnet med en høj risiko. For nogle skyldes det en generel mistillid til sundhedsvæsnet, men for de fleste er risikoen høj på grund af en bekymring for, at algoritmer træffer beslutninger baseret på fejlagtige data. Disse deltagere har en generel mistillid til, at algoritmerne kan træffe bedre beslutninger end lægerne, for ”hvis du fodrer algoritmerne med forkerte data, så får du jo også forkerte data ud” (Henrik, 39 år). Her peger flere dog på, at algoritmer faktisk giver mulighed for at fjerne fejlkilder, når de opdages, og for at man hurtigere kan rense stereotyper ud af den kunstige intelligens, end man kan hos en generation af læger. 

Lægerne må ikke miste deres sunde fornuft

På trods af fordelene ved algoritmer i sundhedssystemet, findes der en bekymring blandt flere for, at læger i fremtiden vil komme til at læne sig for meget op ad algoritmerne som ’den nemme løsning’. Frygten er, at lægerne glemmer at bruge deres egen sunde fornuft eller lytte til deres mavefornemmelse, og at de dermed risikerer at fejldiagnosticere deres patienter, fordi algoritmerne ikke altid diagnosticere korrekt. Deltagere med en sundhedsfaglig baggrund har dog ikke den bekymring ved simple problemstillinger, såsom vurdering af kræftceller, hvilket skyldes, at de i det daglige ser gevinsterne af algoritmerne i sundhedsvæsnet. 

---

Der er langt større skepsis overfor anvendelsen af algoritmer og digitale data i bank- og forsikringsbranchen. Mange mener det er uacceptabelt at anvende algoritmer baseret på adfærdsdata fra sociale medier og webshops til for eksempel at foretage vurderinger af lånemuligheder  

Anvendelse af adfærdsdata er ubehageligt og grænseoverskridende  

Banker og forsikringsvirksomheders potentielle brug af adfærdsdata om deres kunders internethandel, adfærd på sociale medier eller fritidsinteresser blev af flere deltagere i fokusgrupperne forbundet med stort ubehag. De beskrev det som skræmmende og som noget, der ville overskride deres privatsfære. Nogle mente, at det er direkte ’spionage’ at bruge adfærdsdata fra sociale medier. Generelt er folks opfattelse, at personlige forsikringer og økonomi ikke har noget med deres online-adfærd eller fritidsinteresser at gøre. Hvis banker og forsikringsvirksomheder skal bruge algoritmer, må det være baseret på data om deres økonomi eller helbred – ikke andre dele af deres liv. 

Profit kommer ikke mig til gavn 

Der er en generel skepsis overfor private virksomheders anvendelse af algoritmer og andre teknologier, fordi formålet ofte udelukkende forbindes til profitmaksimering – et formål, de fleste mener hverken kommer dem selv eller samfundet til gode. Det er kun til gavn for virksomheden selv, og derfor er flere mere tilbageholdende med at ville dele deres data med private virksomheder. Enkelte anskuer det dog for at være positivt, at algoritmer kan give dem en økonomisk fordel som forbrugere ved, at ”jeg ikke skal betale mere, for at andre vil springe i faldskærm” (Lisbeth, 49 år). Danskerne føler ikke, at den kommercielle brug af deres data vil komme dem selv, eller andre forbrugere, til gode.  

Data fra sociale medier reflekterer ikke virkeligheden 

Flere er kritiske overfor brug af data fra sociale medier som grundlag for et låne- eller forsikringstilbud. Ifølge dem ”virker det bindegalt at beregne en forsikring på baggrund af mit virke på nettet” (Keld, 61 år). Kritikken er, at sociale medier ikke reflekterer virkeligheden, men udgør en opstillet og kurateret udgave af ens liv, og med det følger en række bekymringer:  

• At folk begynder at regulere deres online-adfærd for at ’snyde systemet’ til billige tilbud 
• At banker og forsikringsselskaber vil misfortolke online-adfærd, for eksempel at man følger kontroversielle personer 
• Uvished om konsekvenserne ved ikke at være aktiv på sociale medier 

Samlet set er mange bekymrede for deres grundlæggende rettigheder som forbrugere: at baggrunden for en prissætning bliver ugennemsigtig, og at man ikke har mulighed for at sammenligne forudsætningerne for de tilbud, man får.  

Frygten for forskelsbehandling 

Flere er især bekymrede for, at de vil blive forskelsbehandlede på baggrund af deres online-adfærd og livsstil. De bryder sig ikke om, at banker eller forsikringsselskaber får muligheden for at dele borgere op i forskellige grupper, hvor nogle får fordelagtige vilkår på baggrund af deres livsstil og online-adfærd. Dette på trods af, at nogle af danskerne er bevidste om, at de potentielt selv vil kunne få bedre vilkår. 

---

Der er splittede holdninger til niveauet af risici forbundet med anvendelsen af algoritmer på arbejdspladsen. I sidste ende er det formålet med og motivet for en ledelses anvendelse af algoritmerne, som bliver afgørende for vurderingen af risici  

Risici er begrænsede, hvis anvendelsen af algoritmer kommer medarbejderne til gode 

De deltagere, som ser fordele ved algoritmer på arbejdspladser, lægger vægt på, at de skal anvendes til at forbedre hverdagen og arbejdsvilkårene for medarbejderne. Fremfor at se det som et værktøj til profitoptimering, bør algoritmerne anvendes til at: 

• varetage standardiserede arbejdsgange og være et støtteværktøj, der kan frigøre tid til sjovere opgaver i hverdagen 
• afdække områder, hvor der mangler ressourcer 

• være den objektive vurdering af medarbejderes kompetencer, så personlige forhold til ledelsen ikke bliver et dække over inkompetente medarbejdere 
• opspore, om medarbejdere er ved at gå ned med stress. 

Hårfin balance mellem fordele og følelsen af overvågning

Ifølge deltagerne er der en hårfin balance mellem, at algoritmerne kommer medarbejderne til gode, og følelsen af at blive overvåget på arbejdspladsen. En følelse, der beskrives som ubehagelig og skræmmende. Flere bryder sig ikke om, at alt, hvad de foretager sig på arbejdet, overvåges, og de frygter, at algoritmer bliver et misbrugt styringsværktøj, hvor der ikke er plads til fejl, en dårlig dag eller lav effektivitet. 

Vi vil gerne bibeholde kontrollen over vores arbejde 

Der hersker en generel bekymring blandt deltagerne for, at man som medarbejder vil miste kontrollen over ens arbejdsopgaver, hvis algoritmerne kommer til at styre for meget på arbejdspladsen. Bekymringen er, at folk ender med at få tildelt ensartede opgaver, der aldrig udfordrer og udvikler dem, hvis algoritmerne tiddeler arbejdsopgaver på baggrund af tidligere opgaveløsninger, der ikke er repræsentative for folks reelle kompetencer. Det er især en bekymring blandt dem, der arbejder med mennesker, som understreger, at deres arbejdsdage er for varierede og uberegnelige til, at en algoritme eksempelvis kan prioritere arbejdsopgaver mest hensigtsmæssigt. 

Tidseffektiviserende algoritmer vil føre til stress og umenneskeliggørelse 

Flere udtrykker en grundlæggende bekymring for, at algoritmer på arbejdspladsen udelukkende vil komme til at tjene profit- og effektiviseringsformål, og i deres ører rimer det på stressede medarbejdere. Især er der bekymring for algoritmer, der sætter tidsbestemmelser på for arbejdsopgaver. Frygten er, at tidsbestemte mål gør, at alle løber hurtigere hele tiden for ikke at blive straffet af algoritmen, og at der ikke er plads til uventede ting i løbet af en arbejdsdag, som gør, at man bruger mere tid på at løse en opgave end estimeret. 

Ifølge deltagerne vil det ikke bare føre til dårligt udført arbejde, men det vil på sigt betyde, at flere medarbejdere vil gå ned med stress. De mener, at den måde at anvende algoritmerne på er bekymrende og kun vil skabe dårlige arbejdsmiljøer, hvor medarbejdere bliver umenneskeliggjort for at efterkomme effektiviseringer på en arbejdsplads.  

En undersøgelse af danskernes holdninger til den teknologiske udvikling