Luk

Algoritmer i hverdagen

I takt med digitaliseringen af samfundet bliver algoritmer en større del af danskernes hverdag. Teknologien bruges ikke længere kun af Netflix til at vise dig netop den serie, du synes er interessant. Algoritmer anvendes i større og større omfang i centrale dele af vores samfund, fra sundhedsvæsnet til forsikringsselskaber og arbejdspladser.  

I det her tema dykker vi ned i danskernes bekymringer, når det kommer til anvendelse af algoritmer i en række brugsscenarier. Vi stiller også skarpt på, hvor vi ser muligheder og positive potentialer for anvendelsen af teknologien.  

Læs om metoden 

For mange er algoritmer det, der målretter reklamer og indhold til dem 

De fleste deltagere i fokusgrupperne forbinder algoritmer med den funktion, som bestemmer, hvad de ser på sociale medier, eller med den funktion som sørger for at målrette reklamer til dem på baggrund af deres søgehistorik. Den type af algoritmer er mere gennemskuelige for danskerne, sandsynligvis fordi de en-til-en kan se sammenhængen mellem for eksempel deres søgehistorik og den reklame, der vises i deres Facebook-feed. Selvom kendskabet til algoritmer er højere blandt danskere med høje digitale kompetencer, er der generelt enighed om, at der mangler viden om, hvordan algoritmer træffer beslutninger og hvilke data de trækker på, og om hvornår man selv er i kontakt med en algoritme. 

Algoritmer må godt bruges til at målrette reklamer – hvis de rammer rigtigt

For nogle er det en gevinst i hverdagen, at algoritmer kan målrette relevante og gode tilbud til dem, fordi det for eksempel gør de daglige indkøb meget nemmere. Men den måde at anvende algoritmerne på ses kun som positivt, så længe algoritmer rammer rigtigt. Eksponering for mange irrelevante reklamer er kernen til stor irritation blandt danskerne, og faktisk er 21 pct. af danskerne i meget høj grad bekymrede for algoritmer, der bruges til at målrette reklamer og produkter. 

Brug af algoritmer i samfundet 

Alle fokusgrupper er blevet bedt om at forholde sig til tre konkrete scenarier for brugen af algoritmer indenfor sundhedssystemet, bank- og forsikringsbranchen samt på arbejdspladser. Hvert scenarie beskriver forhold, der aktuelt eksisterer i Danmark, og som man kan forvente, danskerne vil komme i kontakt med. 

Deltagere i fokusgrupperne er blevet præsenteret for et scenarie med tilhørende dilemma og er blevet bedt om at diskutere fordele, ulemper og risici i forbindelse med anvendelsen af algoritmer samt værdien af det formål, algoritmen tjener. 

Læs mere om metoden 

Algoritmer i sundhedsvæsenet

Scenariet

Kunstig intelligens og beslutninger truffet af algoritmer

Dilemmaet

Der er en række fordele ved at bruge algoritmer i

Overordnet vurderer de fleste, at der er begrænsede risici ved at anvende algoritmer i sundhedsvæsnet 

Algoritmer kan være med til at styrke et ellers presset sundhedssystem, men de skal kun anvendes som støttesystemer for sikre vurderingen af det hele menneske 

For flere opvejer fordelen ved at bruge algoritmer i sundhedssystemet overordnet de ulemper, der kan være ved anvendelsen. Særligt fremhæver deltagere i fokusgrupperne algoritmernes potentiale til at aflaste et ellers presset sundhedssystem – en gevinst, som de deltagere i fokusgrupperne, der arbejder i sundhedssystemet, bekræfter. Nogle fremhæver i den forbindelse, at algoritmer tilmeld kan åbne sundhedspersonalets øjne for sygdomme eller behandlingsmuligheder, som potentielt kunne blive overset. 

For de fleste er det dog essentielt i vurderingen, at algoritmerne kun benyttes som støtteværktøj og ikke får lov til at træffe automatiske beslutninger. Det skal være sundhedsfagligt personale, der træffer afgørende beslutninger om borgernes behandling og helbred, fordi man ellers vil være bekymret for, at borgeren blot bliver vurderet ud fra ’et regnestykke’ fremfor som et helt menneske. Der er en manglende tillid til, at algoritmerne altid træffer de rigtige beslutninger, og holdningen er, at algoritmer slet ikke er i stand til at erstatte fagpersonalets evne til at foretage komplekse sundhedsvurderinger.  

Man vil gerne dele sine sundhedsdata – og helst med samtykke

Algoritmernes evne til at behandle store mængder af data giver nogle en tryghed og sikkerhed, da ”mennesker kan ikke vide alt” (Sofie, 26 år), og generelt er danskerne i fokusgrupperne villige til at dele deres sundhedsdata. Det tjener nemlig et almennyttigt formål, som kan gavne både dem selv og resten af samfundet. De er mindre bekymrede for, at algoritmerne reproducerer eksisterende bias, men til gengæld er de optagede af, at der skal gives samtykke til anvendelsen af deres sundhedsdata og til, at data om dem indgår i tidlig opsporing af sygdomme og forudsigelse af helbredsudvikling baseret på algoritmer. 

Algoritmer fodret med fejlagtige data bekymrer danskerne 

Der er nogle deltagere i fokusgrupperne, som forbinder algoritmer i sundhedsvæsnet med en høj risiko. For nogle skyldes det en generel mistillid til sundhedsvæsnet, men for de fleste er risikoen høj på grund af en bekymring for, at algoritmer træffer beslutninger baseret på fejlagtige data. Disse deltagere har en generel mistillid til, at algoritmerne kan træffe bedre beslutninger end lægerne, for ”hvis du fodrer algoritmerne med forkerte data, så får du jo også forkerte data ud” (Henrik, 39 år). Her peger flere dog på, at algoritmer faktisk giver mulighed for at fjerne fejlkilder, når de opdages, og for at man hurtigere kan rense stereotyper ud af den kunstige intelligens, end man kan hos en generation af læger. 

Lægerne må ikke miste deres sunde fornuft

På trods af fordelene ved algoritmer i sundhedssystemet, findes der en bekymring blandt flere for, at læger i fremtiden vil komme til at læne sig for meget op ad algoritmerne som ’den nemme løsning’. Frygten er, at lægerne glemmer at bruge deres egen sunde fornuft eller lytte til deres mavefornemmelse, og at de dermed risikerer at fejldiagnosticere deres patienter, fordi algoritmerne ikke altid diagnosticere korrekt. Deltagere med en sundhedsfaglig baggrund har dog ikke den bekymring ved simple problemstillinger, såsom vurdering af kræftceller, hvilket skyldes, at de i det daglige ser gevinsterne af algoritmerne i sundhedsvæsnet. 


Algoritmer i banker og forsikringsselskaber 

Scenariet

Når man skal tegne en ny forsikring eller optage et lån i banken, laver selskabet en individuel risikovurdering. I dag bliver en sådan vurdering i

Dilemmaet

Det kan være værdifuldt for kunderne at få beregnet en præcis risikoprofil, ligesom den øgede databehandling kan danne grundlag for mere tilpassede

Der er langt større skepsis overfor anvendelsen af algoritmer og digitale data i bank- og forsikringsbranchen. Mange mener det er uacceptabelt at anvende algoritmer baseret på adfærdsdata fra sociale medier og webshops til for eksempel at foretage vurderinger af lånemuligheder  

Anvendelse af adfærdsdata er ubehageligt og grænseoverskridende  

Banker og forsikringsvirksomheders potentielle brug af adfærdsdata om deres kunders internethandel, adfærd på sociale medier eller fritidsinteresser blev af flere deltagere i fokusgrupperne forbundet med stort ubehag. De beskrev det som skræmmende og som noget, der ville overskride deres privatsfære. Nogle mente, at det er direkte ’spionage’ at bruge adfærdsdata fra sociale medier. Generelt er folks opfattelse, at personlige forsikringer og økonomi ikke har noget med deres online-adfærd eller fritidsinteresser at gøre. Hvis banker og forsikringsvirksomheder skal bruge algoritmer, må det være baseret på data om deres økonomi eller helbred – ikke andre dele af deres liv. 

Profit kommer ikke mig til gavn 

Der er en generel skepsis overfor private virksomheders anvendelse af algoritmer og andre teknologier, fordi formålet ofte udelukkende forbindes til profitmaksimering – et formål, de fleste mener hverken kommer dem selv eller samfundet til gode. Det er kun til gavn for virksomheden selv, og derfor er flere mere tilbageholdende med at ville dele deres data med private virksomheder. Enkelte anskuer det dog for at være positivt, at algoritmer kan give dem en økonomisk fordel som forbrugere ved, at ”jeg ikke skal betale mere, for at andre vil springe i faldskærm” (Lisbeth, 49 år). Danskerne føler ikke, at den kommercielle brug af deres data vil komme dem selv, eller andre forbrugere, til gode.  

Data fra sociale medier reflekterer ikke virkeligheden 

Flere er kritiske overfor brug af data fra sociale medier som grundlag for et låne- eller forsikringstilbud. Ifølge dem ”virker det bindegalt at beregne en forsikring på baggrund af mit virke på nettet” (Keld, 61 år). Kritikken er, at sociale medier ikke reflekterer virkeligheden, men udgør en opstillet og kurateret udgave af ens liv, og med det følger en række bekymringer:  

  • At folk begynder at regulere deres online-adfærd for at ’snyde systemet’ til billige tilbud 
  • At banker og forsikringsselskaber vil misfortolke online-adfærd, for eksempel at man følger kontroversielle personer 
  • Uvished om konsekvenserne ved ikke at være aktiv på sociale medier 

Samlet set er mange bekymrede for deres grundlæggende rettigheder som forbrugere: at baggrunden for en prissætning bliver ugennemsigtig, og at man ikke har mulighed for at sammenligne forudsætningerne for de tilbud, man får.  

Frygten for forskelsbehandling 

Flere er især bekymrede for, at de vil blive forskelsbehandlede på baggrund af deres online-adfærd og livsstil. De bryder sig ikke om, at banker eller forsikringsselskaber får muligheden for at dele borgere op i forskellige grupper, hvor nogle får fordelagtige vilkår på baggrund af deres livsstil og online-adfærd. Dette på trods af, at nogle af danskerne er bevidste om, at de potentielt selv vil kunne få bedre vilkår. 


Algoritmer på arbejdspladsen  

Scenariet

Algoritmer har også fundet deres vej ind på arbejdspladserne,

Dilemmaet

Selvom der kan være fordele i at effektivisere en

Der er splittede holdninger til niveauet af risici forbundet med anvendelsen af algoritmer på arbejdspladsen. I sidste ende er det formålet med og motivet for en ledelses anvendelse af algoritmerne, som bliver afgørende for vurderingen af risici  

Risici er begrænsede, hvis anvendelsen af algoritmer kommer medarbejderne til gode 

De deltagere, som ser fordele ved algoritmer på arbejdspladser, lægger vægt på, at de skal anvendes til at forbedre hverdagen og arbejdsvilkårene for medarbejderne. Fremfor at se det som et værktøj til profitoptimering, bør algoritmerne anvendes til at: 

  • varetage standardiserede arbejdsgange og være et støtteværktøj, der kan frigøre tid til sjovere opgaver i hverdagen 
  • afdække områder, hvor der mangler ressourcer 
  • være den objektive vurdering af medarbejderes kompetencer, så personlige forhold til ledelsen ikke bliver et dække over inkompetente medarbejdere 
  • opspore, om medarbejdere er ved at gå ned med stress. 

Hårfin balance mellem fordele og følelsen af overvågning

Ifølge deltagerne er der en hårfin balance mellem, at algoritmerne kommer medarbejderne til gode, og følelsen af at blive overvåget på arbejdspladsen. En følelse, der beskrives som ubehagelig og skræmmende. Flere bryder sig ikke om, at alt, hvad de foretager sig på arbejdet, overvåges, og de frygter, at algoritmer bliver et misbrugt styringsværktøj, hvor der ikke er plads til fejl, en dårlig dag eller lav effektivitet. 

Vi vil gerne bibeholde kontrollen over vores arbejde 

Der hersker en generel bekymring blandt deltagerne for, at man som medarbejder vil miste kontrollen over ens arbejdsopgaver, hvis algoritmerne kommer til at styre for meget på arbejdspladsen. Bekymringen er, at folk ender med at få tildelt ensartede opgaver, der aldrig udfordrer og udvikler dem, hvis algoritmerne tiddeler arbejdsopgaver på baggrund af tidligere opgaveløsninger, der ikke er repræsentative for folks reelle kompetencer. Det er især en bekymring blandt dem, der arbejder med mennesker, som understreger, at deres arbejdsdage er for varierede og uberegnelige til, at en algoritme eksempelvis kan prioritere arbejdsopgaver mest hensigtsmæssigt. 

Tidseffektiviserende algoritmer vil føre til stress og umenneskeliggørelse 

Flere udtrykker en grundlæggende bekymring for, at algoritmer på arbejdspladsen udelukkende vil komme til at tjene profit- og effektiviseringsformål, og i deres ører rimer det på stressede medarbejdere. Især er der bekymring for algoritmer, der sætter tidsbestemmelser på for arbejdsopgaver. Frygten er, at tidsbestemte mål gør, at alle løber hurtigere hele tiden for ikke at blive straffet af algoritmen, og at der ikke er plads til uventede ting i løbet af en arbejdsdag, som gør, at man bruger mere tid på at løse en opgave end estimeret. 

Ifølge deltagerne vil det ikke bare føre til dårligt udført arbejde, men det vil på sigt betyde, at flere medarbejdere vil gå ned med stress. De mener, at den måde at anvende algoritmerne på er bekymrende og kun vil skabe dårlige arbejdsmiljøer, hvor medarbejdere bliver umenneskeliggjort for at efterkomme effektiviseringer på en arbejdsplads.  

En undersøgelse af danskernes holdninger til den teknologiske udvikling

Hovedkonklusioner 2021

Her finder du undersøgelsens hovedresultater og -budskaber samlet og præsenteret i en overskuelig form. Læs med her, hvis du vil have et hurtigt overblik, inden du udforsker og går i dybden med resten af undersøgelsens temaer.

 

Læs hovedkonklusionerne

 

Digitaliserings betydning for demokratiet

I dette tema dykker vi ned i danskernes kendskab til og syn på brugen af ansigtsgenkendelsesteknologi i både offentlig og kommerciel regi, og belyser hvilke bekymringer og potentialer, danskerne oplever i forbindelse med teknologien.

 

Læs om temaet

 

Algoritmer i hverdagen

Læs med her, hvor vi dykker ned i positive muligheder og potentialer for anvendelsen af teknologien, og hvor bekymringerne melder sig, når algoritmer anvendes i alt fra sundhedssystemet, banksektoren og på arbejdspladserne.

 

Læs om temaet

 

Digital sikkerhed og tryghed

Her stiller vi skarpt på danskernes bekymringer, når det kommer til digital kriminalitet, ligesom vi ser på, hvilke aktører danskerne har tillid til, når det kommer til at løfte det ansvar.


 

Læs om temaet

 

Demokrati og rettigheder

I dette tema dykker vi ned i danskernes holdninger til og bekymringer om, hvilken betydning den teknologiske udvikling har for fællesskabet, den demokratiske samtale og sikringen af vores borgerrettigheder.

 

Læs om temaet

 

Sociale medier og psyken

I det her tema dykker vi ned i danskernes syn på de sociale mediers indvirkning på psyken. Er danskerne bekymrede for, at sociale medier påvirker deres mentale sundhed, og hvem der har ansvaret for, at det ikke sker.

 

Læs om temaet