Som postdoc ved Institut for Uddannelsesvidenskab på DPU, Aarhus Universitet, har Ida Schrøder siden 2021 forsket i udvikling og brug af algoritmer i offentlig administration. Sammen med professor Helene Ratner ved DTU har hun indgået i delprojektet Public administration and prediction. Ved udgangen af ADD-projektet står hun med et klart budskab: “AI er ikke blot et redskab, men en teknologi, der aktivt former praksisser og beslutningsprocesser i velfærdsstaten.”
I dette exit-interview giver Ida Schrøder både faglig indsigt og personlige refleksioner om projektet og sin tid i ADD.
Fra algoritmer i brug til udviklingen bag
Projektet Public administration and prediction startede med et klart fokus: at undersøge prædiktive algoritmer i socialt arbejde med udsatte børn og unge.
“Da jeg startede, var det med det ophav at skulle undersøge prædiktive algoritmer i socialt arbejde med udsatte børn og unge i praksis. Det vil sige, hvordan håndterer man alle de etiske udfordringer, der opstår, når man arbejder med mennesker og skal finde ud af, hvordan vi skal hjælpe de her børn bedst muligt og samtidig arbejde med prædiktive algoritmer,” fortæller Ida Schrøder.
Ambitionen var med andre ord at undersøge, hvordan teknologien kunne forudsige børns livsbaner, og hvilke etiske udfordringer det skabte for blandt andet socialrådgivere, kommuner og borgere.
Men hurtigt blev flere kommunale forsøg lukket ned – dels fordi man fandt ud af, at det var ulovligt at bruge borgernes data til det, man havde planlagt, og dels på grund af etiske bekymringer og politisk debat. Dermed tog projektet en drejning, fortæller Ida Schrøder:
“Lynhurtigt faldt de prædiktive algoritmer fra, fordi de blev lukket ned. Derfor ændrede projektsporet sig fra en undersøgelse af prædiktive algoritmer i praksis til at fokusere på, hvad der sker, når man udvikler. Det vil sige, hvordan bliver værdien af en algoritme for eksempel forhandlet, når man skal beslutte, om man vil fortsætte udviklingen eller ej?”
Fokus flyttede altså fra selve brugen af algoritmer til udviklingsarbejdet bag dem – hvordan værdien forhandles, hvornår man beslutter at fortsætte eller stoppe udviklingen, og hvad der sker med praksisser, når man forsøger at implementere AI, fortæller hun.
Algoritmer og AI har en extended agency, dvs. en udvidet handlekraft, som får mennesker, systemer og organisationer til at ændre sig. Derfor kan man ikke på forhånd afgøre, hvad der er lovligt eller ulovligt, fordi arbejdet hele tiden folder sig rundt om algoritmen.
Nye algoritmeverdener og extended agency
I arbejdet med prædiktive algoritmer opdagede Ida Schrøder, at udviklingen af algoritmer ikke kun skaber nye teknologier, men også nye verdener omkring dem:
“Alt efter hvor algoritmen bliver arbejdet med, opstår der forskellige verdener. For eksempel på det juridiske område skal man finde en ny praksis for, hvordan man vurderer, om en algoritme er lovlig eller ulovlig.”
Med denne indsigt mener Ida Schrøder, at hendes forskning bidrager til forståelsen af, hvordan algoritmer og AI griber ind i vores verden på en anden måde end de digitale systemer. Hun betegner det som extended agency:
“Algoritmer og AI har en extended agency, dvs. en udvidet handlekraft, som får mennesker, systemer og organisationer til at ændre sig. Derfor kan man ikke på forhånd afgøre, hvad der er lovligt eller ulovligt, fordi arbejdet hele tiden folder sig rundt om algoritmen,” fortæller hun.
De digitale systemer er med andre ord med til at forandre praksis, konkluderer hun.
Advarer mod udhulende AI
Ida Schrøder peger på, at Danmark har nogle særlige rammer, der er værd at beskytte:
“Både forsknings- og praksismæssigt skal vi passe på ikke bare at udhule lovgivningen for at give plads til AI. Det er på grund af den universelle velfærdsmodel, vi har, at der er så mange begrænsninger på, hvad vi kan gøre med data til at udvikle kunstig intelligens, for eksempel prædiktive algoritmer. Men det er også det, der gør, at der eksisterer en anden form for økonomisk tænkning,” siger hun.
Vi skal passe på ikke bare at udhule lovgivningen for at give plads til AI. Det er på grund af den universelle velfærdsmodel, vi har, at der er så mange begrænsninger på, hvad vi kan gøre med data til at udvikle kunstig intelligens, for eksempel prædiktive algoritmer.
For hende ligger en stor gevinst netop i at se AI som en kilde til indsigt, udvikling og nye kompetencer – ikke som et redskab til at udhule lovgivning eller effektivisere relationelt arbejde. Hun understreger, at værdien af forsøgene ikke kun kan måles i effektivitet, men også i den læring og kompetenceudvikling, som arbejdet med AI giver.
Og netop læring og kompetenceudvikling er for Ida Schrøder ikke kun et forskningsresultat, men også en personlig erfaring fra hendes tid i ADD:
“Mine bedste minder er helt klart samarbejdet, især mellem Aalborg Universitet og Aarhus Universitet. Det unikke var at deltage i processen fra de allerførste datasprints til deres superkreative formidling, hvor jeg skulle stå på et kæmpe ‘landkort’ af data og fortælle om min forskning for gæster på Det Tekniske Museum,” fortæller hun.
- Blå Bog
- Navn: Ida Marie Schrøder
- Baggrund: Cand.scient.soc. i socialvidenskab og kommunikation fra RUC, ph.d. fra CBS om økonomistyring i socialt arbejde; tidligere lektor på socialrådgiveruddannelsen, Københavns Professionshøjskole
- Rolle i ADD: Postdoc ved DPU, Aarhus Universitet (2021–2025) i delprojektet Public administration and prediction
- Fun fact: Ida Schrøder elsker at sejle kapsejlads i sin Spækhugger, som ligger i Svanemøllehavnen.
Hvad nu?
Spørgsmålene er de samme: hvad sker der i samspillet mellem teknologi og fagprofessionel? Men samtalen starter forskelligt.
I dag er Ida ansat som lektor på IT-Universitetet i København, hvor hun forsker i, hvordan professionelle roller og organisatoriske praksisser forandres, når digitale systemer og AI bliver en integreret del af arbejdet.
”Fra at jeg før skulle undervise dem, der ikke interesserer sig synderligt for teknologi, fx socialrådgivere og uddannelsesvidenskabere, i at forstå og analysere hvad digitale teknologier er, hvordan de bliver udviklet og sådan noget, skal jeg nu undervise den anden vej rundt. Jeg skal undervise alle dem, der i udgangspunktet interesserer sig for IT. De skal så forstå noget om, hvad det vil sige at være fagprofessionel lærer eller socialrådgiver og så videre og om, hvordan fx professionelle rolle forandrer sig, når IT-systemerne ændrer sig. Spørgsmålene er de samme: hvad sker der i samspillet mellem teknologi og fagprofessionel? Men samtalen starter forskelligt.
Hun understreger, at hun med ADD-projektet har en stærk position ved at kunne bringe opdateret viden om algoritmer og kunstig intelligens med til bordet
“Det føles som et oplagt videre skridt,” lyder de afsluttende ord fra Ida.