ADD-bloggen giver et indblik i ADD-projektets forskning på tværs af de seks universitetspartnere. Mød vores forskere fra Aalborg Universitet, Aarhus Universitet, Copenhagen Business School, Roskilde Universitet, Københavns Universitet og Syddansk Universitet. Læs om deres projekter, aktiviteter, idéer og tanker – og få et nyt perspektiv på de kontroverser og dilemmaer, vi står overfor i digitaliseringens tidsalder, og ideer til, hvordan vi kan arbejde for at styrke det digitale demokrati.
Torben Elgaard Jensen, TANTlab, Aalborg Universitet.
I denne blog vil jeg lave en øvelse, som næsten er umulig. I stort set al den aktuelle diskussion om AI har vi blikket stift rettet mod fremtiden. Hvad bliver den næste teknologiske landvinding? Hvordan vil fremtidens samfund med AI komme til at se ud? Bliver vi klogere eller dummere? Vil AI systemerne få agency, bevidsthed eller følelser? Kommer vi til at spare 10.000 offentligt ansatte? Bliver Europa kørt ud på et sidespor? Overlever demokratiet? Overlever klimaet? Overlever menneskeheden? Sådan har diskussionerne kørt de seneste år, især siden lanceringen af ChatGPT i 2022, som for alvor gjorde AI håndgribeligt og tilgængeligt for et internationalt massepublikum.
Men der er også andre perspektiver på AI, som vi kunne kalde AI eftertanker. Da vi nu har oplevet og gennemlevet nogle år med AI debat, kan vi, om ikke andet så for en kort stund, rette blikket tilbage og reflektere over, hvordan debatten har udfoldet sig. Det vil jeg gøre i denne blog. Som det vil blive klart hen ad vejen, trækker jeg på et bredt udvalg af samfundsvidenskabelige forskere, som har produceret både casestudier og refleksioner over samspillet mellem teknologisk og samfundsmæssig udvikling.
Til ære for den utålmodige læser, kan jeg antyde konklusionen på forhånd. Min påstand er, at dramaet omkring AI har fremkaldt nogle gamle uvaner; de seneste års debatter har givet ny vind i sejlene til nogle simplificerede ideer om teknologi og teknologiudvikling. Jeg er overbevist om, at vi kan gøre det bedre i de kommende år.
Eftertanke 1: Kan vi undslippe det ’epokale tyranni’?
Min første eftertanke handler om tid, eller mere præcist periodisering. Forestiller vi os, at vi står på ’tærsklen til en ny tidsalder’, som vil blive defineret af AI, eller forestiller vi os, at AI vil folde sig ind i utallige andre komplicerede udviklingsdynamikker? Der er ingen tvivl om, at diskursen om en helt ny AI tidsalder har kapret en stor del af opmærksomheden i de seneste år. OpenAI har med stor dygtighed iscenesat historien om et gennembrud med verdensomstyrtende konsekvenser. Konsulentfirmaer har istemt med forudsigelser om et A hold af virksomheder, som i den nærmeste fremtid vil ride til uanede højder på bølgen, og et B hold som vil synke til bunds. Højt profilerede debattører har skrevet bøger, hvor nye spektakulære periodiseringer bliver promoveret. F.eks. hævder Kissinger et al. (2021), at mennesker gennem hele historien har været ’alene’ om at erkende naturen, indtil nu – netop nu – hvor vi pludselig har fået en formidabel makker.
Alle disse påstande er en nærmere diskussion værd. Måske skal vi tænke på AI som en åben kontrovers og en uafsluttet proces, snarere end en bestemt ’ting’ (Suchman 2023). Måske er OpenAIs teknologi et noget mindre skridt i en længere evolution af teknologier (Pi 2024). Måske er AI hypen ved at dampe lidt af, og måske kommer vi til at kigge noget længere efter de spektakulære business cases (Naughton 2023). Måske har videnskabshistorien altid været historien om udvikling af instrumenter, tidsskrifter og forskningsfællesskaber, hvorfor forskere aldrig har erkendt naturen ’alene’, men altid ved hjælp af konstruerede sociotekniske ’maskiner’ (Latour 1990)?
Men mit ærinde her er ikke at gå ind i de aktuelle debatter. Mit ærinde, min eftertanke og min bekymring drejer sig om, hvad der sker med en diskussion, når nogen hævder, at vi står overfor en ny epoke. Sociologen Paul du Gay har i en over 20 år gammel artikel sat fingeren på en særlig form for retorik og diskurs, som han kalder det epokale tyranni. Han beskriver tyranniet som ”a logic of overdramatic dichotomization that establishes the available terms of debate and critique in advance, in highly simplified terms, either for or against, and offers no escape from its own categorical imperatives” (Du Gay 2003:664). Hvis de epokale diskurs dominerer, siger Du Gay, at man lander i en situation, hvor det er et alt eller intet. Enten bøjer man sig for påstanden om, at fremtiden kan defineres og forstås som en radikalt ny ære med helt andre spilleregler, eller også har man placeret sig i den lidt attråværdige position som den vrangvillige skeptiker, der nægter at se ’realiteterne’ i øjnene.
Det epokale tyranni har gang på gang stukket sit hoved frem i diskussionerne om nye teknologier og samfundsudviklinger. I 00’erne, hvor der var et stort boom af dot.com virksomheder, og hvor mange talte om ’den ny økonomi’, lavede jeg selv et nærstudie af den epokale diskurs i praksis (Jensen 2008). I København var der netop åbnet et åbent kontormiljø for iværksættervirksomheder. Lederen af kontormiljøet var selvfølgelig interesseret i at sælge kontorpladser, men han solgte også med stor entusiasme en vision om ’fremtidens kontor’, til en stadig strøm af besøgende journalister. Igen og igen fremførte han argumentet om, at folk i ’den gamle økonomi’ ikke samarbejdede effektivt, fordi alle holdt på deres egen viden, hvorimod folk i den ’nye økonomi’, her pegede han udover sit kontorlandskab, sad sammen, netværkede og delte viden. Set i bakspejlet er det forbløffende, at nogen troede på, at man ikke samarbejdede eller delte viden i ’den gamle økonomi’. Men på daværende tidspunkt, hvor den epokale retorik om en ny dot.com tidsalder var på sit højeste, var der en stor villighed til at affeje alt ’det gamle’ som snart irrelevant og en stor villighed til at se selv ganske små fysiske manifestationer, som 10-15 mennesker i et åbent kontormiljø, som et tegn på, at en ny verdensorden var ved at bryde frem.
Der er for mig at se ingen tvivl om, at AI diskussionen har været præget af en høj grad af epokalt tyranni. Det bliver fremført igen og igen, både af kritikere og entusiaster, at AI kommer buldrende og vil forandre alt. Jeg tror, vi er klar til at se denne retoriske figur i øjnene for hvad den er: Ikke en særlig objektiv eller præcis beskrivelse af verden, men et retorisk kneb som fikserer præmisserne for debatten. Lad os diskutere, hvad fremtiden bringer, men ikke på det epokale tyrannis betingelser.
Eftertanke 2: Kan vi forlade idéen om det rent tekniske versus det rent menneskelige?
Det typiske udsagn i de seneste års debatter er, at computere, nu med neural netværks arkitektur og maskinlæringsstrategier, kan matche eller overgå den menneskelig intelligens. Præmissen for det udsagn er, at vi på den ene side har den ’rene’ menneskelige intelligens og på den anden side den maskinelle konkurrent. Den præmis er efter min bedste mening vildledende, hvis ikke direkte forkert.
Lad os starte med se på den menneskelige side af ligningen. Hvad er menneskelig intelligens egentligt? Når kognitive psykologer måler den såkaldte intelligenskvotient som udtryk for en persons generaliserede intelligens, så gør de i praksis det, at de giver testpersonen en række meget forskellige delprøver. Testpersonen bliver fx bedt om at huske og gentage en lang sekvens af tal eller ordne en håndfuld billeder i rækkefølge, så man kan fortælle en sammenhængende historie ud fra dem. Hvis vi kalder delprøverne for pærer, æbler og bananer, så vil mange nok blive overraskede over psykologernes næste træk: De lægger nemlig resultaterne af delprøverne sammen til et enkelt tal.
Psykologernes argument for den operation er, at man empirisk har observeret, at der er en svag positiv korrelation mellem, hvor godt man klarer sig på forskellige delprøver. På den baggrund har kognitive psykologer konstrueret en teori om, at der findes en enkelt bagvedliggende faktor, som bidrager til alle delprøverne. Den faktor har de givet navnet den generaliserede intelligens. Bemærk her, at ingen nogensinde har set eller målt ”den generaliserede intelligens” på andre måder end gennem delprøverne. Det er således mere rigtigt at sige, at delprøverne er forklaringen på den generaliserede intelligens end omvendt! Bemærk i øvrigt også at intelligenstesten og intelligenskvotienten har skabt en stærk kulturel forestilling om, at intelligens er noget meget konkret, selvom det reelt drejer sig om en teori på baggrund af en svag positiv korrelation.
Men hvis man kan være skeptisk overfor idéen om, at det formidable og varierede arsenal af menneskelige kompetencer er drevet af en enkelt bagvedliggende faktor, hvad er så forklaringen på alle de ting, vi kan? Svaret ligger mere lige for, end man skulle tro. Hvis man ser på, hvordan vi i praksis løser opgaver, fx spejler et æg, så er det oplagt, at vi altid befinder os i konkrete omstændigheder, som vores handlinger og refleksioner er foldet sammen med. Min eventuelle ’intelligens’ gør det ikke muligt for mig at spejle et æg, mens jeg kører på cykel, men hvis jeg går ud i mit køkken, kan jeg forbinde mig med årtiers erfaring og udvikling ved hjælp af elektricitet, køleskab, komfur, pande, plasticpalet og æggebakker. Jeg kan interagere med tingene undervejs i processen, så jeg løbende kan se og lugte, hvordan mit lille projekt skrider fremad.
Bagefter vil jeg måske sige, at ’jeg’ har spejlet et æg. Men det er i virkeligheden bare pral. Menneskelig handleevne (’agency’) er i praksis aldrig rent menneskelig. Alt det, vi kan, er dybt sammenhængende med de steder, vi er lokaliseret, og det omfattende og stadig foranderlige netværk af materialer og teknologier, som vi trækker på (Hutchins 1995). Det betyder, at når vi siger, AI kan matche den menneskelige intelligens, så er den ene side af ligningen ’den menneskelige intelligens’ en temmelig ubekendt størrelse.
Lad os se på den anden side, som er AI systemerne. Der ingen tvivl om, at disse systemer kan imponerende meget mere end for blot få år siden. Men igen kan vi med rette spørge, om vi har at gøre med en ’ren’ maskineintelligens, som vi kan sammenligne med menneskelig intelligens. Når vi taler om store sprogmodeller, er det veldokumenteret, at de bygger på verdenshistoriens største ’tilegnelse’ af menneskeligt produceret materiale. Det er også velkendt, at træningen af AI modeller ofte trækker på enorme mængder arbejde fra ofte underbetale mennesker, som gradvis hjælper AI modellen på rette vej (Crawford 2021).
Trods alt dette, kan man alligevel få indtryk af, at AI systemer på et tidspunkt kommer til at fungere ’automatisk’. Fornemmelsen af ’automatik’ bliver imidlertid hurtigt udfordret, hvis man ser på anvendelse af AI i praksis. Et godt eksempel er Hawk-Eye, VAR og lignende systemer, som bruges til at tracke boldens bevægelse i sportsturneringer. Mange forventede, at disse smarte teknologier ville gøre dommere og linjedommere arbejdsløse, men i virkeligheden er der sket det modsatte. Fodboldkampe har nu op til fem dommere, og derudover er der ansat en større team af mennesker i et kontrolcenter, som løbende genspiller og kontrollerer videosekvenser. Mængden af ansatte sportsofficials har aldrig være større (Runciman 2023:227).
Den samlede konklusion er, at sammenligningerne mellem menneskelig og kunstig intelligens i vid udstrækning er et forvirrende element i debatten. I praksis sammenligner vi altid forskellige socio-tekniske systemer. Det vigtigste sammenlignende spørgsmål er derfor ikke, om ’maskinen’ nu eller i fremtiden har overgået ’mennesket’. Det vi i virkeligheden bør sammenligne, er forskellige socio-tekniske systemer. Vi bør spørge os selv, om det ene sociotekniske system fremfor det andet har mere positive eller negative praktiske, sociale, politiske, økonomiske eller miljømæssige konsekvenser (Bender et al. 2021). Hvis vi kan holde os dét for øje, tror jeg AI diskussionen i de kommende år kan komme et godt skridt videre[1].
Eftertanke 3: Kan vi få et mere realistisk billede af innovation
Historien om AI er historien om, at nogle få, især amerikanske firmaer, har formået at samle exceptionelle mængder af data, tekniske AI eksperter og kapital. Med de ressourcer i ryggen har de formået at udvikle nogle forbløffende nye teknologier. Den historie er sand, men det er ikke hele sandheden. Først og fremmest fordi historien giver for meget til Tech giganterne og for lidt til en række andre aktører.
Lad os starte med se på staters rolle. Økonomen Mazzucato har forsøgt at gøre op med myten om, at den tekniske innovation først og fremmest er drevet af den private sektor, mens den offentlige sektor blot regulerer og bureaukratiserer (Mazzucato 2013). I en analyse af Apple’s iPhone, påpeger Mazzucato, at der ikke er en eneste væsentlig teknologi i iPhonen, som ikke er blevet statsfinansieret. Dertil kommer, at telefonens ’smartness’ bygger oven på en yderligere række af statsfinansierede teknologier, såsom Internettet, GPS og touchscreenteknologien. Endelig tilføjer hun, at firmaet Apple i sin opstartsfase modtog en betragtelig mængde støttemidler fra den amerikanske stat.
Billedet af Tech firmaernes innovation kan også nuanceres ved at se på den rolle, som brugere spiller. Brugere kan defineres på flere måder. For det første er der ’slutbrugere’, fx gymnasieeleven, der sidder alene og eksperimenterer med, hvordan AI kan bruges til at forbedre en tekst eller et stykke kode. Brugere kan også være brugerfællesskaber som fx open source udviklere, der gør en koordineret indsats for at opfinde og teste nye varianter og funktionaliteter.
Endelig kan vi tænke ’brugere’ som de mere uforvarende brugere. Det kunne for eksempel være folk, der oplever, hvordan AI-produkter florerer på nettet, eller hvordan organisationer eller myndigheder begynder at anvende AI. I visse tilfælde vil disse brugere engagere sig i offentlige debatter om, hvad vi kan og skal bruge AI til. Dermed bidrager de til at forme vores kulturelle normer og forestillinger om AI. Tekniske udviklere vil formentligt ikke mene, at offentlige debatter kan regnes med som en del af AI innovationen. Men ser man på, hvad der i praksis er afgørende for, hvad AI kan bruges til, så giver det på en vis måde mening at tælle disse aktiviteter med.
Under alle omstændigheder tror jeg, det er vigtigt at medtænke hele spektret af AI innovation. Dels fordi der hele tiden sker nye udviklinger, som forandrer dynamikken omkring Tech firmaer. Nye (de)reguleringer, nye statslige investeringer, nye whistleblowers og nye overraskende open source konkurrenter. Dels fordi der kan opstå interessante muligheder for at samle og koordinere den spredte AI innovation, som allerede nu finder sted blandt mange forskellige aktører.
I den sammenhæng kan vi måske lære noget af teknologihistorien: Et af de afgørende øjeblikke i udviklingen af den danske vindmølle industri var statens beslutning om at etablere et vindmølletestcenter. Denne statslige organisation blev et mødested og en krumtap for en bredt felt af danske vindmølleentusiaster, som fik mulighed for at sammenligne og videreudvikle deres opfindelser (Garud & Karnøe 2003). Måske skal vi tænke i tilsvarende baner på AI området. Kan vi opfinde nye kreative koordineringstiltag eller infrastrukturer, som kan samle de mange spredte AI innovationsindsatser?
Tilbage til fremtiden
Som jeg har skitseret ovenfor, kan der være gode grund til at genbesøge de seneste års AI debat og gøre sig nogle eftertanker. Vi kan med fordel se kritisk på tænkning, som tager udgangspunkt forenklede opdelinger af det menneskelige og det tekniske, i radikalt opdelte epoker eller i forestillinger om, at innovationen kun kommer fra de store Tech virksomheder.
Med det afsæt tror jeg, vi vil være bedre klædt på til at forstå vores tumultariske nutid og diskutere, hvad vi vil kæmpe for i fremtiden. De kommende års diskussion om AI bliver helt sikkert ikke kedelige. Man plejer at sige, at en uge er lang tid i politik, og det er efterhånden også sandt for AI. Jeg glæder mig til at følge udviklingen sammen med mine kolleger, og jeg glæder mig over, at Villum/Velux fondene har finansieret Algoritmer, Data og Demokrati helt frem til 2031.
Referencer
Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021, March). On the dangers of stochastic parrots: Can language models be too big?🦜. In Proceedings of the 2021 ACM conference on fairness, accountability, and transparency (pp. 610-623).
Crawford, K. (2021). Atlas of AI. Yale University Press.
Du Gay, P. (2003). The tyranny of the epochal: Change, epochalism and organizational reform. Organization, 10(4), 663-684.
Garud, R., & Karnøe, P. (2003). Bricolage versus breakthrough: distributed and embedded agency in technology entrepreneurship. Research policy, 32(2), 277-300.
Hutchins, E. (1995). Cognition in the wild. MIT press.
Jensen, T. E. (2008). Future and Furniture: A Study of a New Economy Firm’s Powers of Persuasion. Science, technology, & human values, 33(1), 28-52.
Kissinger, H., Schmidt, E. & Huttenlocher, D. (2021) The Age of AI, John Murray Publishers.
Latour, B. 1990. Drawing Things Together. In M. Lynch and S. Woolgar (Eds.) Representation in Scientific Practice. Cambridge, Mass, MIT Press: 19-68.
Mazzucato, M. (2011) The Entrepreneurial State. London: Demos.
Naughton, J. (2023) For all the hype in 2023, we still don’t know what AI’s long-term impact will be, The Guardian.
Pi, W. (2024) Brief Introduction to the History of Large Language Models (LLMs), Medium, May 7th 2024.
Runciman, D. (2023). The Handover: How We Gave Control of Our Lives to Corporations, States and AIs. Liveright Publishing.
Suchman, L. (2023). The uncontroversial ‘thingness’ of AI. Big Data & Society, 10(2).
[1] Mange computer science forskere er godt på vej: I den videnskabelige litteratur er den foretrukne term ikke ’kunstig intelligens’, men maskinlæringsalgoritmer (Munk et al.). Mindre sexet, men meget mere præcist.