Chatbottens tidsalder

En pædagog i en børnehave skal skrive et brev om en udfordring med et barn. Brevet skrives gennem en onlineportal, og for at få skrevet brevet, som ikke er helt kort, bruger pædagogen et AI-værktøj. Det sparer lidt tid og giver et fornuftigt resultat. I den anden ende læser forældrene brevet, og de bruger også kunstig intelligens til at få formuleret et godt svar.

Pludselig står pædagogen og forældrene i en situation, hvor det er to robotter, der skriver om barnets udfordringer, mens de står på sidelinjen.

Eksemplet kommer fra Anja Svejgaard Pors, der er docent ved Københavns Professionshøjskole. Hun hørte om netop den situation i forbindelse med sit bidrag til Magtudredningen 2.0, ”Borgeren i den digitale velfærdsstat”. Hun oplevede også, hvordan borgerne egentlig ser på det digitale samfund.

– Vi er det eneste land i verden, hvor vi er tvangsdigitaliseret. I udgangspunktet er du digital borger, siger hun.
Sådan oplever borgerne det også. Derfor skyder de heller ikke skylden på systemet, når noget ikke fungerer. I stedet vender de blikket indad. 

– Det var min fordom, at borgerne ville slå hårdt ned på systemet og teknologien. Det overraskede mig, hvor meget de skældte ud på sig selv. De skammede sig, fordi de oplevede, at de burde kunne finde ud af den digitale selvbetjening, fortæller Anja Svejgaard Pors.

En bruger­grænseflade

I dag er stort set al kontakt og kommunikation med det offentlige digital.
Velfærdsteknologi skal supplere plejepersonale, sociale medier er blevet den suverænt største kommunikationskanal mellem mennesker, og så er digitale borgermøder i kommunerne blevet mere og mere almindelige.

AI har nu taget den digitale omstilling til nye højder. Kommunerne begynder langsomt at bruge kunstig intelligens i flere og flere kommunale opgaver.

Internationale undersøgelser viser samtidig gang på gang, at tilliden til systemet og offentlige myndigheder er dalende. Det overrasker ikke Anja Svejgaard Pors.

– Det offentlige er ved at blive en brugergrænseflade, hvor kontakten ikke primært handler om at tale med et menneske. I stedet handler det om, hvordan vi kan gøre mere selv på en hjemmeside, i en app eller gennem en chatfunktion, siger hun.

Det bliver derfor uklart, hvad det offentlige egentlig er for en størrelse, og hvem der repræsenterer systemet, lyder det fra Anja Svejgaard Pors.

– Når man ikke kan kalibrere sin mistillid eller dårlige oplevelse sammen med et menneske, der kan hjælpe én tilbage på sporet, bliver det demokratisk problematisk – hvis adgangen til velfærd afhænger af evnen til at forstå og håndtere de tekniske løsninger.

Sociale mødesteder

Sine Nørholm Just er professor ved Institut for Kommunikation og Humanistisk Videnskab på Roskilde Universitet og en del af forskningsprojektet ”Algoritmer, Data & Demokrati”.

Hun peger på, at det kan blive en af samfundets helt store udfordringer, hvis AI i for høj grad bliver brugt alene som målsætning, og hun fremhæver den ambition, den daværende SVM-regering søsatte i 2025 sammen med KL og Danske Regioner. 

Tre AI-storskalaprojekter skal kunne frigøre 30.000 årsværk i den offentlige sektor.

– Det er en form for målforskydning, hvor man starter med en teknologi, som er god til at kvantificere og effektivisere, og ender med et mål, hvor vi skal reducere 30.000 årsværk, siger Sine Nørholm Just og fortsætter:

– Den største udfordring er i virkeligheden at vende det om – at finde de problemer, vi gerne vil have løst, og så spørge, hvordan teknologien kan hjælpe med det.

Og vi står i et afgørende øjeblik, mener hun. Den teknologiske udvikling går ekstremt hurtigt, og inden længe begynder vi at tage værktøjerne for givet. Derfor skal vi meget snart finde ud af, hvordan vi rent faktisk vil bruge teknologierne, og hvordan vi undgår, at det bliver på teknologiernes præmis.

– Der er ikke nogen virkelighed, hvor vi holder op med at bruge teknologierne. Det, vi måske kan blive bedre til, er at sikre, at de bliver brugt til nogle formål, som faktisk er i demokratiets tjeneste, lyder det fra Sine Nørholm Just.

Og så er vi i nogle tilfælde nødt til at gå analogt til værks, mener Anja Svejgaard Pors.

– Der er meget, som bliver nemmere med AI. Men vi bliver nødt til at have sociale mødestøder, hvor der er nogle sammenstød, dissonans og problemer, som man kan tale om uden bare at få svaret fra en AI. Det gør både fagligheden blandt medarbejderne og kontakten til borgerne stærkere. Det skal trænes, og det kan man ikke gøre alene, siger hun. marp@kl.dk