Kommunalpolitikerne skal sætte retningen for AI – men er vi selv klar?

Debatindlæg af Katrine Skov (S), byrådspolitiker i Gladsaxe og forfatter til Politisk dømmekraft i en tid med AI.

AI er ikke længere noget, der venter ude i fremtiden.

I kommunerne bruges teknologien allerede til blandt andet dokumentation, informationssøgning, referater og understøttelse af forskellige arbejdsprocesser.

KL har sat fokus på, hvordan AI kan understøtte kommunalpolitikernes eget arbejde. I et inspirationskatalog beskrives fem kommuner, der afprøver AI i det kommunalpolitiske arbejde – blandt andet til at finde rundt i mødemateriale, referater og kommunale vejledninger.

Og udviklingen stopper ikke ved forsøg. 64 kommuner deltager nu i storskalaprojektet om AI-understøttet dokumentation på beskæftigelsesområdet.

AI er med andre ord allerede på vej ind i både det politiske arbejde og den kommunale kerneopgave.

Politikerne skal sætte retningen

Debatten er heldigvis begyndt at flytte sig.

Senest har Henrik Lund og Per Eeg i et debatindlæg i Danske Kommuner argumenteret for, at kommunalpolitikerne skal sætte retningen for AI.

De stiller blandt andet et meget konkret spørgsmål: Hvis AI frigør tid i en medarbejders arbejdsdag, hvad skal den tid så bruges til? 

Skal den blive til flere samtaler med borgerne? Grundigere sagsbehandling? Bedre service? Eller en økonomisk besparelse?

AI kan måske skabe gevinsten. Men teknologien kan ikke afgøre, hvad kommunen politisk ønsker at bruge den til.

Det er jeg helt enig i - men det rejser et spørgsmål:

Er vi som kommunalpolitikere selv klædt godt nok på til at sætte den retning?

Politikeren møder AI fra flere sider

For kommunalpolitikeren er AI ikke kun én opgave.

På den ene side skal vi tage politisk ansvar for en organisation, hvor AI i stigende grad bliver en del af opgaveløsningen. 

På den anden side møder vi også selv AI i vores politiske arbejde.

En kommunalpolitiker sidder ofte med hundredvis af sider dagsordensmateriale, komplekse budgetter, høringssvar og faglige problemstillinger. AI kan være en værdifuld sparringspartner. Den kan skabe overblik, hjælpe med at identificere det politiske dilemma i en sag og finde modargumenter til vores eget standpunkt. Vi kan bede den om at vise en problemstilling fra borgerens, medarbejderens eller oppositionens perspektiv.

På den måde kan AI være med til at kvalificere vores politiske arbejde.

Men der er en bagside.

AI kan frame en problemstilling på en bestemt måde, overse væsentlige perspektiver og bekræfte os i det, vi allerede mener. Den kan også levere et meget velformuleret og overbevisende svar, som ikke nødvendigvis er rigtigt.

Derfor er det ikke nok at politikere kan prompte. Vi skal lære at bruge AI uden at aflevere vores egen vurdering til teknologien.

Kan vi? Vil vi? Bør vi?

Den anden AI-opgave handler om kommunen, vi er med til at lede.

På KL’s Digitaliseringsmesse for nylig blev den problemstilling formuleret meget enkelt af Kombit:

Kan vi? Vil vi? Bør vi?

Det er tre gode spørgsmål.

For når spørgsmålet er, hvad AI kan, har vi brug for teknisk og faglig viden.

Når spørgsmålet bliver, hvad vi vil bruge AI til, hvad vi bør bruge den til, og hvor skal grænserne gå, er det også en politisk opgave.

Kommunalpolitikere behøver ikke kunne programmere en sprogmodel eller forstå alle tekniske detaljer.

Vi skal til gengæld kunne stille spørgsmål som: Hvilket problem skal AI løse? Hvilken værdi skal den skabe for borgerne? Hvor ligger den menneskelige vurdering? Hvordan opdager vi fejl og skævheder? Hvem bliver hjulpet – og risikerer nogen at blive dårligere stillet? Hvem ejer data og den viden, systemet opbygger? Hvilke bindinger skaber vores teknologivalg? Og hvem har ansvaret, når AI indgår?

Det er ikke detailstyring af teknologi - det er politisk ledelse.

Menneskelig kontrol er ikke nok i sig selv

Der er en pointe i Lund og Eegs debatindlæg, som fortjener særlig opmærksomhed.

I Københavns Kommune anvendes AI ifølge deres beskrivelse som sagsstøtte, mens medarbejderen fortsat foretager den faglige vurdering og træffer afgørelsen.

De peger samtidig på noget afgørende: Medarbejderen skal have kompetencerne og tiden til at kunne opdage fejl og undersøge tvivl ellers risikerer den menneskelige kontrol at blive en formalitet.

Det er en vigtig sondring.

For det er ikke tilstrækkeligt, at der formelt sidder et menneske for enden af processen. Mennesket skal også have mulighed for og kompetence til at foretage en selvstændig vurdering.

Det gælder medarbejderen. Men det gælder også politikeren.

Fra AI-kompetence til politisk dømmekraft

Jeg mener, at kompetenceudvikling af kommunalpolitikere skal handle om mere end at vide, hvad generativ AI er, eller kunne skrive en god prompt.

Forestil dig, at jeg beder AI analysere en kommunal sag og foreslå de vigtigste politiske spørgsmål.

Det kan spare mig tid. Og måske finder AI noget, jeg selv har overset.

Men min opgave er ikke slut, når AI har leveret svaret.

Jeg bør også spørge: Hvad har AI lagt vægt på? Hvad har den ikke fortalt mig? Hvilke antagelser ligger bag svaret? Hvilke perspektiver mangler? Og har AI faktisk udfordret mig – eller bare gjort mit eget synspunkt mere velformuleret?

Det er her, AI-kompetence bliver til politisk dømmekraft.

Vi behøver ikke flere tusind AI-eksperter

Løsningen er ikke at uddanne alle landets kommunalpolitikere til AI-eksperter.

Vi har brug for politikere, der forstår teknologien godt nok til både at bruge den og stille kvalificerede spørgsmål til den.

Politikere, der kan se mulighederne uden ukritisk at omfavne enhver ny løsning, og som kan se risiciene uden automatisk at afvise en teknologi, der også kan forbedre kvaliteten og frigøre tid.

KL’s formand for Arbejdsmarkeds- og Digitaliseringsudvalget, Emil Blücher, har formuleret en vigtig præmis på KL’s Digitaliseringsmesse:

Teknologi er et middel. Målet er bedre velfærd.

Hvis vi tager den præmis alvorligt, skal politikerne ikke blot orienteres om kommunernes AI-udvikling.

Vi skal klædes på til at foretage reelle valg.

1. Hvad vil vi bruge teknologien til?
2. Hvor skal grænserne gå?
3. Hvilke gevinster ønsker vi – og hvem skal have glæde af dem?
4. Hvilke hensyn skal veje tungest?
5. Og hvad skal borgerne kunne forvente?

For AI skal ikke fortælle os, hvad vi skal mene.

Den kan hjælpe os med at undersøge, udfordre og perspektivere.

Men beslutningen – og ansvaret – skal stadig være vores.