En AI-kløft mellem kommune og borger

I en ikke så fjern fremtid er det meget muligt, at størstedelen af de klager, der lander i kommunens mailboks, er skrevet ved hjælp af AI. Det tror i hvert fald Jakob Frost, der er borgerrådgiver ved Silkeborg Kommune. For i dag er det allerede op mod en femtedel af de klager, han læser, som er lavet med en AI-chatbot, vurderer han.

– AI bliver brugt til at skrive klager i langt højere grad end tidligere. Før 2024 var der stort set ingen tilfælde, men i år har der været rigtig mange, og antallet er stigende, siger han.

Han kan ofte se det på detaljegraden eller længden af klagerne. Hvis en borger tidligere har skrevet klager på en eller to sider, men pludselig sender 15 sider, er det nok skrevet af en chatbot. Også borgernes måde at referere til retskilder på er afslørende, lyder det fra borgerrådgiveren.

– Man skal enten være jurist eller meget garvet socialrådgiver for at formulere sig sådan, som jeg ser, mange gør. Når jeg så ser, at det er en ufaglært eller en person, der ikke normalt sidder og laver kontorarbejde, tænker jeg, at man har fået hjælp, siger han og fortsætter:

– Der er langt mere gennemskuelighed, når AI kan hjælpe med at oversætte fagsproget for borgerne. Det hjælper på forståelsen og gør borgeren til en mere ligeværdig part, som bedre forstår, hvad der foregår med deres sag.

Truer relationen

Men det er også begyndt at skabe udfordringer.

– Arbejdsopgaven for kommunerne er vokset og er blevet mere kompleks, i takt med at AI er kommet til, siger Jakob Frost og giver et eksempel:

– En medarbejder fortalte om en kvinde fra Ukraine, der havde været her i mindre end en uge, og som sendte en ansøgning om huslejehjælp. Men den paragraf, hun refererede til, var ophørt tidligere i år. Borgeren taler kun ukrainsk, og ansøgningen er tydeligvis lavet af AI. Så medarbejderen måtte skrive et svar på dansk, som borgeren sandsynligvis ville oversætte med AI. Og så står man i en situation uden menneskelig kontakt, hvor man ikke kan forklare, hvorfor man svarer, som man gør.

Jakob Frost ser og har hørt om eksempler på henvisninger til lovgivning og ombudsmandsudtalelser, som ikke længere eksisterer.
Og den stigende brug af AI risikerer at gå ud over relationen mellem borger og kommune, frygter Jakob Frost.

– AI-chatbots er bygget til at give dig ret. Mange vil helst have en ven, der giver dem ret, frem for en, der siger dem imod, og derfor vil borgerne nok læne sig mere op ad chatbotten end kommunen, siger han og fortsætter:

– Borgerne får en opfattelse af, at de har ret til noget, de ikke har ret til. Når de så ikke får medhold, klager de, fordi de ikke accepterer kommunens tolkning af reglerne, og de mener, at kommunen tager fejl. Det skaber en større kløft mellem kommunen og borgerne, og det undergraver det tillidssamfund, vi bor i.

Og når klagerne bliver længere og mere komplekse, kan kommunerne også blive nødt til at bruge AI for at håndtere klagerne, tror Jakob Frost. Men han advarer mod at gå for langt med brugen af AI i sagsbehandlingen. 

– Som myndighed tror jeg, at man vil blive dårligere til at argumentere og kommunikere, fordi man ikke vedligeholder færdighederne i at opbygge en sag på samme måde. Til en fodboldkamp ville det jo heller ikke være den kunstige intelligens, der skulle skyde på mål, selvom den havde lavet al forberedelsen, siger Jakob Frost.

En vigtig opmærksomhed

I Aarhus arbejder kommunen i høj grad med AI, og her er stadsdirektør Martin Østergaard Christensen overbevist om, at teknologien som helhed styrker det kommunale arbejde.

Men han er også meget bevidst om de dilemmaer, brugen af AI fører med sig. Netop derfor har Aarhus Kommune stort fokus på de etiske aspekter og har udviklet et screeningsværktøj, der stiller kommunens medarbejdere tre spørgsmål, når nye AI-projekter skal vurderes: Må vi? Kan vi? Bør vi?

– Vi skal være meget opmærksomme på, hvornår vi synes, det er relevant at møde et menneske. Vi har i Aarhus for eksempel et princip om, at ingen myndighedsbeslutninger må ske, uden at et menneske er direkte involveret, siger Martin Østergaard Christensen og fortsætter:
– Man taler meget om, at AI kan øge distancen til borgerne, men der er samtidig rigtig mange ældre, der får et bedre liv af, at de eksempelvis kan blive monitoreret via kunstig intelligens. Men det bliver hurtigt en alt eller intet-diskussion.

Man skal ikke lade begejstringen for ny teknologi gå for vidt, mener Martin Østergaard Christensen. Men man behøver heller ikke at gå på æggeskaller.

– Man skal passe på med ikke at turde være lidt fascineret af, hvad ny teknologi kan. For den fascination kan lede os hen til muligheder, vi ikke havde tænkt på før, siger han. marp@kl.dk