Det er bare to eksempler fra det virkelige liv, hvor man som offentlig myndighed har forsøgt at afkoble kommunale medarbejdernes faglighed fra velfærdsløsningerne.

I begge tilfælde har kommunerne mig bekendt valgt at kvitte løsningerne, fordi de gav nogle helt skæve og uretfærdige konklusioner.

Det ændrer imidlertid ikke ved, at truslen mod den gennemsigtighed og den demokratiske retssikkerhed, der er grundlaget for vores velfærdssamfund, langtfra alene kommer fra de store techgiganter.

Lige nu står vores i forvejen gennemdigitaliserede danske samfund overfor digitaliseringens anden bølge.

Her begynder kommunerne og andre offentlige myndigheder så småt at lade "big data" og statistiske systemer – altså algoritmer - overtage beslutninger, sagsbehandling og myndighedsafgørelser.

Det kan give fatale konsekvenser for borgerne, hvis de alene bliver betragtet som statistiske objekter på samme måde, som kunderne hos Amazon og Facebook bliver det.

Ukontrollable algoritmer

Helt grundlæggende savner jeg et overordnet argument for, hvorfor vi overhovedet skal indføre algoritmer.

Er der et identificeret problem i den offentlige sektor, der skal løses?

Eller det bare fordi algoritmer kan gøre nogle ting meget smartere, og fordi man mener, de kan forbedre serviceniveauet?

Og hvordan vil digitaliseringsivrige politikere sikre sig, at medarbejderne bliver klædt på til at kunne håndtere algoritmer og til at kunne forstå baggrunden for algoritmernes anbefalinger?

Politikerne – og det gælder ikke mindst Christiansborg-politikerne – bør i det hele taget sikre, at digitaliseringens anden bølge i langt højere grad indgår i de politiske drøftelser fremfor bare at blive opfattet som teknik, der bliver varetaget af embedsmænd.

Velfærdsstat må ikke blive til overvågningsstat

For nylig skrev blandt andre Politikens digitaliseringsredaktør Michael Jarlner en ny bog, ’Fra velfærdsstat til overvågningsstat.

Algoritmernes magt i den offentlige forvaltning’, der netop behandler digitaliseringens skyggesider i en offentlig sektor.

Brugen af uigennemskuelige algoritmer og kunstig intelligens kan føre til en overvågningsstat

I bogen hedder det blandt andet, at "sagsbehandlere af kød og blod også kan være fordomsfulde, men hvis først en algoritme er ’fordomsfuld’, bliver problemet systemisk - og kan derfor potentielt gå ud over rigtig, rigtig mange mennesker. Ved den fejlslagne algoritme risikerer man, at fejl gennemtrænger hele systemet med lynets hast."

I bogen bliver der også advaret imod, at digitaliseringen bliver drevet af et ønske om effektivisering og besparelser på bekostning af demokratiet.

Brugen af uigennemskuelige algoritmer og kunstig intelligens kan føre til en overvågningsstat, hvor vi ikke længere kan kontrollere, om borgerne er udsat for systemiske fejl, vilkårlighed og diskrimination i den offentlige sagsbehandling.

Medarbejderne skal involveres

Jeg er langt hen ad vejen enig i, at den nye digitale revolution med brug af algoritmer i kommuner og regioner kræver fuld opmærksomhed på ikke mindst de medarbejdere, der skal drive digitaliseringen frem.

Hvis vi skal undgå nogle af de faldgruber i form af diskrimination og mangel på retssikkerhed, fremtidens algoritmebaserede digitalisering kan havne i, kræver det for det første, at HK’erne og andre medarbejdere bliver involveret i digitaliseringsprojekterne fra start.

Det er medarbejderne, der ved, hvordan borgerne reagerer på digitaliseringen. Og det er medarbejderne, der som de første kan observere, hvis projekterne er på gal kurs.

For det andet er det helt afgørende, at det også under digitaliseringens anden bølge bliver muligt for borgerne at få et fysisk møde med sagsbehandleren.

Netop brugen af algoritmer gør det mere påkrævet nu end nogensinde, at borgeren kan få sin sag behandlet, belyst og få råd og vejledning af et rigtigt menneske.

For menneskelige skøn baseret på professionel faglighed kan aldrig erstattes af nok så avancerede maskiner. Fra undersøgelser ved vi også, at borgerne føler mest tillid, når de kan komme i fysisk kontakt med en sagsbehandler.

Borgernes oplevelse af deres møde med den offentlige forvaltning er afgørende for hele tilliden til velfærdssamfundet.

Styr besparelsesiveren

Endelig gør den accelererende digitalisering det bydende nødvendigt, at kommuner og regioner i deres iver for at indhente nogle besparelsesgevinster ikke søsætter nogle halvfærdige it-systemer.

Vi har desværre set ikke så få eksempler på, at ufærdige eller mangelfulde digitaliseringsprojekterer er blevet søsat alt for tidligt, fordi man har set sig blinde på de besparelser, der kan følge med projekterne.

Flere steder har man i sin besparelsesiver oven i købet skilt sig af med de medarbejdere, der har kunnet sikre, at projekterne bliver udrullet med succes. Det duer simpelthen ikke.

Algoritmerne i den offentlige sagsbehandling skal have et kvalificeret modspil. Det bør ske i form af veluddannede medarbejdere, der hele vejen igennem bliver involveret i digitaliseringsprojekterne.

Det bør ske i form af professionelle sagsbehandlere, der gennem deres faglighed kan vejlede og rådgive borgeren ansigt til ansigt. Kun herigennem sikrer vi den nødvendige gennemskuelighed og retssikkerhed for borgerne.