Annonce

Debat: Maskiner undergraver tilliden til velfærdssamfundet

Uigennemskuelige algoritmer risikerer at undergrave borgernes tillid til velfærdssamfundet. De skal suppleres af veluddannede medarbejdere med direkte borgerkontakt, mener fagforbund.
Statistisk maskinlæring til lokalisering af misrøgtede børn. En algoritme til identificering af borgeres risiko for langtidsledighed.

Det er bare to eksempler fra det virkelige liv, hvor man som offentlig myndighed har forsøgt at afkoble kommunale medarbejdernes faglighed fra velfærdsløsningerne.

I begge tilfælde har kommunerne mig bekendt valgt at kvitte løsningerne, fordi de gav nogle helt skæve og uretfærdige konklusioner.

Det ændrer imidlertid ikke ved, at truslen mod den gennemsigtighed og den demokratiske retssikkerhed, der er grundlaget for vores velfærdssamfund, langtfra alene kommer fra de store techgiganter.

FAKTA: Hvad er en algoritme?

En algoritme kan defineres som en proces, der udføres af en computer, til at løse et problem i et begrænset antal step. Den gør det muligt for en computer at løse en specifik opgave.

Lige nu står vores i forvejen gennemdigitaliserede danske samfund overfor digitaliseringens anden bølge.

Her begynder kommunerne og andre offentlige myndigheder så småt at lade "big data" og statistiske systemer – altså algoritmer - overtage beslutninger, sagsbehandling og myndighedsafgørelser.

Det kan give fatale konsekvenser for borgerne, hvis de alene bliver betragtet som statistiske objekter på samme måde, som kunderne hos Amazon og Facebook bliver det.

Ukontrollable algoritmer

Helt grundlæggende savner jeg et overordnet argument for, hvorfor vi overhovedet skal indføre algoritmer.

Er der et identificeret problem i den offentlige sektor, der skal løses?

Eller det bare fordi algoritmer kan gøre nogle ting meget smartere, og fordi man mener, de kan forbedre serviceniveauet?

Og hvordan vil digitaliseringsivrige politikere sikre sig, at medarbejderne bliver klædt på til at kunne håndtere algoritmer og til at kunne forstå baggrunden for algoritmernes anbefalinger?

Politikerne – og det gælder ikke mindst Christiansborg-politikerne – bør i det hele taget sikre, at digitaliseringens anden bølge i langt højere grad indgår i de politiske drøftelser fremfor bare at blive opfattet som teknik, der bliver varetaget af embedsmænd.

Velfærdsstat må ikke blive til overvågningsstat

For nylig skrev blandt andre Politikens digitaliseringsredaktør Michael Jarlner en ny bog, ’Fra velfærdsstat til overvågningsstat.

Algoritmernes magt i den offentlige forvaltning’, der netop behandler digitaliseringens skyggesider i en offentlig sektor.

Brugen af uigennemskuelige algoritmer og kunstig intelligens kan føre til en overvågningsstat

I bogen hedder det blandt andet, at "sagsbehandlere af kød og blod også kan være fordomsfulde, men hvis først en algoritme er ’fordomsfuld’, bliver problemet systemisk - og kan derfor potentielt gå ud over rigtig, rigtig mange mennesker. Ved den fejlslagne algoritme risikerer man, at fejl gennemtrænger hele systemet med lynets hast."

I bogen bliver der også advaret imod, at digitaliseringen bliver drevet af et ønske om effektivisering og besparelser på bekostning af demokratiet.

Brugen af uigennemskuelige algoritmer og kunstig intelligens kan føre til en overvågningsstat, hvor vi ikke længere kan kontrollere, om borgerne er udsat for systemiske fejl, vilkårlighed og diskrimination i den offentlige sagsbehandling.

Medarbejderne skal involveres

Jeg er langt hen ad vejen enig i, at den nye digitale revolution med brug af algoritmer i kommuner og regioner kræver fuld opmærksomhed på ikke mindst de medarbejdere, der skal drive digitaliseringen frem.

Hvis vi skal undgå nogle af de faldgruber i form af diskrimination og mangel på retssikkerhed, fremtidens algoritmebaserede digitalisering kan havne i, kræver det for det første, at HK’erne og andre medarbejdere bliver involveret i digitaliseringsprojekterne fra start.

Det er medarbejderne, der ved, hvordan borgerne reagerer på digitaliseringen. Og det er medarbejderne, der som de første kan observere, hvis projekterne er på gal kurs.

For det andet er det helt afgørende, at det også under digitaliseringens anden bølge bliver muligt for borgerne at få et fysisk møde med sagsbehandleren.

Netop brugen af algoritmer gør det mere påkrævet nu end nogensinde, at borgeren kan få sin sag behandlet, belyst og få råd og vejledning af et rigtigt menneske.

For menneskelige skøn baseret på professionel faglighed kan aldrig erstattes af nok så avancerede maskiner. Fra undersøgelser ved vi også, at borgerne føler mest tillid, når de kan komme i fysisk kontakt med en sagsbehandler.

Borgernes oplevelse af deres møde med den offentlige forvaltning er afgørende for hele tilliden til velfærdssamfundet.

Styr besparelsesiveren

Endelig gør den accelererende digitalisering det bydende nødvendigt, at kommuner og regioner i deres iver for at indhente nogle besparelsesgevinster ikke søsætter nogle halvfærdige it-systemer.

Vi har desværre set ikke så få eksempler på, at ufærdige eller mangelfulde digitaliseringsprojekterer er blevet søsat alt for tidligt, fordi man har set sig blinde på de besparelser, der kan følge med projekterne.

Flere steder har man i sin besparelsesiver oven i købet skilt sig af med de medarbejdere, der har kunnet sikre, at projekterne bliver udrullet med succes. Det duer simpelthen ikke.

Algoritmerne i den offentlige sagsbehandling skal have et kvalificeret modspil. Det bør ske i form af veluddannede medarbejdere, der hele vejen igennem bliver involveret i digitaliseringsprojekterne.

Det bør ske i form af professionelle sagsbehandlere, der gennem deres faglighed kan vejlede og rådgive borgeren ansigt til ansigt. Kun herigennem sikrer vi den nødvendige gennemskuelighed og retssikkerhed for borgerne.

Lene Roed er formand for HK Kommunal.


Flere artikler om emnet

Kommentarer

Algoritmer til personforfølgelse i Danmark er dybt dybt umoralsk - Har vi lært det hos kineserne? De har i hvert fald et system af algoritmer, som forfølger deres borgere dag og nat i alle deres bevægelser og indkøb med tilhørende point system - Mange point, god borger - Knap så mange point, knap så god en borger, få point, klar til fængsling. De kinesiske algoritmer har hardware kapacitet til at opfange alle 1.400.000.000 kinesiske borgere pr. sekund med ansigtsgenkendelse og hele molevitten.

Gennem en nøjagtig måling af strømforbruget er det i dag muligt, at spore præcis hvilken udsendelse du har set på TV - Hver optagelse har sit eget unike strøm "fingeraftryk".

I Billund var der for et par år siden en sag med en ung mand, hvis strømforbrug Billund Kommune havde overvåget. Billund kommune mente ikke han havde et strømforbrug svarende til han boede alene, men var samlevende. Det fik konsekvenser for hans kontanthjælp. Det blev så senere underkendt af en anker mulighed. Men alligevel.

Det er lige på trapperne, at SKAT får mulighed for at samkøre ALLE tilgængelige oplysninger om dig, som er frit tilgængelig. F.eks. din facebookprofil, instagram, TikTak, og alt andet lignende. Dertil kommer så selvfølgelig de offentlige registre med alverdens oplysninger om dig. En AI algoritme skal så sorterer dem fra, som virke mistænkelig - Så pas på hvad du gør fremover. Og få lige slettet afslørende opslag på facebook, hvor du har det sjovt, hopper på et ben og andet, som kan anvendes imod dig.

Kineserne gør det helt officielt med digitalt at forfølge deres borger. Her i Danmark gør vi det bag lukkede døre med nedrullede gardiner.

Og de store fisk, Det slipper stadig gennem nettet som sagen om aktieudbytte svindelen på over 12.000.000.000 kr. viser. Skal hilse fra Sanjay Shah nede fra Dubai. Han er en glad mand og godt tilfreds med ægte russisk Almas kavia til morgenmad. Så en dokumenter på tysk TV om skandalen, som breder sig ud over hele jorden. Her blev vist et interview med Sanjay Shah, som sagde han ikke havde gjort noget ulovligt. Blot brugt de muligheder lovgivningen og digitaliseringen stiller til rådighed. Og han mener det forsat er muligt at gøre det og at det bliver gjort og at han vil gøre det igen. Vil gerne tjene så mange penge som overhovedet muligt - Det er dyrt i Dubai.

Men et par tusind i kontanthjælpssnyd eller for meget kørselsfradrag...

Das ist doch immerhin etwas.

Menneskelige skøn baseret på professionel faglighed kan aldrig erstattes af nok så avancerede maskiner, men toppen af staten/kommunen har behov for at styre for at spare medarbejdere i bunden af systemet, derfor vil algoritmerne komme til at overtage al magten, thi de øverste magthaver kan man ikke få til at styre sig, for så bliver de fejet til side af nogen der er mere villige.

Annonce