Algoritmer i socialarbejdet kan hurtigt umyndiggøre borgerne

Som socialrådgiver i Troubled Families-programmet i England skal du ikke være til den sarte side. 

Din opgave er at opsøge såkaldte risikofamilier. Myndighederne sammenkører en række data og identificerer familier, der er i risiko for en negativ social udvikling. Din mission er at tage ud i marken, etablere kontakt med familierne og tage hånd om situationen, før den eskalerer. 

Det er ikke altid en nem opgave. Når du banker på døren til risikofamilierne, skal du ifølge programmets udviklere være i besiddelse af nogle særlige karaktertræk. Du skal først og fremmest have en såkaldt vedholdende og insisterende tilgang. Som det forklares i en rapport om programmet lavet af Huset Zornig:

“Dette gælder især familier som ofte udtaler, at de ikke er interesseret i den hjælp, der bliver tilbudt, eller ikke åbner døren. For at nå ind til denne type familier kan socialrådgiveren: Gentagne gange besøge familien, i nogle tilfælde op til 3-4 gange om dagen. Lægge kortene på bordet, dvs. være tydelig og direkte omkring familiens problematikker, såsom: enten tager familien imod hjælpen, eller også må de se konsekvenserne i øjnene. Være insisterende over for familien, vedholdende i troen på, at familien kan og vil ændre sig – især når andre har givet op – og involvere hele familien i forhold til ændringer. Være åben og ærlig over for familien i forhold til, hvad der skal ændres, hvordan det kan ændres og hvad konsekvensen er, hvis det ikke sker. Levere også barske beskeder med empati, baseret på en ikke-dømmende forståelse for familiens situation.” (Læs de britiske myndigheders beskrivelse af programmet her).

En ting er, at algoritmen kan identificere borgere i risikozonen. Noget helt andet er, om denne information kan bruges, så det rent faktisk kommer borgerne til gavn.

Robin Vickery
Projektchef i Copenhagen Dome

Troubled Families er et nationalt storskala-program i England. Det kombinerer analyse af data om borgerne med den opsøgende indsats hos familierne. Og der lægges ikke skjul på, at opgaven til tider kræver, at fløjlshandskerne tages af. Sagsbehandleren tager ikke et nej for et nej, hvis døren ikke åbnes, eller hvis den smækkes i igen ved synet af den insisterende myndighedsperson. 

Programmet beskrives i Huset Zornig-rapporten også som ”en form for social efterretningstjeneste, der forsøger at forudse og identificere, hvor der risikerer at opstå ’sociale katastrofer’”. 

Suzanne Littlehales er en af de programansvarlige, og når hun bliver spurgt, om man kan anskue enheden som en ”social MI5”, der er navnet på den britiske efterretningstjeneste, svarer hun: ”Ja, det er vel meget præcist, hvad vi er – vi producerer de efterretninger, som socialarbejderne kan rykke ud på.”

Troubled Families-programmet er kontroversielt, og som vi skal se, er effekten af programmet til debat. Men det kan være en forsmag på en udvikling, hvor forudsigelser ud fra data kommer tættere og tættere på det sociale og pædagogiske arbejde. 

Det er en udvikling, hvor vi må stille os selv spørgsmålet, hvilken rolle prædiktive data og algoritmer skal spille i mødet mellem myndigheder og borgere.

Algoritmerne kommer snigende

Troubled Families er langt fra det eneste program, der kombinerer analyse af data med en opsporingsindsats. I Danmark er der også fuld gang i udviklingen af algoritmer til opsporing af børn og familier.

Målet er at spotte de familier og børn, der er på vej i den forkerte retning tidligt – så vi kan sætte ind, før det går galt. Det mest kendte eksempel er nok forslaget i Gladsaxe, hvor kommunen ønskede at opspore og samkøre en lang række data med henblik på at opspore familier, hvor børnene er i statistisk risiko for at ende i mistrivsel. Det medførte en politisk debat, og juraen satte i første omgang en stopper for projektet. Men en algoritme til opsporing af familierne er fortsat målet.

I mellemtiden rykker man andre steder. På beskæftigelsesområdet er der udviklet algoritmer, der anvendes til profilering af langtidsledige. Hos politiet har man udviklet systemet ’Socialsøg’, som på baggrund af politiets data opsporer børn i udsatte familier og eventuelt sender en underretning til kommunen.

Det giver principielt set god mening at forsøge at opspore problemer tidligt, så vi kan sætte ind og forhindre problemerne i at vokse sig større i fremtiden. Hvis en algoritme kan give os viden om, hvor der er et behov for at sætte ind, så er der et stærkt argument for at udvikle et sådant system. 

Men udviklingen tvinger os også til at overveje nøje, hvordan vi skal bruge de prædiktive data i mødet med borgerne.

Skal vi ud og banke på døre som i Troubled Families-programmet, eller kan vi finde andre veje til at bruge data til gavn for borgerne og samfundet?

The trouble with Troubled Families

I Troubled Families-programmet blev disse data anvendt meget offensivt overfor risikofamilierne. Af samme årsag var programmet genstand for en ophedet politisk debat – ikke mindst om, hvilken effekt det havde på familierne.

I første omgang kunne myndighederne meddele, at programmet i perioden 2011-2014 havde skabt en turnaround for cirka 70.000 familier.

Umiddelbart havde programmet altså en meget positiv virkning på familierne. Man skal være en kold satan for ikke at bifalde sådan en udvikling.

Problemet var bare, at en efterfølgende effektevaluering konkluderede, at Troubled Families-programmet fra 2010 til 2015 ikke så ud til at betyde noget for familiernes udvikling.

Rapporten viste, at selvom familierne havde forbedret sig, så var der ingen effekt, når man sammenlignede med en kontrolgruppe. Det kan tyde på, at mange familier formåede at rette op på sin situation af sig selv – angiveligt imens de forsøgte at holde den insisterende socialrådgiver fra døren cirka fire gange om dagen. Men de eventuelle forbedringer kunne ikke siges at være resultat af programmet.

Politikerne må have følt det, som om de stod med håret i postkassen. Efter at have investeret milliarder i programmet, er det ikke sjovt at stille sig frem og forsvare nogen af de mulige valg: Luk programmet og erkend, at de mange milliarder er spildt – eller fortsæt programmet, selvom det ikke har nogen dokumenteret effekt.

Politikerne valgte at fortsætte programmet. Og de efterfølgende fire år har efter alt at dømme været mere succesfulde. En ny evaluering kunne i 2019 konstatere, at programmet har opnået mere lovende resultater. Det virker fortsat ikke på for eksempel forældrenes beskæftigelse eller på børnenes fravær i skolen. Men til gengæld er der færre børn, der placeres uden for hjemmet, hvilket er et vigtigt resultat. 

Så hvad hvis det virker? Hvad hvis det rent faktisk har nogle positive effekter for familierne? Skal vi til at banke på døre og sætte foden i klemme? Kom ud, kom ud! I er i risiko! Algoritmen har talt! 

Hvis ikke vi bifalder sådan en tilgang, så er det lidt af et dilemma, hvis det rent faktisk virker. I sidste ende kan vi være nødt til at afveje to hensyn: på den ene side statens mulighed for at forhindre sociale problemer, og på den anden side om vi vil acceptere den ”offensive” fremfærd overfor borgerne.

En præcis algoritme er ikke nok

Troubled Families-evalueringen giver ikke svar på, hvilke dele af programmet, der virkede eller ikke virkede. Vi kan således ikke sige, hvilken effekt foden-i-døren-tilgangen i sig selv har. Helt andre ting var også i spil i programmet – blandt andet kan det også have spillet en central rolle, at der var en fast kontaktperson tilknyttet familierne.

Men der er en vigtig læring af de engelske erfaringer. Når vi aktuelt overvejer, hvordan vi skal bruge prædiktive data og algoritmer, så må vi gøre os følgende klart: En ting er, at algoritmen kan identificere borgere i risikozonen, noget helt andet er, om denne information kan bruges, så det rent faktisk kommer borgerne til gavn.

Det er et åbent spørgsmål, om vi kan anvende denne viden på en konstruktiv måde. Troubled Families illustrerer, at der ikke er nogen garanti for, at vi formår at omsætte prædiktive data til godt socialt arbejde. Og derfor er der heller ingen garanti for, at det rent faktisk virker.

Værdien af en opsporingsalgoritme ligger ikke blot i, om den har en høj præcision. Selv hvis den ramte rigtigt i 99 procent af tilfældene, så må det afgørende være, om den i praksis kan bruges til at skabe udvikling og bedre liv for borgerne.

Derfor er det helt centralt, hvordan viden fra en algoritme spiller sammen med det sociale arbejde – herunder muligheden for at opbygge positive relationer til de mennesker, vi forsøger at hjælpe. Data i sig selv er ikke problemet – det vi skal interessere os mere for er den faglige praksis, der følger efter. 

Borgerens liv – borgerens data?

Vi er også nødt til at overveje, hvad det betyder, at myndighederne sidder inde med en viden, som borgerne ikke selv har. De prædiktive data er i realiteten nye oplysninger om borgerens liv. Så hvorfor er det, at det per automatik er myndigheden i kommunen, der skal modtage disse oplysninger? 

En sådan videns-asymmetri kan hurtigt føre til en umyndiggørelse af borgeren. Det kan let føre til en relation, hvor “den professionelle ved bedst”. Det er ellers det, man rundt omkring i kommunerne netop forsøger at komme væk fra.

Der er i dag mange projekter og strategier i kommunerne, der handler om, at borgeren skal opnå et ejerskab og en styring i eget forløb. Mange organisationer har for eksempel gjort det til en dyd, at der er “intet om borgeren uden borgeren” – hvilket vil sige, at borgeren altid er med om bord i forhold dokumentationen og de beslutninger, der træffes. 

Der er en reel risiko for, at prædiktive data i praksis vil modarbejde dette mål. Det kan også undre, at ingen stiller det åbenlyse spørgsmål: Hvem skal egentlig eje disse prædiktive data? 

Det vil givetvis indebære nogle andre etiske problemstillinger, hvis informationerne lander direkte i borgerens e-Boks. Men vi er nødt til at overveje, hvem der skal have dem tilsendt først. Skal de nødvendigvis dumpe ind i et fagsystem hos en medarbejder i kommunen? Eller kan vi finde andre måde, hvor det ikke blot bliver ”systemets redskab”?

Meget tyder på, at algoritmer og prædiktive data kommer til at spille en langt større rolle fremover i det borgernære velfærdsarbejde. Vi skal derfor overveje nøje, hvordan det kan forandre samarbejdet med borgerne.

Vi må håbe, at vi finder konstruktive måder at anvende data på – mere konstruktive end at sætte foden i døren og banke på fire gange om dagen.