Användningen av AI inom socialtjänsten

Användningen av AI inom socialtjänsten

Hur får man använda AI för beslutsstöd inom socialtjänsten. SKR publicerade nyligen sin utredning gällande användningen av AI inom socialtjänsten. Men vad innebär den för olika typer av tjänster och hur hanterar Digitala Samtal detta. Vi reder ut begreppen lite mer baserat på utredningen.

I takt med att vi samlar in allt mer data från användandet av olika typer av system ökar möjligheten till att skapa allt bättre beslutsstöd. Genom att jämföra och dra slutsatser från liknande situationer hjälper dessa personalen att göra bättre och snabbare bedömningar. Även om vi inte ännu är där kan det i vissa fall i framtiden vara möjligt att beslut till och med automatiseras helt. Där AI algoritmer kan hantera enklare fall, vilket gör att man kan minska pressen på organisationen.

Men att använda AI och beslutsstöd är inte helt enkelt. Det väcker många frågor om såväl etik och integritet som sekretess. Och det är i många fall oklart om vad som får göras eller inte. Även om det idag finns ett regelverk som omgärdar detta är det inte helt klart och gråzonerna är många.

På Digitala Samtal arbetar vi hela tiden för att våra kunder skall kunna vara trygg i användandet av våra system. Det gäller så klart även regelefterlevnad i fallet med användandet av AI inom socialtjänsten. SKRs utredning ger inte bara mer tydliga riktlinjer i användandet. Det ger även stöd i hur vi kan hjälpa kommuner och socialtjänst att skapa bättre verktyg för beslutsstöd. Vi har efter att granskat denna utredning vidare försökt att sammanställa några av de viktigaste slutsatserna. Det för att se hur de påverkar användandet av AI inom socialtjänsten samt våra beslutsstöd.

AI för verksamhetsutveckling

Att använda AI för verksamhetsutveckling är en viktig del i att kunna återanvända kunskap för att skapa en mer hållbar socialtjänst. Vanligtvis bygger denna typ av beslutsstöd på insamlandet av mer generaliserad data som inte är direkt knuten till kritiska personuppgifter. Men det finns alltid ert gränsland när det kommer till användandet. Det kan tillexempel gälla geografisk information eller data som är kopplad till gruppdynamik.

Det finns två förordningar som i stort styr behandling av personuppgifter inom socialtjänsten nämligen SoLPUL och SoLPUF. Dessa säger i princip att det är tillåtet för socialtjänsten att behandla personuppgifter. Detta om behandlingen som utförs är nödvändig för att arbetsuppgifter inom socialtjänsten ska kunna utföras. Bland annat för ändamålen tillsyn, uppföljning, utvärdering, kvalitetssäkring och administration av verksamheten.

Om man tillexemepel skall utvärdera en ifall en insats ger den effekt man avser så kan man använda AI för att skapa beslutsunderlag. Gråzonen ligger så klart i tolkningen av vad ändamålen avser.

I Digitala Samtal finns flera verktyg för utvärdering av verksamheten och visning av hur grupper eller insatser mår utifrån olika skattningar. För att helt uppfylla de krav som finns har vi gjort en del justeringar i filterfunktionerna i våra insikter. Men i grunden uppfyller Digitala Samtal här de krav som finns gällande användandet av AI inom socialtjänsten. Mycket tack vara att vår datamodell tillåter oss att sammanställa data som är helt anonymiserad. En styrka som ger stora fördelar i bearbetningen.

AI för handläggning

De stora vinsterna med AI ligger dock i handläggningen av ärenden. Här finns det enormt mycket att vinna. Både vad det gäller tid och kvalitet. Med det ställer även fler frågor gällande användandet av AI.

Rapporten ”Användandet av AI inom socialtjänsten” belyser flera klurigheter i hur vi kan applicera AI på handläggningen. Inte minst visar den på att det finns flera begränsningar som i nuläget gör det svårt att tillämpa en effektiv AI fullt ut. Det mesta handlar om hur man får använda erfarenheter och historisk data från andra liknade fall.

Även här är det SoLPUF som styr. Den anger till exempel att en socialnämnd får behandla personuppgifter för vissa ändamål, såsom till kvalitetssäkring. Detta under förutsättning att det är nödvändigt för att arbetsuppgifter inom socialtjänsten ska kunna utföras. Men även att uppgifterna som behandlas har lämnats i ett ärende eller är nödvändiga för verksamheten.

Det betyder att vi kan använda uppgifter om individen, även historiska, för att kunna skapa ett beslutsunderlag med AI. Det som är extra intressant här är att vi även får använda erfarenhetsbaserade evidensbaserade modeller. Detta blir extra viktigt då, som vi skall se senare, utredningen klart säger att vi inte kan använda historiska data från andra brukare under behandlingen av ett underlag. Det är därför till exempel tillåtet att applicera modeller som KASAM eller FIT på en individ.

I Digitala Samtal använder vi sådan historisk data för att till exempel för att prediktera ett utfall eller hissa varningsflaggor om kritiska brukare. Men utan ett vidare stöd för att kunna förbättra de metoder som finns kommer det att vara svårt att skapa riktigt bra beslutsstöd via AI.

Hur kan vi säkra användningen av AI inom socialtjänsten

Utredningen visar att det finns ett sätt att hantera detta. Med en datamodell eller ett sammanställningsregister skapas förutsättningar för att arbeta effektivt med AI. Genom att löpande spara anonymiserad data från handläggningen av enskilda ärenden skapar man en sökbar databas som AI kan använda. Sammanställningsregistret syftar här till att säkra kvaliteten i handläggningen av det enskilda ärendet. Sammanställningsregistret skapar sedan underlag för beslutsstöd i ärendehanteringssystemet.

Digitala Samtal har redan i grunden stöd för denna separation. Vi lagrar datan i separata containrar som inte har en direkt koppling till en brukares personuppgifter. Vårt AI läser in denna och skapar modeller. Dessa modeller använder vi sedan för att skapa kvalitativa beslutsunderlag på ett enskilt ärende enligt ovan.

Denna regel ställer stora krav på oss som leverantör. Vi får ibland aktivt välja bort funktioner då de inte är tillämpliga. Det sätter även lite käppar i hjulen vad gäller realtidsbearbetning av data.

När får AI inte användas

Användningen av AI är klurig, inte minst när det kommer till frågor utanför de vi beskrivit tidigare. En tumregel är att ta hjälp om ni har tankar om hur AI skall användas. Vi ställer gärna upp och hjälper er inom detta.

En gråzon är till exempel användandet av AI när det gäller anmälningar och förhandsbedömningar. Här är det svårt att dra en rak slutsats. 7 a § i SoLPUL, säger i princip att ingen data får sparas i denna typ av ärenden. Det gäller inte bara AI utan generellt och är något som spökat inom socialtjänsten länge.

SKR bedömer att AI inte direkt kan tillämpas på denna data. Då detta är en stor del av socialtjänstens verksamhet så blir det lite extra klurigt. Det är just här som en av de stora vinsterna med AI finns. Dock så verkar det inte föreligga några problem med att använda sig av stöd från erfarenhetsbaserade prediktionsmodeller. Men automatiska beslut ligger ännu längt borta. Beslutsstöden är endast ett stöd, beslutet tas alltid av en handläggare.

Användningen av AI inom socialtjänsten med Digitala Samtal

Vi jobbar hela tiden för att ni som organisation skall kunn lita på våra system. Det skall vara enkelt och tryggt att använda Digitala Samtal utifrån att systemet ger förutsättningar för att hjälpa er uppfylla de regulatoriska krav som finns. I de flesta fall kan vi hantera detta fullt ut. Men det är alltid upp dir er som organisation att vara noggranna och lyhörda i hur ni använder information och de funktioner som finns.

Kontakta oss

Har ni tankar inom AI eller hur ni funderar om beslutsstöd ni redan har eller skulle vilja skaffa finns det alltid en möjlighet där vi kan hjälpa er. Kontakta oss eller boka ett onlinemöte.

Enklast och snabbast är att boka ett online-möte direkt

Läs mer om Användningen av AI inom socialtjänsten

Det finns mycket mer information om detta på SKR:s hemsida