Forskaren Micael Frideros: Så lyckas organisationer med AI

Micael Frideros kallar sig ”följeforskare”, vilket innebär att han både studerar projektet utifrån forskningsperspektiv och dessutom själv är med och bidrar med erfarenheter, kompetens och kontakter.

Han följer en rad AI-projekt i den offentliga sektorn.

– Det är oerhört spännande att studera vad det är som gör att det ibland fungerar bra med AI, och varför det andra gånger inte blir lika lyckat, säger han.

Ja, vad beror det på? Två tydliga slutsatser har framträtt i Micaels forskning:

1. Hur avgörande det är att ha dialog och samarbete med verksamheten för att resultaten av AI-satsningarna ska göra verklig nytta.
2. Hur viktigt det är med ett undersökande och lärande förhållningssätt. Att vilja förstå mer, lära mer, och upptäcka mer.

Checkar båda de boxarna

En kommun som har uppfyllt båda dessa kriterier är Lidingö stad, som har fått mycket uppmärksamhet för sin AI-mentor i hemtjänsten. Ett annat projekt som precis är i uppstarten, och även det görs i samarbete med Atea, handlar om att undersöka möjligheten att ta hjälp av AI för att maskera känsliga uppgifter ur offentliga handlingar innan dessa lämnas ut. Satsningen har potentialen att frigöra enormt mycket arbetstid. Även Kungsbacka kommun och Skaraborgs kommunalförbund ingår i det projektet.

– Från första början har Lidingö stad närmat sig AI med insikten om behovet av att lära sig så mycket som möjligt. Det började med att man samlade ett tjugotal chefer i en separat byggnad och sa ungefär, ”Vi har tillgång till den här tekniken nu, och vi ska köra tre projekt. Vilka ska vi driva?” Just det här organisatoriska perspektivet, att samla organisationen och ta ett beslut gemensamt bland cheferna, det har visat sig vara oerhört värdefullt.

Inte bara att sätta igång och köra

På andra håll har det inte gått lika bra.

"En approach som inte fungerar alls lika bra är; 

Risken är då väldigt stor att projekten inte flyger. Det finns ingen verksamhet som, vågar jag påstå,  fullt ut bara kan sätta igång och köra."

AI är en lärprocess för organisationen, understryker Micael. Man behöver ha en förståelse för de rutiner, strukturer och förändringar i arbetssätt som den nya tekniken kräver.

– Att ha lärande som utgångspunkt ger en inbyggd ödmjukhet. När du accepterar att du ska lära dig någonting innebär det också att du erkänner att du inte kan allt från början. Då kan du gå in med en öppen inställning och säga ”låt oss undersöka hur vi kan använda tekniken så att vi får ut så mycket som möjligt av den”. Det handlar om att lära, och samtidigt fokusera på att skapa nytta.

Maximera AI-lärandet

Han rekommenderar en modell som går ut på att maximera lärandet genom att identifiera tänkbara AI-projektkandidater på tre nivåer:

• En lågt hängande frukt där förutsättningarna ser bra ut för att snabbt kunna göra nytta i verksamheten.
• En mellannivå där nyttan är ännu större, men som troligtvis tar längre tid.
• En sikta mot stjärnorna-nivå som kan göra en enorm skillnad, men som är betydligt komplexare att förverkliga.

Alla nivåer ger olika sorters lärande som stärker AI-medvetenheten i organisationen, och bygger kunskap som leder till högre AI-mognad i samhället.

– Lidingö stads sikta mot stjärnorna-projekt handlade exempelvis om att effektivisera kostnaderna på stora entreprenader. Det visade sig att man saknade den mängd meningsfulla data som krävs för att träna en AI på det. Man kontaktade då tio grannkommuner för hjälp, men det visade sig att varje kommun haft sina egna rutiner för att dokumentera de processerna, vilket gjort att data är sparat på väldigt olika sätt.

– Den värdefulla lärdomen här är hur viktigt det är att identifiera användningsfall av tillämpningar som skulle göra stor nytta – och strukturerat samla in den data som behövs, säger Micael.

Efterlyser nya typer av samarbeten som kan gynna AI-utvecklingen

Micael menar att nya typer av samarbeten i offentlig sektor måste till i AI-samhället.

– Kanske till och med hela kommun-Sverige bör gå samman i vissa fall, och skapa rutiner så att vi gör den dokumentering av data som krävs för att vi sen ska kunna skapa en AI som gör reell nytta för alla kommuner?

Det kan inte vara så att Sveriges kommunala AI-utveckling står och faller med att enbart några enskilda kommuner är på hugget.

– Drömmen är att få många fler kommuner att gå före och börja experimentera med tekniken i en högre takt än hittills, och hitta lösningar på de problem som många delar, så att dessa kan delas och spridas. Kanske behövs ett uppdrag från regeringen via Sveriges Kommuner och Regioner (SKR) eller liknande för att sätta fart på det? Jag vet inte exakt hur modellen skulle se ut, men det behöver diskuteras. Den modell som föregående regering tog fram när man gav tre myndigheter – Arbetsförmedlingen, Bolagsverket och Skatteverket – i uppdrag att vara föregångsmyndigheter inom AI-området är inte så dum. För alla kan inte uppfinna hjulet på egen hand.

”Sverige har alla förutsättningar – men regelverken behöver anpassas”

Få länder i världen har lika bra förutsättningar att dra nytta av AI som Sverige.

– Vi har en utbyggd välfärd som dessutom är välstrukturerad. Vi har ett betydande datamaterial, och vi har tekniken. Det är klart att regelstrukturen inte är anpassad för tekniken, men jag menar att det definitivt är lättare att göra de anpassningarna än att behöva bygga upp datan från grunden, säger Micael.

Som han redan har varit inne på, när det gäller AI är det viktigt att alla intressenter har en plats vid bordet.

– Tekniken är så kraftfull att den måste diskuteras från olika håll. Vi har en gång i tiden skapat den här offentliga strukturen, och då lagt in tydliga begränsningar på vad man får och inte får göra. Det gjordes förstås av en orsak, så frågan är hur vi kan tillgodose de behoven även fortsättningsvis, fast utan för den sakens skull hindra utvecklingen? Hur tillvaratar vi de olika intressena?

Vad händer när det blir fel?

Etiska överväganden är nödvändiga att göra.

– Samhället skulle inte acceptera om autonoma bilar orsakade 20 dödsfall per år, men samtidigt accepterar vi i Sverige att 200 personer dör årligen i trafiken. Vi har uttryck som "den mänskliga faktorn" som återspeglar det faktum att vi måste acceptera att alla av oss människor gör fel ibland – men när det gäller maskiner har vi inte samma tolerans, utan förväntar oss att de ska ”gå som en klocka”, säger Micael.

GDPR paragraf 22 förbjuder till exempel automatiserat beslutsfattande som kan leda till att människor hamnar i kläm, påpekar han.

– En person måste vidimera att AI:n har fattat ett korrekt beslut. Men det är inte heller en helt tillförlitlig väg. Forskning visar att vi människor blir slentrianmässiga inför svar som vi får serverat för oss, säger Micael.

Kanske är det så att en process ger korrekt beslut i 99 procent av fallen.

– Då är det viktigaste att den där sista procenten fångas upp och hanteras på ett bra sätt. Det behöver ske – oavsett om fel begåtts av en människa eller AI.

För människor begår också fel. Ibland oftare än maskiner. Att våga diskutera AI ur olika perspektiv och tillsammans jobba fram till lösningar är Micaels viktigaste takeaway när det gäller att lyckas med AI.