Förstärkt datacenter möjliggör Arbetsförmedlingens nya AI-satsningar

Arbetsförmedlingen har identifierat många områden där AI-teknik skulle kunna ha stor betydelse för verksamheten. Lösningarna kan leda till önskvärda effektiviseringar och besparingar samt även lägga grunden till en snabbare och förbättrad service.

För ändamålet satsar myndigheten på en ny infrastruktur i sitt eget datacenter. Atea har hjälpt till med att räkna på kapacitet samt hitta och leverera rätt teknisk lösning. Planen är att den nya hård- och mjukvaran ska installeras i början av 2025.

Tomas Pettersson, verksamhetschef för Arbetsförmedlingens datacenter

Valet har fallit på en AI-plattform baserad på Ciscos M8-servrar, där varje server har åtta H200 GPU:er (grafikbearbetningsenheter), som tränar AI-modellerna snabbare och på kort tid bearbetar stora mängder data. Arbetsförmedlingen är bland de första i världen att välja denna lösning.

– Vi har haft många möten med Atea och Cisco om designen av servrarna. De har presenterat olika tekniska lösningar för oss, hur vi kan implementera det här på bästa sätt, och tillsammans har vi valt de här M8-servrarna. Med åtta GPU:er i varje server är det en ganska kraftig lösning, säger Tomas Pettersson, verksamhetschef för Arbetsförmedlingens datacenter.

– Den här utrustningen passar dessutom väl ihop med vår befintliga arkitektur vad gäller drift, underhåll och support. Den blir ett med resten, inflikar lösningsarkitekten Nebojsa Rasovic.

Olika AI-lösningar ska testas

På denna plattform ska Arbetsförmedlingens AI-center under 2025 börja testa olika lösningar. I vissa fall handlar det om att utveckla nya tjänster, i andra fall om att flytta befintliga tjänster från molnet till de lokala servrarna.

Andreas Horndahl, it-arkitekt

– Vi har sett ett behov av att kunna ha vissa tjänster on-prem och inte bara förlita oss på amerikanska leverantörer, framför allt eftersom vi till viss del jobbar med känslig information. Exakt hur vi ska fördela resurserna är inte klarlagt riktigt än. Vi kan göra olika saker inom ramen för detta och har många tillämpningar som kan nyttja den här typen av förmåga, säger Andreas Horndahl, it-arkitekt på Arbetsförmedlingen.

Exakt vilka AI-satsningar som ska prioriteras kommer att klarna allt eftersom. Det finns ett antal förslag på bordet, däribland tal till text och bild till text, där det bland annat handlar om tolkning av handskrivna dokument.

Andra tillämpningar med lokala servrar

Ett avgörande projekt blir försöket att flytta den befintliga tjänsten för frågor och svar inom jobb- och utvecklingsgarantin från Azure till de nya lokala servrarna.

– Om det är möjligt att köra denna tjänst on-prem öppnar det upp även för andra tillämpningar med mer känsliga data, till exempel matchning av kompetensprofiler mot platsannonser och yrken. Redan i dag tolkar vi platsannonser regelbundet och extraherar information ur dem, fast på andra sätt och med äldre teknik. Med bättre modeller kan det göras med betydligt större precision, säger Andreas Horndahl.

Arbetsförmedlingen har köpt ganska mycket serverkapacitet, mer än vad som egentligen behövs för de aktuella AI-projekten. Tanken är att ta höjd även för framtida satsningar.

– Det är en stor efterfrågan på AI-lösningar på marknaden. Därför beställer vi en stor maskinpark nu som man senare kan beställa kapacitet i, så att vi inte behöver specialbygga servrar för olika framtida applikationer. Vi som ansvarar för Arbetsförmedlingens datacenter behöver ligga i framkant och vara proaktiva, så att vi har den kapacitet som vi behöver i framtiden, säger Nebojsa Rasovic.

Nya sätt att sammanföra parter

Om Arbetsförmedlingen kan tillgängliggöra fler RAG-lösningar med frågor och svar samt hantering av dokument leder det på sikt både till kortare handläggningstider och en mer rättssäker ärendehantering med färre fel, hävdar Andreas Horndahl.

Nebojsa Rasovic, lösningsarkitekt

RAG står för Retrieval Augmented Generation och är en AI-teknik som dels kombinerar stora språkmodeller med externa kunskapskällor för att förbättra kvaliteten på de genererade svaren, dels minimerar risken för felaktig eller föråldrad information. Det lägger bland annat grunden till fler och bättre självservicetjänster via Arbetsförmedlingens hemsida.

– Med hjälp av AI kan vi hitta nya vägar för att sammanföra arbetsgivare och arbetstagare, där vi kan lägga mindre tid på manuellt arbete. Vi automatiserar gärna handläggningen i de delar där det är möjligt, säger Andreas Horndahl.

Idéer för framtiden saknas inte. Utöver sina egna förslag plockar Andreas Horndahl och hans närmaste medarbetare gärna upp goda initiativ från den övriga organisationen.

– Vi vet att det finns många medarbetare, både handläggare och andra, som använder ChatGPT privat och som har förslag på hur vi som myndighet skulle kunna jobba med AI. En del av dessa idéer är bra och om vi kan kvalitetssäkra dem och implementera dem på ett säkert sätt finns det stora vinster att göra.