Cloud & it-infrastruktur 2024-04-26

Hur möter IT-avdelningen verksamhetens AI-behov?

Ni som följt Atea under våren vet att vi har kört en seminarieturné på temat och bakgrunden är följande; Under såväl kundkontakter som möten med verksamhetsledare under 2023 så fick många av oss upp ögonen för att it-avdelningen står inför en massiv utmaning då verksamheten tar nästa steg mot plattformar och lösningar som är drivna av AI.

Jonas Emilsson
Lead Architect Hybrid Platforms

Samtidigt förutspåddes 2024 bli året när man gick från ord till handling vad gäller införande av AI i verksamheten vilket ytterligare förstärkte frågeställningen – När verksamheten valt AI som en möjliggörare för att skapa nytta, hur kan it-avdelningen stötta denna resa och vara förberedda på de plattformsmässiga och infrastrukturella krav det innebär?

Men AI-lösningar köper man väl i molnet?

Men varför är it-avdelningen relevant i denna diskussion kanske ni frågar er?

Ja, till att börja med så finns det – och kommer att finnas än mer efter införandet av AI Act inom EU – regulatoriska och säkerhetsmässiga krav som gör att vissa AI-lösningar kanske inte är lagmässigt godtagbara att köra i molnet för den egna verksamheten. Då behöver man etablera en plan och en strategi för hur man skall hantera det, troligen med utrustning som körs i det egna datacentret.

Och även om den valda lösningen är godkänd för att köras i molnet så kommer det att finnas dataskyddskrav och aspekter kring hur man skyddar sin information som måste ingå i en övergripande strategi för AI-tillämpningar i verksamheten.

Vad är då AI Act och hur påverkar det svenska verksamheter?

Ja, om man vill förenkla det skulle man kunna kalla det för ”GDPR för AI”. Det är en EU-gemensam lagstiftning som ännu inte trätt i kraft, men som syftar till att säkerställa att användandet av AI-system inom EU är säkra, respekterar människors rättigheter samt underlättar investering och innovation inom AI. När lagen träder i kraft kommer den att stipulera hur och på vilket sätt AI-plattformar får användas och hur informationen skall behandlas på ett säkert sätt. Det troliga införandeåret inom EU är 2025 och därför är det jätteviktigt att man innan dess har en plan som följer de riktlinjer som redan nu är, åtminstone delvis, kommunicerade från EU.

Så lagkraven och de regulatoriska begränsningarna spelar absolut in när valet av infrastruktur skall göras.
När man sedan kommer till den plattform som skall förvalta verksamhetens AI-tillämpningar så är det väldigt ofta infrastrukturlösningar med mycket höga krav på prestanda (både i CPU och GPU-form) och lagringsyta, samt ett lika påtagligt krav på bandbredd i nätverken för att kunna möjliggöra snabba svarstider för den tillämpning man valt.

Sist men inte minst så kräver AI-tillämpningar som arbetar med den egna verksamhetens data att man sedan tidigare (eller som senast vid införandet av lösningen) arbetar datadrivet och klassificerar och kategoriserar information så att AI-tillämpningen kan använda rätt dataset och också – i fallet med generativ AI – träna modellen på relevant och verifierad information.
Svenska verksamheter kommer därför som en följd av införandet av AI bli ”tvungna” att arbeta mycket mer datadrivet än man kanske gör idag, där informationen måste synliggöras och kategoriseras för att kunna behandlas på ett kostnadseffektivt och säkert sätt.

Hur hanterar vi plattformsval och infrastruktur?

När it-avdelningen mottar en AI-tillämpning så behöver också valet av plattform göras. Vilken automationsmotor skall vi använda? Vilken lösning för agila ramverk och containers behövs finnas på plats? Är Kubernetes det naturliga valet eller finns det andra vägar framåt?

För många kunder kommer valet av infrastruktur avgöras i hur bra support och stöd för redan existerande applikationer som finns. För Kubernetes finns några riktigt stora aktörer som dominerar marknaden för öppna ramverk (t ex Red Hat OpenShift) och som också har stöd för acceleratorer för databearbetning från t ex NVidia eller Intel eller någon annan tillverkare av hårdvaruacceleratorer.

It-avdelningen behöver också bedöma och förutsäga hur mycket data som skall bearbetas, vilken typ av AI-tillämpning det är och vilken prestanda som den lösningen behöver.
Är det en analyticsplattform kanske behovet är måttligt, medan om man rör sig ut i ytterkanten mot deep learning av ostrukturerad data (såsom generativ AI gör) så krävs både enorm beräkningskapacitet, mycket god bandbredd i datacentret samt mycket stor kapacitet för datalagring.

Så frågorna är många och svaren inte alltid helt självklara när man inför en AI-tillämpning ute i sin verksamhet.

Hur gör man rätt val av AI-plattform?

Vägen till rätt val av infrastruktur går via en tydligt kommunicerad och etablerad AI-strategi. Här finns det flera aktörer på marknaden som kan hjälpa er där Atea (bl.a. genom vårt samarbete med AI Sweden där Atea är medlem) är en av dem!

Man behöver också, förutom strategin som sådan, göra ett val hur långt man vill ta sin AI-mognad.
Är målsättningen att bli ledande inom AI-tillämpningar så kommer det att krävas en stor mängd arbete och investeringar.

Nöjer man sig med att utforska de förmågor som AI ger ur ett mer nyfiket test-perspektiv,kan man kanske t.o.m. kan klara sig med den infrastruktur och de mjukvaruinvesteringar man redan gjort sedan tidigare.

Om ni vill ta nästa steg i er AI-resa och är nyfiken på hur it-avdelningens förmågor nyttjas bäst i samarbetet med verksamhetens AI-behov så sträck ut handen till undertecknad eller er lokala kontakt på Atea så tar vi en förutsättningslös dialog om nästa steg!