AI governance – varför då

I den här bloggen kommer jag att adressera frågan om AI governance, jag kommer att resonera kring vad det är, varför det är viktig, hur och vad man bör göra och vad andra gör i vår omvärld men också i Sverige.

Vad är AI governance

Jag ska börja med att försöka förklara vad det är. Det är viktigt att notera att eftersom AI utvecklas mycket snabbt, förändras också beskrivningen av AI-governance dynamiskt. Jag lyfter här fram lite olika beskrivningar för att få med olika perspektiv, nyanser och djup. 

• AI governance (AI-styrning) är ett ramverk för att se till att AI-system är etiska, pålitliga och bra för samhället.  
•  AI governance omfattar de regler, principer och standarder som säkerställer att AI-teknik utvecklas och används på ett ansvarsfullt sätt. 
• AI governance är en omfattande term som omfattar definition, principer, riktlinjer och policyer som är utformade för att styra det etiska skapandet och användningen av AI. 

Inspiration från vår omvärld  

Singapore

Compendium of uses cases

Singapore har ett tydligt budskap att man ska förankra AI arbetet i organisationen, att arbetet ska vara så transparent som möjligt och framför allt vara människocentrerat. 

Lånad bild från Compendium of uses cases

World Economic forum

AI governance Alliance  

Ambition att samla industri, länder, akademi och andra för att bygga ansvarsfull global design för en transparent och inklusive AI. Här tar man ett ännu bredare perspektiv på AI-governance för att inkludera hur AI kommer att påverka arbetsmarknaden, men även de geopolitiska aspekterna. AI är en global fråga. 

Bild lånad från Design of transparent and inclusive AI systems - AI Governance Alliance (weforum.org)

EU  

The AIGA AI Governance Framework

Ett praktiskt orienterat ramverk för implementering av ansvarsfull AI. Ramverket ger organisationer ett systematiskt tillvägagångssätt för AI-styrning som täcker hela processen för utveckling och drift av AI-system. AI-styrningsuppgifterna mappas till OECD:s livscykelram för AI-system. 

Bild lånad från The hourglass model - Artificial Intelligence Governance And Auditing (ai-governance.eu)

Sverige IMY

”IMY:s vägledning om GDPR och AI syftar till att skapa förutsättningar för att förena utveckling och användning av AI med ett gott dataskydd. På så sätt vill vi främja utveckling och digitalisering som sker på ett integritetsvänligt sätt.”

Lärdomar från vår omvärld  

När vi ser oss omkring får vi en bekräftelse på att AI är en global fråga och därmed är också AI governance global fråga. Vi kan också se att många andra länder tar ett större helhetsgrepp kring dessa frågor och därmed ger bättre förutsättningar för att ta vara på AI:s potential och säkerställa att användningen är människa centrerad. Vi kan och bör lära från andra. Intåget av generativ AI med förmågan att skapa nya texter och media har ökat svårigheten att säkerställa informations validitet, därmed är AI governance ytterst angeläget. 

I den här brytningstiden blir vår förmåga att tänka och agera holistiskt avgörande för hur vi ska kunna ta tillvara på AI potential för att skapa den framtid vi vill ha – Sverige 5.0.

Hur kan man tänka kring AI governance  

Det finns en del utmaningar för AI-governance, såsom AI:s komplexitet och behovet av att adressera många olika perspektiv och nivåer beroende på kontext. AI governance adresserar ett brett spektrum av perspektiv som etiskt beslutsfattande, dataskydd, transparens i algoritmer, bias, informationssäkerhet och AI:s bredare inverkan på samhället.  

Viktigaste är ändå att varje organisation har ett ramverk och regelverk för hur de ska arbeta inom AI fältet. Det är också viktigt att komma ihåg att komplexiteten i AI governance blir väldigt olika beroende på tillämpning. Det är stora skillnader om man använder en AI lösning för att beräkna cykelflödet över en bro med hjälp av Edge AI (inga personuppgifter behandlas, allt beräkningar förs i AI kameran) till att använda AI för att analysera personuppgifter.  

AI governance är ett sätt för din organisation att göra kloka vägval framöver och därmed skapar större mervärde. 

Några saker att tänka på när det gäller ert arbete med AI governance  

• Vad är syftet med AI tillämpningar? 
• Har ni gjort en riskanalys?
• Har ni koll på informationssäkerhet?
• Finns det en risk för Bias i er AI tillämpningar? 
• Finns det en tillräcklig grad av transparens i AI lösningen? 

I min tidigare bloggpost kring AI–strategier så lyfter jag fram att AI governance kan ingå i organisationens AI–strategi. 

Att tänka på tills vi ses igen… 

Hur arbetar din organisation med AI? Hur arbetar din organisation med AI governance?  Vad tycker du är det viktigaste vi kan lära oss från vår omvärld kring AI governance  

Slutord 

Den här gången avslutar jag med ett citat från Joy Buolamwini.

”Computers are reflections of both the aspirations and limitations of the people who create them.“