Hoppa till huvudinnehåll
2023-02-21

ChatGPT – lösningen på allt, silverkulan vi väntat på! 

Jag skjuter in ett Henrik Schyffertskt ”Eller?” med en gång. Visst hade det var fantastiskt om det faktiskt var som i rubriken, men som många av er redan vet är det fortfarande en bit från sanningen. Häng med nu så tar vi det från början! 

Carl-Johan Ekelund
Carl-Johan Ekelund
Security Team Lead

När jag studerade på teknis runt millennieskiftet så läste jag en kurs i AI, artificiell intelligens, och tyckte som de flesta att det var otroligt intressant. Kanske hade vi svårt att ta till oss hur de praktiska tillämpningarna skulle fungera men att det skulle ta över 20 år innan AI slog brett hade nog få trott. I teorin var ju allt solklart med ML, NN och DL – bara skriv koden, skaffa relevant data och träna AI:n till perfektion! 

Hursomhelst, nu har vi ChatGPT här och skolungdomarna har skrivit sin sista läxa vilket medför att jag slipper, som häromkvällen, traggla religion med sonen och engelska med dottern. ”Gutt” som vi säger på Öland. 

Ni behöver inte vara 70-talist som mig för att förstå att jag är ironisk men missförstå mig rätt, jag är positiv till ChatGPT men det finns baksidor på myntet. Som vanligt.

När det kommer till risker så behöver vi tänka nytt och för att citera NIST:S AI Risk Management Framework: 

”These risks make AI a uniquely challenging technology to deploy and utilize both for organizations and within society. Without proper controls, AI systems can amplify, perpetuate, or exacerbate inequitable or undesirable outcomes for individuals and communities. With proper controls, AI systems can mitigate and manage inequitable outcomes.”

Just orden amplify, perpetuate, or exacerbate är intressanta, dvs. förstärka, vidmakthålla och förvärra. Det som redan är lite felaktigt men ändå dominerar i informationsmängderna blir alltså det som gäller och kan alltså förstärkas ytterligare av en AI.

Vi människor tränar också AI:n till viss del med den information vi genererar och i viss mån med en tumme upp när vi tycker att ChatGPT svarar rätt. Hoppas nu ingen sätter en AI på att ställa frågor om ett visst ämne och sätta tummarna åt det håll som gynnar dess ägare…

AI:n lär sig alltså från de massiva mängder information den samlar in från internet och andra relevanta källor. Frågan är då om alla sanningar finns där? En sanning är att vinnarna skriver historien vilket påverkar det som AI:n ska förhålla sig till.

Lite sund källkritik gäller även för det en AI tycker för ibland kan det bli fel. Här finns det ett antal intressanta exempel.

AI eller ChatGPT i sökmotorer då – är det bra?

Jo, men spontant så är det ju trevligare att chatta sig fram med en chattbot som förstår sammanhanget än att söka med ord och lägga till en massa parametrar som +, -, site, osv. för att få rätt resultat. Här tror jag att det kommer bli en revolution…men…vi vet ju att ranking i sökmotorer kan köpas…lita inte blint på att det resultat du får av AI:n är det allra bästa. Kanske kommer objektiva, neutrala och osponsrade sökmotorer med AI kosta pengar i framtiden?

AI är fantastiskt och kommer underlätta vår vardag och arbetsliv framöver men det finns risker som med mycket annat. Att ha en god allmänbildning och ett källkritiskt tänkande är fortsatt viktigt – vanlig traditionell intelligens kombinerat med artificiell är vägen fram. Se AI som ett verktyg för att arbeta mer effektivt och slippa det repetitiva för att frigöra tid till annat.

NIST:s stöd för att hantera AI-risk finns här ”AI Risk Management Framework Playbook.

Använd den för att ”tänka först och göra sen” så slipper AI påverka gapet ytterligare mellan digitalisering och informationssäkerhet. På Atea har vi IT-rättsjurister specialiserade på just AI och vi har även koncept som hjälper till att accelerera er resa mot att göra underverk med AI.

Ps. Ikväll blir det musikläxa med genomgång av stråk-, slag-, bläckblås och träblåsinstrument! Inte mitt paradämne men tack var det kommer jag ha lite bättre koll på om ChatGPT svarar rätt eller inte. ds. 

Kontakta gärna mig hur ni bör informationssäkra er verksamhet.

Carl-Johan Ekelund
Carl-Johan Ekelund
Security Team Lead
Skicka e-post