Hanna Forsberg

Vilken roll tror du AI kan spela för att förbättra offentliga tjänster och samhällets funktioner?

Hanna menar att AI kan fungera som en katalysator för att förbättra flödet av expertis och kunskap mellan olika sektorer och områden. Hon påpekar att genom att använda AI-tjänster, såsom chattbotar eller avatarer, kan man ta in specialiserad expertis i det dagliga arbetet. Som exempel nämner hon sin egen erfarenhet av att arbeta med pedagogisk utveckling och hantera upphandlingar samt skriva avtal med leverantörer. Här skulle en AI-tjänst som fungerar som en avtalsjurist vara mycket värdefull. Det skulle inte bara avlasta den mänskliga avtalsjuristen i organisationen utan också hjälpa henne att snabbt få fram bättre utkast, vilket effektiviserar processen.

Hon framhåller att detta inte bara gäller juridisk expertis utan att AI kan tankas med kunskap från olika områden och därmed sprida den till andra sektorer och mellan aktörer. Hanna ser fram emot detta kunskapsflöde och tror att det kan göra verksamheter mer effektiva. Hon understryker att det finns otaliga exempel på hur AI skulle kunna dela kunskap och kompetens, vilket skulle gynna hela samhällets funktion.

Vidare menar Hanna att AI kan användas för att "klona" en individs eller en grupps kompetens. Genom att en AI lär känna hennes pedagogiska kunskap kan den verka på olika sätt och fungera som en förlängning av henne själv. Hon kan använda AI:n för att bolla idéer, skriva mejl och på så sätt sprida sin kompetens ytterligare. Detta öppnar möjligheter för att skapa team med olika kompetenser som kan bidra till verksamheten på nya sätt.

När det gäller Försvarsmaktens roll påpekar Hanna att AI är en ovärderlig hjälp när det kommer till att analysera stora mängder data. Hon menar att AI kan selektera relevant data och underlätta beslutsfattande, särskilt i strategiska frågor där det är viktigt att förstå hur olika makter agerar utifrån specifika kunskapsbilder. Genom att bryta igenom kunskapsbarriärer kan AI hjälpa till att sätta sig in i andra aktörers perspektiv, inklusive potentiella fienders, och förutsäga scenarier på ett mer effektivt sätt.

Hanna nämner också att inom utbildningssektorn finns det många områden där AI kan stärka lärandet. Genom samverkan med andra aktörer kan man få in kompetens som stärker det man gör. Hon påpekar att Försvarsmakten redan arbetar intensivt med att integrera AI i tekniska system som fordon och flyg, vilket kan förbättra olika typer av verksamheter inklusive vapensystem.

Vilka är de största utmaningarna när det gäller att införa AI i offentlig sektor?

Hanna menar att en av de största utmaningarna är att hantera påverkanskampanjer och desinformation som sprids genom AI-teknologier. Hon påpekar att detta är något de måste förhålla sig till och utbilda sina studenter om, särskilt när de ska in i Försvarsmakten. Att kunna känna igen manipulationer som deepfakes och förstå hur AI kan användas för att påverka opinionen är kritiskt. Hon anser att dessa negativa aspekter inte får lika mycket uppmärksamhet eftersom de inte är lika lukrativa som de positiva användningsområdena för AI.

Hon påpekar att det finns ett behov av någon form av statlig översyn som inte är kopplad till marknadskrafterna för att hantera dessa risker. Offentlig sektor famlar ofta kring vad som är tillåtet och vad som är möjligt att göra med AI, vilket skapar osäkerhet. Hanna tror att en annan utmaning är risken för att behovsanalysen inte görs tillräckligt noggrant innan man inför AI-system. Hon jämför detta med tidigare digitalisering inom skolan, där implementeringen ibland gick för snabbt utan att ta hänsyn till vad som faktiskt fungerade för användarna.

Hanna understryker vikten av att bygga upp beställarkompetensen och att förstå vad man vill att AI ska göra och inte göra. Hon menar att det inte bara bör vara en liten grupp som arbetar med AI inom en organisation, utan att kompetensen behöver spridas så att alla börjar använda AI på något sätt. Hon föreslår att man bör börja i liten skala, testa system mot användarna och skala upp gradvis innan man investerar i stora system. Genom att vara försiktig i början och säkerställa att systemen är användaranpassade kan man minimera riskerna.

Vidare betonar Hanna betydelsen av att ta hänsyn till människors psykologiska grundbehov vid införandet av AI. Hon refererar till självbestämmandeteorin (Self-Determination Theory), som lyfter fram behovet av att känna sig kompetent, ha en känsla av autonomi och uppleva samhörighet. Hon påpekar att om medarbetare inte får möjlighet till kompetensutveckling eller inte kan påverka processen, kan deras känsla av kompetens och autonomi undergrävas. Detta kan leda till olustkänslor, motstånd mot förändring och i värsta fall ohälsa. Därför är det viktigt att vid införandet av AI i en verksamhet ta höjd för dessa faktorer för att säkerställa en lyckad förändringsprocess.

Hur kan vi balansera innovation och etik när vi använder AI i offentlig verksamhet?

Hanna menar att för att balansera innovation och etik behövs en extern övervakning, kanske i form av ett paraplyorgan som håller koll på hur AI används och vilken typ av innovation som pågår. Hon påpekar att det är viktigt att börja sätta upp interna regler och riktlinjer för hur man arbetar med AI, men att dessa inte bör vara statiska utan måste vara en iterativ process som utvecklas i takt med att man närmar sig AI-systemen. Hon betonar att om man börjar alltför restriktivt kan det hämma innovationen, men att det samtidigt är nödvändigt att vara försiktig, särskilt när det gäller data som är skyddsvärd.

Hon anser att det är avgörande att ha en djupgående förståelse för hur digitala system fungerar, vilket kommer att vara en avgörande kompetens framöver. Detta kan kräva att man har den expertisen internt eller genom samverkan med andra aktörer, så att inte varje organisation behöver ha egna AI-experter. Hanna ser också potential i att dela erfarenheter och tankar mellan sektorer, särskilt de som har kommit längre i sin AI-utveckling, för att kunna bolla idéer och lära av varandra.

När det gäller etikfrågan hoppas Hanna att det kommer att finnas ett utbyte mellan olika aktörer, kanske med stöd från EU:s initiativ kring AI. Hon menar att genom samarbete kan man utveckla gemensamma riktlinjer och standarder som hjälper till att balansera innovation med etiska överväganden.

Vilken roll tror du AI-styrning och regelverk kommer att spela i framtiden?

Hanna menar att aktörer som är fristående från marknaden, såsom EU eller staten, kommer att behövas för att övervaka AI-utvecklingen, särskilt när det gäller de negativa aspekterna. Hon påpekar att det ibland talas om förbud mot att använda AI, men varnar för att detta kan leda till att vi hamnar efter i utvecklingen jämfört med andra delar av världen. Om EU inför alltför hämmande regelverk kan andra länder komma ikapp och förbi, vilket kan vara problematiskt om dessa aktörer inte har goda intentioner.

Hon anser att det är en balansgång mellan att reglera AI och att främja innovation. Det är viktigt att samla en kärna av expertis och resurser för att få synergier från olika kunskapsområden. Hanna tror mer på bevakning och forskning än på strikta regelverk, särskilt när det gäller att hantera desinformation och bias i AI-system. Hon påpekar att det är svårt att se exakt hur detta ska lösas i framtiden, men att försiktighetsprincipen kan vara en vägledning.

Hur kan vi skapa en hållbar och transparent AI-användning i offentlig sektor?

Hanna menar att för att skapa en hållbar AI-användning måste man arbeta användarcentrerat och undvika att införa lösningar bara för att någon utvecklare tycker att de är bra. Hon påpekar att transparens inom vissa sektorer, som Försvarsmakten, inte alltid är möjlig på grund av säkerhetsskäl och att man därför kommer att behöva använda slutna system. Dock understryker hon att det är viktigt med transparens internt, mellan användarna och beslutsfattarna, så att det finns en förståelse för vilka system som används och varför.

Hon betonar vikten av att skyddsklassa informationen och att noggrant bestämma vilken typ av data som kan användas i vilka system. Hanna påpekar att det inte bara är vi som kan analysera stora mängder data med AI, utan att även andra aktörer kan göra det, vilket ökar behovet av säkerhet och kontroll.

När det gäller hållbarhet ur ett miljöperspektiv anser Hanna att AI kan användas för att analysera stora mängder data och identifiera mönster och strukturer i samhället som annars kanske inte syns. Detta kan hjälpa oss att förstå och agera på klimatförändringar, skogstillstånd och biodiversitet på ett mer informerat sätt. Hon påpekar dock att AI i sin nuvarande form påverkar klimatet negativt på grund av hög energiförbrukning i serverhallar.

Hanna ser fram emot utvecklingen av biologiska system och kvantbiologi för att bygga AI-system som är mer energieffektiva, likt hur vår egen hjärna fungerar med låg energiförbrukning men hög kapacitet. Hon tycker att detta är ett spännande område som kan leda till AI som inte påverkar klimatet på samma negativa sätt som idag.

Slutligen menar Hanna att det saknas en diskussion om hur AI kan bidra till att uppfylla våra psykologiska grundbehov. Hon tycker att det är viktigt att reflektera över vad som gör oss människor lyckliga och hur AI kan användas för att vi ska känna oss mer kompetenta, ha större autonomi och stärka samhörigheten mellan människor. Hon ser potentialen i att AI kan frigöra tid för oss att ägna oss åt mjuka värden och mellanmänskliga möten, särskilt inom yrken som traditionellt domineras av kvinnor. Hon efterlyser en förstärkning av den delen av debatten och anser att det är en annan vinkel på hur AI kan användas för att förbättra samhället på djupare plan.