Hanna Birath

Vilken roll tror du AI kan spela för att förbättra offentliga tjänster och samhällets funktioner?

Hanna menar att AI i bästa fall kan leda till en offentlig sektor och en välfärd som både klarar sitt samhällsuppdrag bättre än idag och hanterar den växande och åldrande befolkningens behov på ett mer effektivt sätt. Hon hänvisar till DIGG:s beräkning om möjliga besparingar på 140 miljarder kronor årligen genom AI-implementering, samtidigt som hon påpekar att det inte enbart handlar om kostnadsminskningar utan även om snabbare handläggning, mer träffsäkra analyser och ökad tillgänglighet för medborgare. Hon tror att just rutinuppgifter, som till exempel långa handläggningstider för bouppteckningar på Skatteverket, kan hanteras betydligt snabbare med AI-stöd och därmed frigöra tid för mer mänskliga möten, särskilt i vård och skola. Hon anser att just vård och skola ofta nämns när man talar om AI:s möjligheter, men hon vill också rikta uppmärksamhet mot domstolarna, där Domstolsverket driver flera innovationsprojekt. Hon nämner bland annat en AI-baserad översättningsapp som hanterar cirka 60 språk och är särskilt tränad på juridiska texter, något som beräknas kunna spara upp till 220 års arbetskraft. Detta innebär inte att personal försvinner utan snarare att de kan frigöras från tidskrävande uppgifter, vilket är viktigt i en verksamhet som brottas med domarbrist och svårigheter att rekrytera. Hon berättar också om AI-stöd för maskning av känsliga uppgifter, en uppgift som blir allt mer efterfrågad när såväl journalister som privatpersoner begär ut handlingar i ökad omfattning. Därtill beskriver hon hur Domstolsverket utvecklar VR-rättssalar som en del av sin AI-satsning, där domare, vittnen, poliser och åklagare kan tränas i en virtuell miljö. På så sätt sparar man personella resurser och behöver inte anordna omfattande övningar i fysiska rättssalar, samtidigt som kvaliteten i förberedelser och utbildning kan stärkas.

Vilka är de största utmaningarna när det gäller att införa AI i offentlig sektor?

Hanna förklarar att hennes organisation Akavia genomför något de kallar Akavias AI-index, där både offentlig och privat sektor får svara på frågor om hinder för att använda AI. Inom offentlig sektor framkommer tre återkommande utmaningar. Den första är hur känslig och skyddsvärd data ska hanteras utan att bryta mot de integritets- och sekretessregler som gäller. Den andra stora utmaningen är kompetensbrist hos både medarbetare och chefer, särskilt eftersom AI-utvecklingen går fort och många känner sig osäkra på tekniken. Det tredje hindret är en allmän regulatorisk osäkerhet, där man inte riktigt vet vilka lagar och regler som gäller eller hur man tolkar befintlig lagstiftning. Därutöver tycker hon att offentliga verksamheter ofta saknar tydlig politisk styrning, vilket bromsar utvecklingen av nya AI-initiativ. Hon jämför med det privata näringslivet, där det finns ett naturligt driv kring innovation och vinstintresse, medan offentlig sektor behöver klara, politiska direktiv för att våga satsa ordentligt. Hon påpekar att vi i Sverige har höga ambitioner och mål inom AI och digitalisering, men att vi saknar en konkret plan eller tydlig ”karta” över hur man ska ta sig dit. I internationella jämförelser ser hon att Sverige riskerar att tappa mark, och hon menar att politiken därför måste bli tydligare om man verkligen vill att offentlig sektor ska ta klivet och implementera AI i stor skala.

Hur kan vi balansera innovation och etik när vi använder AI i offentlig verksamhet?

Hanna anser att själva kärnan i innovation är en viss grad av risktagande, men hon betonar att en offentlig verksamhet inte kan bete sig som en startup och ta vilka risker som helst. Hon menar att man måste hitta former för att testa AI i begränsad omfattning, där en viss risk är acceptabel eftersom konsekvenserna inte blir allt för stora om något skulle gå fel. Hon nämner regulatoriska sandlådor som en bra modell för detta, där både offentlig och privat sektor kan testa nya AI-lösningar i en skyddad miljö under tillsyn, innan de implementeras i skarp drift. Hon förklarar att Integritetsskyddsmyndigheten (IMY) har arbetat med sådana koncept och att det också tas upp som en möjlighet i EUs AI-förordning. Samtidigt menar hon att kompetensutveckling är avgörande för att etiken ska kunna tillgodoses i praktiken. Det räcker inte med att några få AI-experter har koll på tekniken, utan även chefer och övriga anställda behöver en grundläggande förståelse för hur AI fungerar, vilka risker som finns och hur man ställer rätt frågor. På så sätt kan man säkerställa att offentliga organisationer inte bara lockas av möjligheten till effektivisering, utan också värnar medborgarnas integritet och rättigheter.

Vilken roll tror du AI-styrning och regelverk kommer att spela i framtiden?

Hanna beskriver sin egen inställning som att hon är en ”regelnörd” som gärna ser att det finns tydliga regler för det mesta. Hon liknar dagens AI-landskap vid vilda västern, där några få stora och globala företag driver utvecklingen på en i mångt och mycket oreglerad marknad. Hon har hört kritik om att EU tenderar att överreglera, medan utveckling och innovation i stället sker i USA och Asien. Ändå anser hon att EUs AI-förordning är ett viktigt steg i riktning mot ordning och reda, även om det på sina håll kan vara svårt att reglera AI som om det vore en fysisk produkt. Hon påminner om att även tidigare teknikskiften har varit mer eller mindre oreglerade i inledningen, men att man efter hand lyckats hitta lösningar som fungerat för alla parter, inte minst konsumenter och användare. På längre sikt tror hon därför att det är positivt med tydliga spelregler, eftersom det skapar förutsebarhet och bygger upp förtroende för tekniken. Hon tror också att det kommer ta tid innan EUs AI-förordning är fullt implementerad, men ser det som nödvändigt att reglera ett område som får så stor påverkan på både samhälle och arbetsliv.

Hur kan vi skapa en hållbar och transparent AI-användning i offentlig sektor?

Hanna menar att förutsättningen för en långsiktigt hållbar och transparent AI-användning är att kunskapsnivån hos myndigheterna ökar. Hon stöter ofta på medarbetare som inte ens vet att de arbetar med AI-stödda system, eftersom det inte alltid kallas för AI i verksamheten. Hon anser därför att det behöver finnas en strategisk plan hos varje myndighet, både för hur man ska använda AI och för hur man inte ska göra det. Hon hänvisar till en aktuell undersökning där 30 stora myndigheter fick frågor om sin AI-användning. Även om de flesta uppgav att de antingen använder eller planerar att börja använda AI, så är det långt ifrån alla som har en tydlig strategi eller riktlinjer. Samtidigt var det sex myndigheter som inte ville svara alls, vilket hon menar pekar på en osäkerhet kring hur man ska förhålla sig till tekniken. Hon lyfter fram principerna för god förvaltningskultur och rättssäkerhet och betonar att man inte kan frångå de befintliga reglerna bara för att tekniken är ny. Hon nämner exemplet med Försäkringskassan, där bristen på öppenhet om hur AI-systemen fungerade väckte en del kritik, och hon tycker att det bör fungera som en lärdom för andra myndigheter. Hon tar också upp det finska exemplet, där man har en publik sajt som redovisar hur AI används i offentlig sektor, vilket hon menar är något Sverige borde inspireras av. En sådan öppenhet gentemot medborgarna skulle kunna ge en mer transparent och förtroendeingivande AI-användning, inte minst för att alla då kan se vilka system som används, hur de är uppbyggda och vilken nytta de förväntas leverera. På så sätt får man en tydlig grund för att både följa upp, utvärdera och utveckla AI-lösningar i offentlig verksamhet utan att tappa bort vare sig etiska principer eller den viktiga insynen.