Maja Fjaestad

Vilken roll tror du att AI kan spela för att förbättra offentliga tjänster och samhällets funktioner?

Maja börjar med att betona att AI kan bidra med en enorm potential för effektivisering och förbättring av arbetet i offentlig sektor. Hon har nyligen gett ut en bok om AI i beslutsfattande, där hon beskriver hur tekniken kan göra processer mer transparenta och besluten snabbare. Dessutom kan AI, menar hon, göra själva arbetet roligare för tjänstemän eftersom en del rutinartade moment kan automatiseras bort. Hon pekar på att det finns många typer av beslut – exempelvis bygglov och boendeparkering – där en algoritm kan agera snabbt och schematiskt, vilket sparar både tid och resurser.

Maja tar upp vikten av att integrera AI på ett sätt som gör att medborgarna förstår besluten. Enligt offentlighetsprincipen ska vi kunna ta del av underlagen till de beslut som fattas, och i ett välfungerande digitalt ekosystem kan AI faktiskt stärka denna insyn. Hon framhåller samtidigt att man inte kan förvänta sig att AI automatiskt skapar demokratisk jämlikhet och välstånd – historiskt sett (exempelvis under den industriella revolutionen) har tekniska framsteg bara fått verkligt positiva konsekvenser först när samhället aktivt styrt och fördelat resurserna rättvist.

Vidare anser hon att AI kan demokratisera kunskap, särskilt genom att den sänker trösklarna för till exempel programmering. Många av de kunskaper som tidigare krävde lång formell utbildning kan nu delvis tillgängliggöras via AI-verktyg, och detta skulle kunna ge fler människor reell makt över tekniken. Dock påpekar hon att detta bara blir verklighet om makten över tekniken fördelas på ett medvetet sätt.

Maja tar också upp Melvin Kranzbergs välkända formulering att “Technology is neither good nor bad, nor is it neutral.” Teknik är alltså aldrig helt neutral, eftersom den speglar de värderingar och fördomar som finns inbyggda i dess datakällor och design. Hon varnar för att betrakta AI som en neutral kraft som automatiskt leder till bättre samhällsfunktioner. Det krävs snarare politisk vilja, medvetna regleringar och en bred diskussion om hur AI ska användas.

Vilka är de största utmaningarna när det gäller att införa AI i offentlig sektor?

Enligt Maja finns det flera exempel på hur offentlig sektor har infört AI på ogenomtänkta sätt. Hon nämner den nyligen uppmärksammade upphandlingen av journalsystemet Millennium, som i Sverige enligt henne visar hur offentliga aktörer ofta ligger i ett kunskapsmässigt underläge gentemot stora teknikbolag. Dålig överblick över upphandlade system, osäkerhet kring dataägande och bristande transparens är återkommande problem. Offentlighetsprincipen beskrivs ibland som ett “nice to have”, men Maja understryker att det är en skyldighet enligt svensk författning, något som inte alltid respekteras när nya IT-lösningar införs.

Hon nämner också den holländska “barnbidragsskandalen” som ett varnande exempel. Där användes en algoritm för att identifiera potentiellt bidragsfusk, men algoritmen hade bland annat “utländskt medborgarskap” som en negativ faktor. Detta ledde till att många fattiga migranter felaktigt anklagades för bidragsfusk och fick återkrav på pengar som de i själva verket hade rätt till. Detta visar enligt Maja hur viktigt det är att ha koll på eventuella fördomar i datan, och hur grundläggande det är att medborgare kan få sin sak prövad och överklaga beslut. Frånvaron av transparens och insyn gjorde att problemet fick fortsätta under en längre tid.

Hon påpekar vidare att offentlig sektor ofta hanterar känsliga personuppgifter, vilket gör det ännu viktigare att förstå vem som äger datan när en AI-lösning upphandlas. Om man inte reglerar eller tydligt klargör vem som får använda informationen och hur länge, kan stora värden och medborgarnas integritet gå förlorade. Detta blir extra allvarligt när information inte längre förvaras lokalt utan hanteras av globala aktörer eller molntjänster.

Hur kan vi balansera innovation och etik när vi använder AI i offentlig verksamhet?

Maja vill gärna nyansera tanken på att “balansera” innovation och etik. Hon tycker inte om att ställa innovation och reglering mot varandra, utan menar att reglering ofta kan driva innovation framåt. Hon jämför med trafikregler som en självklarhet: ingen argumenterar för att ta bort hastighetsgränser bara för att det “hämmar bilars innovationspotential”. I stället ser hon reglering som en demokratisk mekanism för att styra tekniska möjligheter åt rätt håll.

Hon diskuterar också en rörelse som förespråkar att man bara ska “trycka ut ny teknik” så snabbt det går (hon kallar det bland annat “vansinnigt” och “odemokratiskt”), i hopp om att folk kommer att använda den ansvarsfullt. Detta avfärdar hon bestämt och liknar det vid att släppa kärnvapen fritt och hoppas att ingen missbrukar dem. För Maja är det självklart att teknik måste fogas in i ett demokratiskt ramverk, och att vi som samhälle har ansvar att reglera dess användning – särskilt när den påverkar människor i utsatta situationer.

Hon lyfter fram att etik i sig är viktigt, men att enbart “AI-etik” inte räcker om man inte samtidigt talar om AI och demokrati. Anställer man bara en etiker som sätter en stämpel på ett AI-system kan det bli en fasad: AI kan ändå vara odemokratiskt, fördomsfullt eller alltför slutet för att medborgare ska kunna förstå hur beslut fattas. Därför behöver man, enligt Maja, kombinera etiska överväganden med krav på insyn, ansvarstagande och möjlighet att ifrågasätta algoritmiska beslut.

Vilken roll tror du AI-styrning och regelverk kommer att spela i framtiden?

AI-akten (AI Act) framhålls av Maja som ett ambitiöst försök från EU:s sida att reglera tekniken, men hon påminner om att lagstiftningen inte kommer att täcka in alla potentiella problem med AI. Hon ger som exempel hur vissa appar och tjänster använder algoritmer för “nudging” eller stereotypt marknadsföringsinnehåll, vilket kan vara problematiskt men inte förbjudet. På samma sätt finns situationer där en AI-modell kan förmedla fördomar eller påtryckningar, utan att det når upp till den risknivå AI-akten fokuserar på.

Samtidigt påpekar Maja att det redan finns andra regelverk, som GDPR, upphovsrätt, offentlighetsprincipen, etc. Det är alltså felaktigt att påstå att AI befinner sig i ett juridiskt vakuum. Skillnaden är att AI nu får ett mer riktat regelverk i form av AI-akten, men Maja menar att vi likväl måste fortsätta diskutera hur tekniken påverkar samhället bortom det som formellt räknas som “högrisk-AI”. AI-akten innebär inte heller att frågor om dataägande, öppenhet och ansvar direkt får självklara svar – det är snarare en första milstolpe. Hon tar upp att det dessutom är oklart vem som ska vara juridiskt ansvarig om ett AI-system gör något olagligt – är det företaget som tränat modellen, myndigheten som implementerat den eller slutanvändaren? Denna fråga, säger hon, kräver fortsatta utredningar och klargöranden.

Hur kan vi skapa en hållbar och transparent AI-användning i offentlig sektor?

Maja förordar en djupare granskning av AI-system i offentlig sektor, ofta kallad “auditing” eller revision. Tanken är att man på regelbunden basis ska kunna verifiera att en AI faktiskt gör det den är tänkt att göra – och inte gör saker den inte ska. Hon poängterar att öppen källkod kan vara ett steg i rätt riktning, men att enbart källkodstillgång sällan räcker för att säkerställa vare sig begriplighet eller kontinuerlig kontroll, eftersom AI-modeller kan ändra sitt beteende i takt med att data uppdateras.

En annan viktig komponent är, enligt Maja, någon form av “varudeklaration” när AI använts. Hon tycker det är rimligt att tydligt märka texter, beslut eller dokument som tagits fram med AI-stöd, så att mottagaren vet att de hanterar automatiskt genererat innehåll. Samtidigt konstaterar hon att AI-text numera kan vara väldigt välgjord och att det därför inte behöver vara en “stämpel av sämre kvalitet” bara för att den är AI-genererad – i vissa fall kan AI-verktyg rentav vara kvalitetsförbättrande, till exempel vid översättningar eller vissa typer av textproduktion.

När det gäller offentlig sektor lyfter hon fram vikten av att hålla data “i eget hus” – exempelvis genom att köra en öppen språkmodell på kommunala servrar. Detta minskar riskerna med att skicka iväg känsliga data till externa molntjänster och aktörer som man inte riktigt vet hur de hanterar och lagrar informationen. Hon nämner också att man bör underlätta för både journalister och medborgare att granska algoritmer och beslutsprocesser, annars riskerar förtroendet för offentliga institutioner att urholkas.

Avslutningsvis tas frågan upp om ansvarsfördelningen när AI-system bryter mot regelverk som AI-akten. Maja understryker att hon själv inte är jurist, men nämner juristen och professorn Charlotta Kronblad, som visat att det finns ett oklart läge när det gäller vem som bör hållas ansvarig: systemets utvecklare, myndigheten eller slutanvändaren? Maja instämmer i att det är en viktig fråga där det än så länge saknas tydliga riktlinjer. Samtidigt påminner hon om att det bara är en av många pusselbitar i att bygga en långsiktig, demokratisk och etiskt förankrad AI-användning i det offentliga.