Charlotta Kronblad

Vilka juridiska frågor tycker du är mest relevanta när det gäller AI-utveckling och användning?

Charlotta inleder med att understryka vikten av att förstå vad AI faktiskt är om man överhuvudtaget ska ge sig på att försöka reglera det. Hon menar att det inte finns någon etisk AI i sig utan att det alltid handlar om hur tekniken utvecklas och används av oss människor. Vi har därmed en central skyldighet att säkerställa att AI, och all dess potential, inte leder till etiska snedsteg. Just därför menar hon att juridiken måste utformas så att ansvaret placeras hos människan, inte läggs i ”tekniken” som sådan. Det spelar ingen roll hur avancerade algoritmerna är, det är alltid mänskliga beslut som ligger bakom dem och därmed borde vara föremål för ansvarsfrågor.

Samtidigt understryker hon att den snabba utvecklingstakten hos AI gör att en alltför specifik lagstiftning riskerar att bli inaktuell nästan omedelbart. Hon belyser ett konkret exempel från EU, där man tvingades skriva om AI-förordningen (AI Act) när generativ AI slog igenom under 2022, eftersom ursprungstexten inte tog höjd för den typen av system. Samtidigt får en alltför bred reglering heller ingen verklig effekt. Det blir en balansgång där juridiken behöver vara flexibel men inte tandlös. Hon nämner det grundläggande problemet att rättssystemet per definition aldrig hinner i kapp den snabbväxande tekniken, eftersom lagstiftningsprocesser ska vara demokratiskt förankrade, ta tid och dessutom utgå från en redan existerande verklighet.

Hon tar också upp svårigheten för domstolar att hantera algoritmiska beslutsunderlag som bevis. Ett exempel är den felaktiga algoritmen för skolplaceringar i Göteborg, där hundratals barn hamnade på ”fel sida älven” på grund av att systemet byggde på fågelväg i stället för gångväg. Ett formellt fel som uppstår genom en relativt enkel automatisering kom att bli närmast omöjligt att förklara i domstol, eftersom domarna inte riktigt förstod hur algoritmer fungerar. Här uppkommer ett rättssäkerhetsproblem: medborgare har bevisbördan men saknar ofta möjlighet att förklara komplexa tekniska system, än mindre att faktiskt få ut koden eller algoritmerna. Charlotta anser därför att om AI-utvecklingen accelererar kommer vi att behöva ta ställning till hur bevisbördan ska fördelas och hur domare ska utbildas.

Hur kan vi arbeta för att AI-utveckling sker på ett etiskt och rättvist sätt inom lagens ramar?

Charlotta poängterar här att mycket av det vi kallar AI-utveckling egentligen handlar om hur vi människor förhåller oss till tekniken. Hon säger att själva tekniken i sig är neutral men att den kan användas på mer eller mindre fördomsfulla eller oetiska sätt. Hon efterfrågar därför en tydlig ansvarsfördelning, där man i praktiken ser till att de individer och organisationer som använder AI får stå till svars för hur algoritmerna påverkar enskilda människor. Att vänta sig att tekniken ”själv” tar ansvar är enligt henne ett feltänk, eftersom en algoritm inte har någon egen moralisk kompass.

Hon nämner vikten av öppenhet kring hur besluten fattas. Till exempel kan myndigheter dokumentera vilka avvägningar man gör innan man använder ett visst AI-system. Det blir särskilt viktigt i situationer där det finns risk för integritetsintrång, som inom äldreomsorgen, där så kallad digital nattillsyn via kamera kan både minska kostnader och upplevas som mindre integritetskränkande än att personal fysiskt kliver in i sovrummet. Samtidigt finns juridiska och etiska frågetecken om övervakning. Charlotta betonar att det då behövs en tydlig motivering som visar hur nyttan för äldre vägt tyngre än integritetsriskerna, så att alla parter – inklusive domstolar – i efterhand kan förstå resonemanget och se vad man lagt till grund för beslutet.

Hon understryker också behovet av en ökad kompetens i domstolsväsendet. När man ska utreda missförhållanden som uppstått i AI-system behöver domstolarna veta vad de letar efter, hur en algoritm kan träna upp fördomar eller hur en felkodning leder till orimliga utfall. Ofta är det väldigt svårt för enskilda att visa hur ett AI-baserat myndighetsbeslut blev fel, särskilt om systemet är blackboxat eller hemlighållet. Därför tycker hon att man inte bara ska prata om ny lagstiftning, utan även om hur man ska implementera och tillämpa existerande rättsliga principer på ett nytt sätt.

Vilken typ av lagstiftning tror du behövs för att hantera AI:s snabba utveckling?

Charlotta återkommer till tanken att försöka skriva in alla möjliga scenarier i en separat, strikt AI-lag är en dödfödd idé, eftersom tekniken rusar vidare. I stället rekommenderar hon att man stärker den mer grundläggande rättsliga infrastrukturen, det vill säga hur vi i grunden hanterar automatiserade eller algoritmiska beslutsfattanden, hur man överklagar och hur bevisvärderingen går till när AI är inblandat. Hon exemplifierar detta med Sverige, Holland och England, där automatiserade myndighetsbeslut i flera fall lett till stora skandaler och långvariga orättvisor just för att det inte funnits en självklar juridisk väg att granska de algoritmiska besluten eller ställa någon till svars när tusentals människor drabbats.

AI Act nämner hon särskilt som ett exempel på hur EU försökt gruppera användningsområden utefter risknivå, från lågrisk till så kallade ”unacceptable risk”. Hon ser en poäng i att inte stirra sig blind på detaljer i tekniken utan titta på om ett visst AI-system är skadligt eller kan vara diskriminerande. Men hon påminner om att en sådan riskindelning kan hamna väldigt fel om den inte tillämpas på rätt sätt, och om domarna eller tillsynsmyndigheterna saknar teknisk kunskap kan de få svårt att bedöma hur ett system ska klassificeras. Hon menar att det behövs tydliga men ändå flexibla ramar, annars riskerar man antingen överreglering eller att lagarna blir tandlösa.

Hon tar även upp dilemmat med att vi redan har mycket lagar som berör exempelvis offentlighetsprincip, integritetsskydd och förvaltningsprocesser, men att dessa inte är anpassade för en verklighet där beslut tas av maskiner i miljonupplaga. Att ”klämma in” AI under existerande regelverk kan fungera om man är redo att tolka dessa lagar i en vidare bemärkelse och faktiskt ta hänsyn till de unika problem som uppstår när kod ersätter mänskliga handläggare. Om man inte gör detta riskerar man att få dubbla regelverk där inget av dem fungerar särskilt bra.

Hur kan samarbeten mellan jurister och tekniker bidra till bättre AI-lösningar?

Charlotta anser att ett djupare samarbete tvärs över yrkesgränser är avgörande för att lyckas hitta rätt balans mellan innovation och regeluppfyllelse. Hon säger att ett första steg är att båda grupperna delar ett gemensamt ordförråd. Jurister måste lära sig mer om hur algoritmer, maskininlärning och automatisering faktiskt byggs upp. Det är inte tillräckligt att enbart förlita sig på en teknisk expert som vittnar i domstol; jurister måste förstå de mest grundläggande principerna för att kunna se var risker för fel, diskriminering eller integritetsintrång kan uppstå.

På samma sätt menar hon att tekniker, kodare och utvecklare behöver se bortom den rent tekniska dimensionen och förstå juridiska koncept som rättssäkerhet, bevisbörda och vilka rättigheter den enskilde medborgaren faktiskt har. Hon menar att det är vanligt att tekniker ser jurister som bromsklossar, men att det ofta beror på att jurister kommer in i projekten för sent och med uppdraget att söka risker i stället för att från början vara en integrerad del av designprocessen. Med ett tidigt samarbete hade man kunnat undvika många problem genom att bygga in transparens och flexibilitet från första början.

Charlotta kritiserar också de traditionella arvodesmodellerna där juridisk rådgivning kan bli extremt dyr. Hon anser att vi i framtiden kanske måste se en förändring där jurister är mer tillgängliga och delaktiga på ett djupare plan. Samtidigt bör tekniker acceptera att rättsliga principer inte är till för att hindra nytänkande utan för att skydda medborgare och samhälle från orimlig maktanvändning eller systemfel. Genom att föra samman dessa världar tidigt kan man skapa AI som både är effektiv och rättssäker.

Vilka möjligheter ser du för AI att förbättra transparens och rättvisa inom juridiken?

Charlotta avslutar med att betona att AI i sig kan vara ett kraftfullt verktyg för rättvisa och öppenhet. Det handlar om att digitala system ofta lämnar en spårbarhet, varje steg kan i teorin dokumenteras, och om tekniken används klokt kan det leda till att förutfattade meningar eller korruption minskar. Hon menar att ett automatiserat beslutsfattande faktiskt kan bidra till att färre slumpmässiga misstag uppstår, förutsatt att algoritmerna är rätt konstruerade och används på ett ansvarsfullt sätt.

Men hon varnar för att en övertro på att ”tekniken är neutral” kan leda till farliga konsekvenser. Hon beskriver exempel där algoritmer för att upptäcka fusk eller andra oegentligheter har pekat ut redan utsatta grupper, till exempel ensamstående mödrar, och därmed förstärkt en orättvisa i stället för att motverka den. I Holland hade en liknande algoritm, som dessutom var självlärande, så långtgående effekter att människor förlorade hus och hem utan att förstå hur maskinen kommit fram till sitt beslut. Charlotta menar därför att man måste vara ytterst medveten om att AI inte ”vet” något på egen hand, utan lever på de data, fördomar och förkunskaper som människan matat in i systemet.

Hon framhåller att ett system som är transparent till sin uppbyggnad och där beslutsfattare tillåts (eller tvingas) göra en mänsklig kontroll av algoritmens slutsatser kan skapa bättre, rättvisare beslut. Det kräver att man inte bara litar blint på datorns output utan inser att den mänskliga etiken inte kan programmeras in hur som helst. Hon förklarar att många av de mest omtalade skandalerna inom automatisering härstammar just från att människan lutat sig tillbaka och låtit maskinen sköta allt. Ett bra samspel uppstår i stället när AI kompletterar människan och människan samtidigt är fri att säga nej, ifrågasätta eller göra avsteg.