Linn Alfredsson

Vilka juridiska frågor tycker du är mest relevanta när det gäller AI-utveckling och användning?

Linn inleder med att betona hur viktigt det är att börja med transparens när man diskuterar juridiska frågor kring AI. Hon menar att en av de största utmaningarna för rättssäkerheten är när det inte går att förklara hur en AI har kommit fram till sin lösning. Om användare eller beslutsfattare inte förstår den så kallade black box-modellen, kan det undermina förtroendet för tekniken. Linn anser därför att förklarbarhet – att kunna spåra och redogöra för beslutsprocessen i en AI – är helt avgörande. Hon säger att när samhället får insikt i hur algoritmen tänker blir det också tydligare var ansvaret ska ligga om något går fel.

Linn menar vidare att bias och rättvisa är djupt juridiska frågor, eftersom snedvriden data eller historiskt partiska mönster kan generera felaktiga eller diskriminerande resultat. Ett typiskt exempel är rekryterings-AI som skapar oönskade effekter för vissa grupper, eller ansiktsigenkänning som fungerar dåligt för personer med en viss hudfärg. Linn understryker hur centralt det är att upptäcka och neutralisera dessa problem genom att kartlägga träningsdata och anpassa algoritmerna. Hon påpekar också att en ”human in the loop” ofta fyller en viktig funktion. En människa som granskar AI:ns beslut kan stoppa orimliga slutsatser innan de får allvarliga konsekvenser.

Dessutom lyfter Linn ansvarsfrågan som ett kärnområde. Vem är juridiskt ansvarig om en AI-beräkning leder till en skadlig situation, exempelvis inom sjukvård eller finansiell rådgivning? Linn menar att det kan röra sig om både civilrättsligt och straffrättsligt ansvar, beroende på vad AI:n gör och vilka skador som uppstår. Hon betonar att man måste ha tydliga policyer och interna styrdokument, särskilt om AI får en alltmer autonom roll. För Linn är även graden av mänsklig kontroll avgörande: ju mer AI:n kan fatta egna beslut, desto mer pressas juridiken att besvara frågan om vem som bör hållas skyldig när något går snett.

Hur kan vi arbeta för att AI-utveckling sker på ett etiskt och rättvist sätt inom lagens ramar?

Linn menar att det första steget är att känna till och följa de regelverk som redan finns, som till exempel dataskyddsregler (exempelvis GDPR) och kommande eller nyligen införda EU-direktiv som rör AI. Hon framhåller att AI Act i EU är särskilt relevant för alla som bygger eller använder AI-lösningar, eftersom den delar in AI-produkter i olika risknivåer och sätter tydliga krav beroende på kategori. Här blir det, enligt Linn, mycket viktigt att företag eller organisationer noga analyserar vilken riskklass deras lösning hamnar i, så att de kan följa regelverket rätt från början.

Linn menar också att ”ethics by design” och ”fairness by design” fungerar som en parallell eller förlängning av ”privacy by design”. Det innebär att man redan vid planeringen av en AI-tjänst försöker förutse och motverka möjliga etiska och rättsliga problem. Man söker systematiskt efter partisk data, ser till att algoritmen är förklarbar och bygger in mekanismer för att upptäcka fel eller brister. Linn anser att detta är betydligt mer effektivt än att försöka lappa och laga i efterhand.

Hon poängterar dessutom vikten av utbildning och ökad AI-kompetens i samhället. Linn hänvisar till en bestämmelse i överförordningar som kan komma att kräva ökad ”AI literacy” hos både anställda och allmänheten. Ju mer människor förstår om AI, desto större blir möjligheten att reagera på och korrigera om tekniken skapar orättvisa resultat eller får för stor makt. Linn anser att även skolor, universitet och arbetsgivare bör ta ansvar för att höja kunskapsnivån.

Vilken typ av lagstiftning tror du behövs för att hantera AI:s snabba utveckling?

Linn betonar att EU har inlett en bred satsning på digital lagstiftning, ofta benämnd ”the digital decade”, där AI-lagstiftning är en central komponent. Förutom AI Act nämner hon att det finns andra lagar, som DSA och DMA, som kompletterar den övergripande hanteringen av digitala tjänster, marknader och plattformar. En viktig fråga för Linn är att lagstiftningsprocessen tar lång tid, medan teknikutvecklingen rusar fram. AI kan dessutom bli alltmer avancerad, vilket gör att det inte alltid är möjligt att på förhand skapa heltäckande regler för hur nya modeller eller tekniker får användas.

Linn säger att tekniken därför bör regleras mer utifrån användning och risknivå än efter specifik algoritmdesign. Hon menar att AI är unikt eftersom det i vissa fall inte finns en direkt människa bakom varje beslut, och att detta öppnar för situationer där man inte hittar en tydlig ansvarig part. Som exempel tar hon upp AI-styrda system som kan fungera utan mänsklig inblandning eller blockchain-baserade lösningar som enbart administreras av smarta kontrakt och algoritmer. Linn förklarar att det i praktiken kan bli svårt att stämma en juridisk person om systemet i fråga inte har en definierad ägare eller driftansvarig.

Hur kan samarbeten mellan jurister och tekniker bidra till bättre AI-lösningar?

Enligt Linn är samspelet mellan jurister och tekniker helt centralt. Hon förklarar att om jurister får insyn i tekniken för sent, riskerar hela projektet att behöva ändras, för att juridiska aspekter inte varit med i planeringen. Samtidigt behöver tekniker vägledning om vilka lagar som gäller, så de vet vad de bör undvika, vilka samtycken som krävs och vilka risker som kan uppstå. Linn poängterar att en tät dialog tidigt kan bespara organisationer mycket krångel senare.

Hon nämner också möjligheten att arbeta i en sandbox-miljö, där lösningar testas i liten skala innan man lanserar dem skarpt. På så vis kan man upptäcka om det finns problem med integritet, ansvar eller diskriminering innan tekniken får större spridning. Linn framhåller att det dessutom är mycket värt att ha personer med dubbel kompetens, till exempel en risk manager eller compliance manager som både förstår de juridiska ramarna och kan prata med tekniker på deras eget språk. Hon menar att detta ofta leder till mer innovativa och samtidigt säkra AI-lösningar.

Vilka möjligheter ser du för AI att förbättra transparens och rättvisa inom juridiken?

Linn menar att AI i grunden är ett effektivt verktyg som kan hjälpa till att analysera stora informationsmängder och hitta mönster som är svåra för människor att upptäcka. Hon menar att detta har en enorm potential även inom juridiken, där det kan handla om att identifiera korrupta transaktioner, upptäcka bedrägerier eller ta fram fakta till stöd för ett rättsfall på ett snabbare och mer heltäckande sätt än en människa kan göra manuellt.

Linn hävdar vidare att Explainable AI är ett sätt att stärka transparensen. Hon säger att om modeller kan förklara stegen i sin beslutsprocess, blir det lättare för jurister och allmänhet att förstå och ifrågasätta hur ett visst beslut har kommit till. En AI som bara lämnar ett resultat, utan möjlighet att granska logiken bakom, riskerar att motverka rättvisa, eftersom det inte går att protestera mot eller överpröva en dold algoritm. Linn menar därför att utvecklingen av förklarbara modeller är särskilt spännande inom just juridiska tillämpningar.

Dessutom ser hon hur AI kan öka rättssäkerheten genom att flagga för relevanta lagar och föreskrifter i enskilda ärenden eller genom att erbjuda stöd till myndigheter och domstolar i att snabbt ta fram bevismaterial och underlag. Linn menar dock att tekniken i sig inte är någon garanti för rättvisa – systemet måste utformas, tränas och implementeras på ett sätt som inte reproducerar historiska orättvisor, och det måste finnas tydliga regler för var, när och hur AI-baserade beslut fattas.