Hanifeh Khayyeri

Vilka ser du som de viktigaste etiska övervägandena när det gäller utveckling och användning av AI?

Hanifeh menar att en av de absolut viktigaste etiska aspekterna i utvecklingen och användningen av AI är frågan om inkludering. Hon uttrycker en oro över att, trots EU:s fokus på medborgarrättigheter, så tenderar de bredare frågorna om mänskliga rättigheter och global rättvisa att marginaliseras. Det räcker inte, enligt Hanifeh, att enbart säkra individens rättigheter i ett västerländskt, liberalt perspektiv; istället måste man på allvar inkludera frågor om strukturell rättvisa, mångfald och kulturell representation.

För att åstadkomma detta, framhåller hon vikten av att bygga in sunda värdegrunder i AI redan från början, i själva konstruktionen av systemen. Eftersom man vid utvecklingstillfället ofta inte vet exakt vilka tillämpningar teknologin kommer att få, blir det desto viktigare att arbetet vilar på stabila, medvetet valda principer från start. Hanifeh menar att vi idag ser ett akut behov av en sådan förflyttning, men beklagar att teknikutvecklingen historiskt sett saknat en kultur av etisk och filosofisk självreflektion.

Hon beskriver hur tekniska utbildningar traditionellt sett inte har lärt ut vetenskapsfilosofi eller självkritisk reflektion kring teknikens deterministiska natur. Detta har skapat generationer av ingenjörer som är mycket skickliga på att lösa tekniska problem men som saknar verktyg för att förstå de sociala och mänskliga konsekvenserna av sina innovationer. Först nu, när teknikens påverkan på samhälle och individ blivit direkt och ibland skadlig, börjar det bli uppenbart hur brådskande det är att förändra detta.

Hanifeh ser dock en möjlighet till förändring. Hon pekar på hur yngre generationer redan förändrat konsumtionsmönster genom att kräva hållbar produktion och rättvisa arbetsvillkor globalt. På samma sätt tror hon att nästa generation teknikutvecklare, om de får rätt utbildning och verktyg, kommer att kunna integrera ett helt annat förhållningssätt till AI och etik i sitt arbete. Men detta kräver en systematisk omställning i utbildning, företagskultur och samhällelig värdering av teknikens roll.

Hur kan vi säkerställa att AI utvecklas på ett ansvarsfullt sätt för att gynna samhället?

När Hanifeh reflekterar över hur AI kan utvecklas på ett ansvarsfullt sätt, betonar hon vikten av metodik och strukturer som integrerar värdegrundsarbete i varje steg av utvecklingsprocessen. Det handlar inte bara om att formulera principer på policy-nivå, utan om att praktiskt bygga in inkludering, mångfald och respekt för mänskliga rättigheter i kod, data, modeller och användargränssnitt.

Hon ser stora risker med att utvecklingen idag i hög grad styrs av aktörer från en snäv kulturell kontext - främst amerikanska teknikföretag - som tenderar att omedvetet exportera sina egna värderingar till resten av världen. Detta skapar en situation där mindre kulturer och minoriteter riskerar att antingen missförstås eller suddas ut i AI:s sätt att representera verkligheten. Hon tar exemplet med AI:s initiala oförmåga att förstå kulturella begrepp som svensk julskinka och hur sådana kulturella missrepresentationer kan bli systematiska.

Hanifeh understryker att rättigheten till kulturell självbeskrivning är en central komponent i ansvarsfull AI. Minoriteter, urfolk och kulturellt distinkta grupper måste själva få definiera hur deras liv och traditioner skildras av AI. Om inte detta säkerställs riskerar AI att osynliggöra eller feltolka verkligheter och därigenom förstärka existerande ojämlikheter.

Hon varnar också för fenomenet "ethics washing", där företag kommunicerar etiska ambitioner men inte implementerar dem på ett djupgående sätt. Precis som vid greenwashing och genderwashing behövs det därför inte bara externa krav utan också en levande, intern kultur av kritisk reflektion och ansvar inom organisationer. Hanifeh är tydlig med att någon enkel, "magisk lösning" inte finns. Människors kreativitet gör att regler alltid kan kringgås, varför ansvarsfull utveckling måste ses som en kontinuerlig kamp och en process av ständiga förbättringar och korrigeringar.

Vilken roll spelar miljömässiga faktorer i AI-utveckling, och hur kan vi minska AI:s klimatpåverkan?

Hanifeh lyfter att AI-utvecklingens miljöpåverkan är både djupgående och ofta underskattad. AI kräver enorma mängder energi, inte bara under träningsfasen av stora modeller utan också i den dagliga användningen. Den stora energiförlusten, förklarar hon, ligger i själva hårdvaran - särskilt mikroprocessorerna - där så gott som all tillförd energi går förlorad som värme. Hon beskriver detta som "mindblowing": en teknologi mindre energieffektiv än glödlampor.

För att motverka detta krävs, enligt Hanifeh, ett arbete på alla nivåer av AI-stackens utveckling. Hon beskriver hur man på RISE arbetar med att utveckla mindre och energieffektivare modeller och att rätt storlek på modellen måste anpassas till syftet -man bör inte använda enorma modeller för små problem. Men hon betonar också att det inte räcker med att effektivisera algoritmer och applikationer: hela infrastrukturen kring AI, från datacenter till elnät och kylsystem, måste optimeras.

Hon ser dessutom att Sverige har särskilt goda möjligheter att bli ett föregångsland, tack vare kallt klimat och en hög andel förnybar energi. Men Hanifeh varnar för en alltför ensidig satsning på tillämpning av importerad teknik. Sverige har kompetens längs hela AI-stacken, och för att bevara vår teknologiska rådighet måste vi också investera i forskning och utveckling, även där vi idag bara har små, nischade expertgrupper. Hon menar att det är avgörande att värna om denna kompetens, även om den ännu inte utgör en "kritisk massa", för att säkra oberoende och hållbarhet på lång sikt.

Vilka utmaningar ser du när det gäller att införa globala riktlinjer för AI?

Hanifeh framhåller att införandet av globala riktlinjer för AI är förenat med mycket stora svårigheter. Den kanske största utmaningen ligger i att världens stora maktblock - USA, Kina och EU - har fundamentalt olika syn på vad som är viktigt i AI-reglering. USA tenderar att prioritera företagens frihet och innovation, Kina fokuserar på statlig kontroll och övervakning, medan EU lägger tonvikten på individens rättigheter och integritet.

Dessa modeller står i direkt konflikt med varandra, vilket gör att det, enligt Hanifeh, är osannolikt att en global konsensus kan uppnås genom regionala initiativ. Istället menar hon att arbetet måste ske på FN-nivå, där världen redan har en gemensam plattform i form av konventioner om mänskliga rättigheter.

Hon argumenterar för att vi bör utgå från dessa gemensamma principer, och därefter tolka och tillämpa dem på AI:s utveckling och användning. Istället för att försöka reglera tekniken utifrån dess nuvarande kapaciteter, som ändå förändras mycket snabbt, bör vi ankra regleringen i grundläggande värden som är mer stabila över tid. Hanifeh framhåller att detta angreppssätt också skulle bidra till att framtidssäkra regleringen, eftersom det är värdena - och inte teknologins specifika egenskaper - som står i centrum.

Hur ser du AI:s framtida roll när det gäller att påverka samhälleliga strukturer och värderingar?

När Hanifeh blickar framåt ser hon AI som en kraft som i grunden kan påverka hur våra samhällen och värderingar utvecklas. Hon understryker att för att AI ska kunna vara en positiv kraft måste det bygga in möjligheten för olika röster, särskilt minoriteters, att få existera och höras. I dagens digitala plattformar, styrda av algoritmer som förstärker engagemang och polarisering, finns inte den möjligheten i tillräcklig utsträckning.

Hon uttrycker en oro över att AI kan förstärka existerande ojämlikheter och osynliggöra marginaliserade perspektiv om vi inte medvetet designar systemen för mångfald, kontextförståelse och inkludering. I en framtid där AI kan hjälpa människor att förstå varandras bakgrunder och kulturella sammanhang istället för att splittra dem, ser Hanifeh en enorm potential.

Samtidigt är hon medveten om risken att skadliga eller destruktiva värderingar också kan få utrymme. Därför behövs en medveten dialog om demokrati, yttrandefrihet och gränsdragning: att alla åsikter får finnas, men att algoritmer inte ska förstärka extremism eller polarisering. Istället bör incitamenten i våra digitala plattformar främja tolkning, brobyggande och ökad förståelse över kulturella gränser.

Hon avslutar med att lyfta en särskild framtidsutmaning: hur vi kan skapa AI-system som är dynamiska och kontinuerligt anpassar sig till förändrade samhälleliga kontexter, utan att frysa fast i en föråldrad bild av verkligheten. En AI som är medveten om tidens gång, om historiska sammanhang och om hur samhällen utvecklas över tid, skulle kunna vara en verklig resurs för mänskligheten.