Linnea Stenliden

Vilka ser du som de viktigaste etiska övervägandena när det gäller utveckling och användning av AI?

Linnea menar att den mest grundläggande etiska frågan kring artificiell intelligens handlar om hur vi vill forma oss själva som människor i en tid när AI blir alltmer närvarande. Hon säger att tidigare tekniska omvälvningar, som övergången från muntlig till skriven kultur och införandet av boktryckarkonsten, dramatiskt förändrade vilka förmågor vi bevarade och vilka vi lät försvinna. Hon anser att vi just nu är mitt uppe i ännu ett sådant paradigmskifte där AI på sikt kan ta över vissa delar av vårt tänkande. Detta väcker etiska dilemman som rör vad vi vill behålla som genuint mänskligt och hur vi på längre sikt vill definiera oss som art. Hon betonar att vi fortfarande är i ett kritiskt skede där valen vi gör idag får avgörande konsekvenser för hur mänskligheten utvecklas. Hon ser det inte bara som en fråga om hur ett klassrum ska utformas eller hur man bäst hanterar teknik i undervisningen, utan mer övergripande om vilka slags färdigheter och värderingar vi anser vara värda att vårda och vidareutveckla i en framtid som blir alltmer beroende av AI-system.

Hon tar också upp vikten av att förstå AI i förhållande till våra mänskliga egenskaper. Om vi överlåter för mycket av vårt tänkande och våra kognitiva processer till AI kan vi förlora viktiga förmågor. Hon ger exemplet med skriftspråket som en gång i historien förändrade vår muntliga berättartradition och vårt sätt att minnas saker. På liknande sätt, menar hon, kan AI nu inverka på hur vi strukturerar vårt tänkande och på sikt även förändra vår syn på utbildning och lärande. Den stora etiska frågan blir hur vi vill balansera nytta och bekvämlighet med att bevara och stärka sådant som gör oss mänskliga, exempelvis kritiskt tänkande och självständig kreativitet.

Hur kan vi säkerställa att AI utvecklas på ett ansvarsfullt sätt för att gynna samhället?

Linnea tycker att en viktig nyckel till ansvarsfull AI-utveckling är utbildning och djupare medvetenhet hos alla i samhället. Hon säger att förskolebarn, högstadieelever, yrkesverksamma vuxna och alla som verkar i utbildningssektorn behöver skaffa sig grundläggande kunskaper om AI. Hon betonar att man inte måste bli expert på neurala nätverk men att en förståelse för hur generativa AI-modeller fungerar är nödvändig om vi ska kunna förhålla oss ansvarsfullt till de nya verktygen. Hon lyfter vikten av att diskutera frågor som rör AI:s funktion och tekniska förutsättningar för att samtidigt kunna greppa dess konsekvenser för människors liv, oavsett om det gäller barn och ungdomar i skolan eller vuxna i arbetslivet.

Hon förklarar att den makt de stora teknikjättarna har är svår att utmana genom rena regelverk, och därför behövs det en slags gräsrotsrörelse av kunniga användare som både är medvetna om vad AI kan göra och hur det fungerar i praktiken. Genom att fler förstår tekniken minskar risken för att våra liv styrs av algoritmer vi inte har någon insyn i. Samhällets förmåga att hantera och kanalisera AI på ett sätt som verkligen kommer fler till nytta, menar hon, bygger i grunden på att individen är kompetent nog att granska och kritiskt värdera de lösningar som tekniken erbjuder. Hon understryker att vi måste diskutera vilka mänskliga värden vi vill behålla och vilka arbetsuppgifter eller kreativa processer som bör förbli våra egna, snarare än något vi helt överlåter åt AI.

Vilken roll spelar miljömässiga faktorer i AI-utveckling, och hur kan vi minska AI:s klimatpåverkan?

Linnea anser att miljöaspekterna hänger nära samman med våra vanor kring teknikanvändning. Hon menar att vi ofta bara genererar nya bilder, texter och data för skojs skull eller för minsta uppgift, utan att reflektera över hur energikrävande det är att träna och driva stora AI-modeller. Hon jämför med hur vi tidigare använt plastpåsar utan att tänka på konsekvenserna och menar att samma slags vardagstänk också måste appliceras på AI. Hon nämner att vissa forskare kallar den ohämmade digitala produktionen för “digital plastic” eftersom den riskerar att förstöra vår miljö på ett subtilt men kraftfullt sätt. Linnea framhåller att det krävs en bred medvetenhet om miljöbelastningen för att vi ska använda AI mer selektivt och inte bara för att det går.

Hon kopplar detta tillbaka till de stora valen om vad vi vill att AI ska användas till. Om vi verkligen vill att AI ska gynna samhället kan det finnas starka argument för att använda tekniken i sådana sammanhang som leder till samhällsnytta och resurseffektivitet, exempelvis inom medicinsk forskning eller klimatforskning, i stället för att låta den bli en form av ständig bakgrundskörning där vi tanklöst genererar mer digital information än vi egentligen behöver. För henne handlar det om att uppnå en mer ansvarsfull och balanserad användning som sätter människa och miljö i fokus, snarare än att ständigt låta entusiasm för nya funktioner ta överhand.

Vilka utmaningar ser du när det gäller att införa globala riktlinjer för AI?

Linnea påpekar att det redan finns initiativ som EU:s AI Act, men att global samsyn ändå är svår att åstadkomma eftersom olika delar av världen har vitt skilda förutsättningar och synsätt. Hon beskriver hur hon själv vistats i Kina och sett att landet på många sätt ligger mycket långt framme i att använda AI, exempelvis i utbildningssammanhang. Samtidigt betonar hon att Kinas acceptans för övervakning av individen skiljer sig drastiskt från hur vi i Europa eller Sverige ser på människans fri- och rättigheter. Hon menar att det går att förstå hur Kina kunde ställa om utbildningssystemet så snabbt under pandemin, men hon betonar också riskerna i ett samhälle där staten har så mycket makt över tekniken.

Hon säger att den typen av olikheter skapar stora utmaningar när man försöker införa globala regelverk. Hon ser en risk att regelverk i olika länder och regioner kommer bli väldigt olika, vilket i sin tur kan försvåra samarbeten men också skapa nya etiska gränsdragningar kring AI-användning. För Linnea är detta en fråga om kulturkrockar på global nivå, där synen på övervakning, personlig integritet och statens roll skiljer sig så pass mycket att en helt enig riktlinje kanske inte är möjlig. Hon tycker därför att man bör medvetandegöra hur komplext det faktiskt är att skapa en enhetlig policy när olika aktörer har så olika värdesystem och olika drivkrafter för hur AI ska användas.

Hur ser du AI:s framtida roll när det gäller att påverka samhälleliga strukturer och värderingar?

Linnea betonar att vi inte kommer att kunna “bestämma” allt i en enda stor konferens, utan att vår framtid med AI är en långsam och successiv process där vi kontinuerligt måste reflektera. Hon anser att AI bär på en stor potential att hjälpa oss att analysera enorma datamängder, till exempel för att göra medicinska framsteg eller ta fram lösningar på klimatproblem. Men hon framhåller också att AI kan förstärka redan existerande maktstrukturer, skapa nya ojämlikheter eller övervaka människor på ett sätt som går på tvärs med grundläggande demokratiska principer.

Hon förklarar att ju bättre tekniken fungerar, desto svårare blir det för oss att hålla kvar en kritisk distans, eftersom vi människor ofta litar på lösningar som upplevs som smidiga eller verkar fördelaktiga. Hon jämför utvecklingen med hur Facebook började som en plattform för att hålla kontakten med vänner och familj men sedan visat sig vara en enorm reklammaskin som samlar in data om användarna. På samma sätt tror hon att AI-applikationer kommer att smälta in i vardagen så mycket att vi inte längre ifrågasätter dem. Samtidigt menar hon att just denna lockelse och glidande acceptans är det som gör att vi måste vara extra uppmärksamma. Hon säger att många inte känner till vad AGI (artificiell generell intelligens) faktiskt innebär och att det därför finns en risk att vi står oförberedda den dag tekniken plötsligt går in i ett läge där den kan agera med större autonomi än någon AI hittills kunnat göra.

Hon sammanfattar sin syn på framtiden genom att säga att det både är fascinerande och skrämmande hur snabbt utvecklingen sker. Hon återkommer till att valet ligger hos oss människor att definiera och reglera hur AI ska användas och integreras i vår vardag, men att vi måste ta beslut baserade på verklig kunskap om vad AI kan göra och vad vi vill med den. Hon lyfter att vi måste förstå tekniken för att kunna navigera ansvarsfullt. På så sätt kan vi också skapa ett samhälle där AI bidrar till en positiv utveckling, samtidigt som vi vårdar det som gör oss till människor och bevarar sådana förmågor och värderingar som vi inte vill förlora.