Stella Riad

Vilka ser du som de viktigaste etiska övervägandena när det gäller utveckling och användning av AI?

Stella förklarar att de etiska övervägandena varierar beroende på vilken typ av AI-modell det handlar om. Ett av de mest framträdande och omdiskuterade problemen är förekomsten av olika former av bias i data, vilket påverkar alla modeller. Hon betonar att det i princip är omöjligt att konstruera en AI-modell som inte innehåller någon form av skevhet.

När det gäller mer traditionella AI-modeller, såsom maskininlärning, kanske de inte är uppenbart diskriminerande på samma sätt som generativa modeller. I industriella system kan det handla mer om felaktigheter som inte nödvändigtvis orsakar samma typ av etisk skada. Däremot blir det med generativa modeller väldigt tydligt att de lär sig våra mänskliga fördomar och ibland till och med förstärker dem.

Stella understryker vikten av att överväga dessa aspekter både vid utveckling och användning av AI. Vid utveckling är det avgörande att noggrant välja data och metoder för att minimera skevheter. Vid användning och implementering av AI, särskilt språkmodeller som nu används alltmer, är det viktigt att vara medveten om vad tekniken faktiskt kan innebära och vad som finns "under huven".

Hon lyfter också fram frågan om det är etiskt försvarbart att inte använda de bästa AI-modellerna i vissa sammanhang. Ibland kan människor vara mer fördomsfulla och dra felaktiga slutsatser än AI-modeller. Inom sjukvården, till exempel, kan AI-stöd förbättra utfallet för patienter, och att avstå från att använda sådan teknik kan därför vara oetiskt.

Vidare diskuterar Stella komplexiteten i att hantera modeller som kan ha flera användningsområden. Hur reglerar man det faktum att modeller som kan användas för att göra gott också kan användas för att göra ont? Hon understryker att svaret inte är att reglera bort allting, men att inte reglera alls är också oansvarigt. Det är viktigt att belysa dessa frågor, då de utgör en hel rad etiskt komplexa problem.

Hon betonar att etiken går åt båda håll och att man måste hitta en pragmatisk mellanväg. Att inte använda AI är enligt henne ännu mindre försvarbart än att använda den, trots riskerna. Därför måste vi använda AI medvetet och vara medvetna om de risker och avvägningar som tekniken medför.

Stella reflekterar också över de begränsningar som stora företag som OpenAI sätter upp för sina modeller. Dessa begränsningar styrs ofta av företagens egna bias och värderingar, ofta baserade på amerikanska normer, vilket kan vara problematiskt i en svensk kontext. Ämnen som inte alls är problematiska i Sverige behandlas som sådana eftersom de inte passar in i en amerikansk kontext.

Hon anser att detta visar på behovet av att utveckla nationella modeller som har kulturella värden inbakade. Även om modeller som GPT-4 är mycket bra på svenska, saknar de den svenska kulturella kontexten. Vi luras att tro att de förstår den svenska kontexten eftersom de pratar svenska som låter helt trovärdig, men de är inte svenska modeller. Detta understryker vikten av att modellerna inte bara behärskar språket, utan också förstår de värderingar och det samhälle de verkar inom.

Hur kan vi säkerställa att AI utvecklas på ett ansvarsfullt sätt för att gynna samhället?

Stella konstaterar att det är omöjligt att helt säkerställa att AI utvecklas på ett ansvarsfullt sätt, men man kan åtminstone försöka uppmuntra detta. Hon tror starkt på nationella initiativ och anser att det är viktigt att värna om sin egen kultur och sitt eget språk även inom AI-utvecklingen.

Hon menar att när företag utvecklar AI styrs de ofta av kommersiella syften, vilket kan leda till dolda aspekter som är svåra att hantera. Därför behöver staten se till att AI utvecklas som annars inte skulle ha skapats, särskilt för offentlig sektor och som beslutsstöd. Hon erkänner att det är extremt dyrt att utveckla generativa modeller, men påpekar att man inte behöver utveckla all AI utan kan fokusera på det som är viktigast.

Stella diskuterar AI-förordningen och noterar att den har fått mycket kritik, särskilt från teknikentusiaster som menar att den hindrar utvecklingen och gör att Europa halkar efter. Hon håller dock inte med om denna kritik och tror att vi måste reglera AI. Det handlar om att hitta en balans, även om lagtexten inte alltid träffar helt rätt. Hon påpekar att utvecklingen av lagar och AI sker i olika tempo, vilket gör det svårt att få systemen att fungera tillsammans.

För att hantera dessa utmaningar föreslår Stella att man inkluderar personer med etiskt perspektiv i utvecklingsprocessen. På hennes arbetsplats har de arbetat på det sättet, och det har visat sig vara fruktbart. Etiker och jurister har sitt sätt att se på världen, medan datavetare har en annan syn. Genom att låta dessa grupper arbeta tillsammans kan man hitta nya lösningar som blir bättre för människor.

Hon betonar vikten av att inte bara fokusera på de tekniska aspekterna utan också ta hänsyn till de etiska och juridiska perspektiven. Detta interdisziplinära samarbete kan bidra till att AI utvecklas på ett sätt som gynnar samhället och är ansvarsfullt.

Vilken roll spelar miljömässiga faktorer i AI-utveckling, och hur kan vi minska AI:s klimatpåverkan?

Stella uttrycker oro över AI:s miljöpåverkan och menar att resursbrist sannolikt kommer att bli en begränsande faktor för språkmodellernas spridning. Hon frågar sig om detta kommer att bero på ekonomiska faktorer, såsom kostnaden för resurser, eller på att någon faktiskt har samvete nog att stoppa utvecklingen.

Hon beskriver dagens AI-system som beroende av stora ekonomiska investeringar från andra håll och menar att AI:n ännu inte genererar värde på egen hand. Hon tror att ekonomiska begränsningar snarare än miljöhänsyn kommer att sätta gränser för klimatpåverkan. Även om klimatavtrycket för de stora modellerna är enormt, är det fortfarande oklart exakt hur stort det är, och detta uppmärksammas inte tillräckligt.

Stella tror att det kommer att ske en teknisk utveckling där pendeln svänger från att skapa större och större modeller till att designa mindre, mer nischade modeller. Dessa mindre modeller kan ha en mer specifik uppgift och kräver mindre energi och resurser. Hon förespråkar att vi använder rätt verktyg för rätt ändamål och varnar för att förlita oss för mycket på stora generativa modeller.

Det är viktigt att komma ihåg att AI är mycket mer än språkmodeller och att datavetenskapen i sin helhet är bredare än bara AI. Det finns en mängd tekniker och metoder som är underutnyttjade och som kan bidra till att minska AI:s klimatpåverkan om de används på rätt sätt.

Vilka utmaningar ser du när det gäller att införa globala riktlinjer för AI?

Stella är skeptisk till möjligheten att införa globala riktlinjer för AI. Hon menar att det är mycket svårt att implementera sådana riktlinjer på grund av flera faktorer. En av de stora utmaningarna är att den snabba tekniska utvecklingen gör det otroligt komplicerat att införa globala riktlinjer. Vi klarar inte ens att reglera på liten skala eftersom vi inte vet vilka riktlinjer vi ska sätta upp.

Hon påpekar också att vi inte har samma etiska principer över hela världen, vilket gör det ännu svårare att skapa globala lösningar. Detta gör att uppgiften att införa globala riktlinjer blir näst intill omöjlig. Det bästa man kan göra är att försöka införa riktlinjer där det är möjligt och att föra diskussionen vidare för att inte tappa de etiska frågorna ur sikte.

Stella betonar att tekniken är en försvårande faktor på grund av dess snabba utveckling, men att det i grund och botten är människor som sätter käppar i hjulet. Skillnader i kulturella och juridiska system gör globala riktlinjer ännu svårare att implementera.

Hur ser du AI:s framtida roll när det gäller att påverka samhälleliga strukturer och värderingar?

Stella uttrycker oro över att AI kan leda till en likriktning av åsikter och uttryck, vilket kan minska mänsklig kreativitet och variation. Hon tycker att det är tråkigt med AI-genererad text och menar att det mänskliga handlaget förloras i en värld där alltmer innehåll genereras av AI.

Hon påpekar att i många fall är det praktiskt att använda AI-genererad text, särskilt för innehåll där det inte spelar någon roll om det är AI-genererat eller inte. Men i områden där mänsklig kreativitet spelar en viktig roll vill man inte ha AI-genererat innehåll. Detta måste påverka oss som människor, särskilt när vi exponeras för innehåll från några få källor eller modeller.

Stella tror dock att pendeln kommer att svänga, eftersom människor efter ett tag söker efter det mänskliga och unika. Vi måste hitta ett sätt att lyfta fram människan i en värld där AI tar allt större plats. Hon menar att AI bör användas för att effektivisera sådant som är tråkigt eller ointressant, men att vi samtidigt måste värna om mänskliga drivkrafter och engagemang.

Hon anser att det inte finns något egenvärde i att använda AI för att generera konst eller andra kreativa uttryck som människor tycker om att skapa. Det är viktigt att vi inte gör oss av med sådant som är meningsfullt för oss.

På en mer positiv not menar Stella att AI, om det distribueras på ett klokt sätt, kan vara ett verktyg för demokrati. Genom att ge människor samma förutsättningar och möjligheter kan AI bidra till att jämna ut skillnader, exempelvis genom att fungera som en privatlärare.

Hon understryker dock att det gäller att använda AI klokt och att vi måste vara försiktiga med hur tekniken påverkar våra samhällsstrukturer och värderingar. Vi kommer att se att AI har stor påverkan, men det är svårt att förutse hur omvälvande det blir för samhället.

Stella avslutar med att säga att hon inte är orolig för AI på en daglig basis. Hon tror att vi är ganska långt ifrån en situation där mänskligheten dör ut på grund av AI.