Sarah Karlsson

Vilka ser du som de viktigaste etiska övervägandena när det gäller utveckling och användning av AI?

Sarah anser att de viktigaste etiska övervägandena framträder först när en AI-lösning implementeras och möter användarna, oavsett om det är lärare, elever eller intern personal. Hon betonar att det är i interaktionen med användaren som man upptäcker om tekniken verkligen skapar värde och vilka etiska frågor som uppstår. En central aspekt är informationssäkerhet och integritet. Det är avgörande att användarna känner sig trygga och att deras personliga uppgifter inte lämnas ut eller hanteras på ett olämpligt sätt.

Hon påpekar att inom myndigheter finns det särskilda utmaningar, såsom att avgöra om en chattkonversation utgör en allmän handling och hur detta påverkar informationssäkerheten. Sarah uttrycker också oro för unga användare av AI. Medan professionella som lärare har kompetensen att kritiskt granska och förstå AI:s svar, kan barn och ungdomar vara mer sårbara för negativa effekter. Det finns en risk att AI kan ge svar som påverkar deras självbild eller leder dem i fel riktning. Därför menar hon att det är viktigt att vara försiktig och kanske undvika att testa AI direkt på barn i de tidiga stadierna av utvecklingen. Att testa och lära sig av tekniken är viktigt, men det måste ske på ett säkert sätt.

Hur kan vi säkerställa att AI utvecklas på ett ansvarsfullt sätt för att gynna samhället?

För att AI ska utvecklas ansvarsfullt och gynna samhället anser Sarah att det krävs en grundläggande god människosyn hos utvecklarna. Hon framhåller att detta är en komplex fråga eftersom definitionen av en god människosyn kan variera mellan individer och kulturer. Det är viktigt att engagera sig i djupgående diskussioner om vad utbildning, kunskap och lärande innebär. Trots att samhället är stressigt och tidspressat, betonar hon vikten av att ta sig tid att reflektera över dessa filosofiska frågor och att lyssna på perspektiv utanför den egna organisationen eller landet.

Sarah betonar också vikten av mångfald inom AI-utvecklingsteam. Genom att inkludera fler kvinnor och personer med olika bakgrunder kan man bättre förstå och adressera de behov och utmaningar som olika användargrupper har. Hon påpekar att om man inte förstår sin målgrupp, riskerar man att utveckla produkter som inte möter deras behov. Inkludering av kvinnor i utvecklingsprocessen är särskilt viktigt för att säkerställa att AI-lösningar är relevanta och användbara för dem.

Vilken roll spelar miljömässiga faktorer i AI-utveckling, och hur kan vi minska AI:s klimatpåverkan?

Miljömässiga faktorer spelar en betydande roll i AI-utveckling enligt Sarah. Hon beskriver hur hennes team alltid inkluderar en person som fokuserar på miljö- och hållbarhetsfrågor för att säkerställa att dessa aspekter integreras från början i varje projekt. Genom att arbeta tvärfunktionellt och samla olika kompetenser kan man fatta mer hållbara beslut och se till att miljöaspekter inte förbises.

För att minska AI:s klimatpåverkan diskuterar Sarah idéer om att begränsa användningen av AI-tjänster. Hon nämner konceptet att införa kvoter för hur mycket tid en person kan spendera med en AI-chatbot, inspirerat av trafikregler i Bogotá där bilar med vissa registreringsskyltar endast får köra vid specifika tider. Genom att begränsa överanvändning kan man minska energiförbrukningen och därmed klimatpåverkan. Sarah hoppas att AI ska bidra till att människor får mer tid för aktiviteter som främjar välbefinnande, som att umgås med familj eller vara ute i naturen, snarare än att öka skärmtiden och stressen.

Vilka utmaningar ser du när det gäller att införa globala riktlinjer för AI?

Sarah ser flera utmaningar med att införa globala riktlinjer för AI. Hon påpekar att även om det vore idealiskt att nå global enighet, är verkligheten att världen inte är överens på många områden. Juridiska och informationssäkerhetsaspekter varierar kraftigt mellan länder, vilket gör det svårt att skapa enhetliga globala regler. Frågor som var data lagras och hur allmänna handlingar definieras kan skapa komplexitet när man försöker implementera globala riktlinjer.

Hon jämför situationen med internet, där ambitioner om globala regler ofta har stött på hinder på grund av nationella lagar och infrastrukturella skillnader. Med AI kan dessa utmaningar vara ännu större, eftersom tekniken är så pass ny och utvecklas snabbt. Sarah föreslår att det kanske är mer realistiskt att fokusera på nationella policies eller överenskommelser på regional nivå, snarare än att försöka införa globala regler. Det är viktigt att ta hänsyn till lokala juridiska förutsättningar och kulturella skillnader när man utvecklar riktlinjer för AI.

Hur ser du AI:s framtida roll när det gäller att påverka samhälleliga strukturer och värderingar?

Sarah ser en stor potential i AI att positivt påverka samhälleliga strukturer och värderingar. Hon är entusiastisk över möjligheten att AI kan gå från att vara en assistent till att faktiskt utföra uppgifter autonomt, vilket kan frigöra tid för människor. Detta är särskilt betydelsefullt för kvinnor, som ofta balanserar karriär med ansvar i hemmet och kan uppleva hög stress. Genom att AI tar över vissa uppgifter kan kvinnor få mer tid för familj, personlig utveckling och välbefinnande.

Hon understryker att för att maximera denna positiva inverkan måste kvinnor vara delaktiga i AI-utvecklingen. Utan deras perspektiv riskerar man att utveckla lösningar som inte fullt ut adresserar deras behov eller utmaningar. Sarah betonar vikten av att använda designdrivna arbetssätt där man testar och förstår om en lösning verkligen hjälper den tänkta användaren. Genom att verkligen förstå problemet kan man utveckla mer effektiva och relevanta AI-lösningar.

Sarah anser också att fokus bör ligga på effekten av AI snarare än på tekniken i sig. Hon menar att det är viktigt att kommunicera vilken nytta AI kan ha i människors liv, exempelvis genom att lösa vardagsproblem eller förbättra livskvaliteten. Genom att presentera AI på ett sätt som är relaterbart och fokuserar på värdeskapande kan man öka intresset och engagemanget, särskilt bland dem som kanske inte är tekniskt inriktade.

Hon avslutar med att understryka att det handlar mycket om kommunikation. För att fler ska börja använda och dra nytta av AI måste man visa hur tekniken kan hjälpa dem specifikt. Om man enbart pratar om tekniken riskerar man att alienera dem som inte ser sig själva som tekniska. Genom att fokusera på praktiska fördelar och hur AI kan integreras i människors vardag kan man främja en bredare acceptans och användning av tekniken.