Kristina Knaving

Vilka ser du som de viktigaste etiska övervägandena när det gäller utveckling och användning av AI?

Kristina återkommer ständigt till tanken om etik som ett hantverk lika vardagligt som att hålla rent i ett kök: det handlar inte om storslagna teorier utan om att ställa trösklar, sätta upp vägskyltar och skura golvet så fort någon spiller. Det syns i hennes favoritmetafor med bilen, där hon noggrant följer historien från 1900-talets blodiga olyckstal, via säkerhetsbältets sena genombrott, till dagens trafikmiljö där vägingenjörer räknar millimeter på räcken för att absorbera energi. Poängen är att tekniken och samhället växer ihop i lager på lager: först ett bälte, sedan en krockzon, därefter krav på körkort, därefter en akutmottagning som alltid är bemannad. När hon talar om AI lyfter hon därför både det innersta lagret – kodens buggar, träningens bias, språkmodellens hallucinationer – och de yttre ringarna: försäkringssystem som betalar rehabilitering när något går fel, skolans uppdrag att undervisa i prompt-kritik, och kulturens behov av att hålla liv i mänsklig imperfektion så att ideal­polerade algoritmer inte gör oss oanständigt rädda för det skeva och obegripliga. Hon varnar särskilt för ”regnbågsbron”, det vill säga politikens frestelse att förlägga det omöjliga till den tekniska sfären – som när någon kräver en språkmodell som aldrig kan halluc­inera, lika orimligt som en bro som garanterat hindrar varje bilkrock.

När diskussionen glider över till upphovsrätt blir hon passionerad kring den uteblivna reform hon menar att samhället duckade redan på 1990-talet. Hon beskriver hur copyright ursprungligen handlade om maktbalans mellan skribenter och förläggare, men att den gradvis förvandlades till ett evigt skydd för stora katalog­ägare – ett skydd som internet först spräckte och som nu AI skakar än hårdare. Hon är öppen med att hon själv är konstnär vid sidan av forskningen; hon vet hur osäkert livet blir när generativa system kan imitera stilar. Men i stället för att efterlysa totala förbud argumenterar hon för en omförhandling av värdet: ersättningar som når både professionella illustratörer och den tonåring som lägger upp fan-art på DeviantArt, eftersom bådas verk nu kan flyta in i modellträningen. Hon varnar för att tekniska spårbarhets­lösningar lätt träffar fel – ett system som försöker härleda ”inspiration” riskerar även att nagla fast mänskliga konstnärer vid påstådda plagiat och därmed kväva den kreativa process som i grunden bygger på att låna, förvrida och svara andra.

Hur kan vi säkerställa att AI utvecklas på ett ansvarsfullt sätt för att gynna samhället?

Här breddar Kristina sitt resonemang till en systemanalys av kompetensflöden. Hon menar att Sveriges imponerande rad av IT-succéer beror på att näringslivet dammsuger upp nästan varje teknologiskt talangfrö, vilket lämnar politik, myndigheter och skolväsen med klent beslutsunderlag. Konsekvensen blir att lagstiftare ofta famlar efter quick-fixar – hon nämner Chatcontrol som exempel – medan ingenjörer frustrerat förklarar varför bakdörrar i kryptering inte är förenliga med grundläggande dataskydd. Lösningen, argumenterar hon, är dels strukturell och dels kulturell. Strukturellt behöver man finansiera permanenta riskobservatorier – oberoende av leverantörerna själva – som spårar desinformation, följer upp AI-inducerade missdiagnoser, mäter effekten på barns psykiska hälsa och rapporterar i öppen statistik. Kulturellt måste beslutsfattare tränas i att prata samma språk som utvecklare; det räcker inte med ett endagsseminarium utan kräver kontinuerlig dialog där man törs säga ”det här kan vi inte bygga” och där politiken lär sig forma mål som är tekniskt möjliga, samhälleligt önsk­värda och mätbara i konkreta indikatorer.

Kristina fördjupar också idén om en kollektiv försäkringspremie i stil med trafik­försäkringen: AI-företag skulle betala in till en fond som finansierar kompen­sation när automatiska rekryteringssystem diskriminerar eller när en hallucina­tion orsakar publicistiska förtalskostnader. På så vis internaliseras en del av de negativa externa effekterna, samtidigt som innovations­takten kan fortsätta utan att varje enskild skadelidande måste proces­sa mot en global jätte.

Vilken roll spelar miljömässiga faktorer i AI-utveckling, och hur kan vi minska AI:s klimatpåverkan?

I miljöavsnittet går Kristina ned på siffrornas mikro- och makroperspektiv. Hon förklarar varför diskussionen om ”AI slukar mer el än hela länder” ofta blandar träning med inferens och klumpar ihop allt datacenterbruk – från Netflix-streaming till banksystem – så att inga jämförbara nyckeltal återstår. Hon refererar till Hugging Face-initiativet CodeCarbon som nu gör det möjligt att mäta wattsekunder på en specifik inferens­körning; när man väger denna mot hur många gånger modellen faktiskt anropas kan man räkna fram ett ”CO₂ per svar”. I ett uppmärksammat exempel visar hon hur energin för att generera en AI-bild kan understiga energin som går åt till att mass-producera och frakta ett enda analoga foto­papper, men tillägger att just den låga marginal­kostnaden är en dubbel­eggad fördel: utan medveten triagering kan konsumtionen svälla obegränsat. Därför vurmar hon för automatiska modell­växlare – ett intelligent mellanlager som skickar baknings­receptet till en pytteliten modell, medan romanförslaget som kräver djupare kreativitet får gå till O3. Hon ser också ett utbildnings­behov: precis som konsumenter i dag lärt sig associera ett rött köttstreck med höga utsläpp borde en AI-tjänst visa en visuell energimätare intill ”Generera”-knappen, så att klimat­perspektivet blir en intuitiv del av vardagsvalet.

Utöver att minska själva AI-förbrukningen framhåller Kristina potentialen att låta AI bli en hävstång i klimatarbetet: smart planering av fruktplockning så färre ton slängs, maskininlärning som identifierar nyckel-biotoper innan avverkning, eller språkmodeller som hjälper små kommuner söka EU-bidrag för grön omställning. Men allt börjar med att miljö- och verifierbara hållbarhets­data bart laddas in i modellerna, annars fortsätter de extrapolera gårdagens fossilnorm.

Vilka utmaningar ser du när det gäller att införa globala riktlinjer för AI?

När diskussionen når geopolitiken klargör Kristina att AI redan är – och alltmer kommer att bli – en hård maktresurs. Hon analyserar hur språkmodeller som X eller Grok kan träna extra länge på ett visst politiskt narrativ och därmed med mjuk hand rita om opinioner utan att lämna tydliga fingeravtryck. Bias är ett fysikaliskt faktum: varje datamängd kommer ur någon erfarenhetssfär, så frågan är inte om bias finns utan vems bias som dominerar. Därmed blir globala regler en kamp om paradigmet självt. Hon exemplifierar med EU:s militära undantag: hur lätt det gröna ”hög risk” försvinner när nations­försvaret knackar på, vilket visar hur regler alltid viker sig för suveränitet. Samtidigt betonar hon att digitalt asyl måste tryggas. Hon beskriver hur PCLOB – den amerikanska tillsyns­grupp som balanserar mass­övervakning mot medborgerliga rättigheter – nyligen försvagats, och hur det sänder kalla kårar genom all europeisk diskussion om moln och Cloud Act. Ett globalt regelverk måste därför erkänna krypterad kommuni­kation som en basal mänsklig rättighet; annars kan autokra­tier genom ansikts­igenkänning, dataläckor och AI-stödd narrativ­kontroll neutralisera alla fysiska protestformer långt innan världens medier anar vad som skett.

Kristina lyfter också vikten av modell-pluralism. Hon ser ett reellt hot i idén om en enda dominerande ”super-LLM” som definierar meningsfull svenska eller tolkar samisk kultur. I stället argumenterar hon för ett ekosystem av lokalt tränade, överskådliga modeller som tillsammans utgör en slags checks-and-balances-struktur, där kontraster i svar avslöjar dolda antaganden och där ingen leverantör har total tolkningsföreträde.

Hur ser du AI:s framtida roll när det gäller att påverka samhälleliga strukturer och värderingar?

I den avslutande delen glider Kristina mellan makrostruktur och mänsklig intimitet. Hon ser språkmodeller som en dubbelsidig spegel: på ena sidan en vänlig röst som kan lugna, undervisa och sporra på ett sätt som tidigare bara var möjligt för priviligierade barn med privata lärare; på den andra sidan en bedrägligt medgörlig entitet som aldrig blir trött, aldrig begär något tillbaka och därför snabbt kan locka in ensamma själar i parasociala relationer. Hon illustrerar med fall där användare blivit djupt förälskade i chatbottar eller där olyckligt sinnade fått självmordsråd. Men hon stannar inte vid de enstaka tragedierna – hon sätter dem i ett större samhällsmönster där psykiatrin redan innan AI var underfinansierad och där smartphone-beroende sedan länge trasat sönder barns sömn. Att bara “säkerhets-patcha” botten blir då att avleda blicken från det verkliga hålet i välfärds­väven.

Hon utvecklar också tanken om modell­kollaps: ju fler pdf:er, blogginlägg och rapporter som skrivs av LLM:er, desto större andel av nästa träning kommer från syntetiskt brus, vilket riskerar att pressa ut okonventionella dialekter och smala fackfält. Om företag dessutom ersätter tvär­vetenskapliga team med kloner av en och samma systemprompt skapas en kognitiv monokultur som är hyper­effektiv i det kända men bräcklig inför det oväntade. Därför föreslår hon att organisationer bör tvinga in ”olydnad” i arkitekturen: olika modeller, varierade promptprofiler, slumpvis inslag av mänsklig peer-review och loggböcker som bevarar udda avvik­elser så att de inte slipas bort i nästa finetuning.

På längden av tidsaxeln ser hon inte GPT-6 som den nästa stora revolutionen utan förväntar sig ett pärlband av mindre kvalitets­förbättringar – inbyggd källa-till-påstående-länkning, domänspecifika agentramverk, automatiskt triagerade modell-storlekar – medan forskningen redan testar värld-modeller som samsynkar sensorisk data och språk i mer autonoma system. Oavsett utfallet insisterar hon på att politiken måste återställa balans mellan maskin och människa: kortare arbetsdag, fler fria timmar för konst och gemenskap, fortsatt robust psykvård och ett offentligt samtal där avvikelse inte misstänkliggörs utan betraktas som demokratins immunförsvar.