Frågor om rätt eller fel besvaras ofta olika beroende på om den tillfrågade är jurist, humanist eller ingenjör. Kanske krävs det därför någon med tvärvetenskaplig förankring för att ha en tillräckligt nyanserad bild av teknikutvecklingens moraliska kompass. Just därför har vi pratat om de etiska frågorna kring AI med Kristina Knaving, som fram till nyligen varit verksam som senior forskare på RISE.
Kristinas mångbottnade läggning framkommer tidigt i vår konversation. Hon plockar upp detaljer ur samtalsämnen som berörs, associerar vidare och fördjupar frågeställningen med nya infallsvinklar. Dessa referensramar kanske först och främst kommer från hennes livslånga läsintresse, med särskild fascination för allt som science fiction-genren innefattar.
- Science fiction handlar om idéer. Redan tidigt drogs jag till böcker som utforskade hur vi människor påverkas av mötet med kulturer radikalt olika våra egna, men också hur vi i vår tur påför mänsklighet på det icke-mänskliga, som när vi bemöter robotar som om de vore människor. Det fick mig att fundera på relationen mellan människa och maskin, och om hur vi tar till oss kunskap. Hur skulle exempelvis barn utvecklas om de fick egna inlärningsverktyg bortom vuxenvärldens kontroll?
Att just dessa exempel sådde det ursprungliga fröet för Kristinas intresse för teknikens samhällspåverkan känns passande i en nutida kontext. Vi har vid det här laget hört otaliga historier om människor som inlett relationer med språkmodeller, och faktumet att barn tar till sig information och formar sin världsbild på nätet utan vuxen inblandning har vi näst intill kapitulerat inför.
Förutom fiktionens förmåga att lyfta de svåra frågeställningarna har Kristina en nedärvd förståelse för utvecklingens skuggsidor.
- Min uppväxt var på många sätt idyllisk med närhet till natur och mycket tid att utveckla intressen som läsning och teckning. Men jag växte också upp med historier från min mammas slovenska sida, om hur utsatt min mormor var under ockupationen under andra världskriget. Jag förstod tidigt riskerna med övervakning och kontroll av individer.
Väger man in science fiction-litteraturens fäbless för dystopier med övervakning som bärande tema framträder en naturlig ingång till de etiska frågorna på området. Att mormodern var partisan, och alltså i hemlighet var verksam inom en motståndsrörelse, kan mycket väl ha lagt grunden för Kristinas handlingskraft och nyfikenhet att utforska samhället genom olika discipliner.
Introduktion till uppkopplingen
Kristina blev introducerad för hemdatorn genom den klassiska modellen VIC-20 och fick tidigt ett intresse för spel och kodning. Med de högre studierna började i den andra änden av det akademiska spektrumet, med en påbörjad juristutbildning och kurser inom humaniora.
- Juridiken var visserligen intressant och användbar, men jag ville inte syssla med det på heltid. I stället tillbringade jag min fritid med att hänga med mina vänner på Chalmers. Där kom jag för första gången i kontakt med internet och blev aktiv på Usenet, det tidiga 1990-talets centrala diskussionsforum online.
När hon senare gick vidare till en civilingenjörsutbildning vägde det tvärvetenskapliga argumentet tungt.
- Jag flyttade till Linköping för att utbildningen där är så bred. Man förstår att kod inte existerar i ett vakuum, utan att allt som programmeras är en del i ett sammanhang. Att det i slutändan är människor som ska använda slutprodukten.
Introduktion till AI och etik
Åren i Linköping gav Kristina de tekniska grunderna för det som skulle forma en inriktning inom AI-etik. Fördjupningen inom datavisualisering, som handlar om att synliggöra relevanta mönster och insikter i stora datamängder, gav en djup förståelse för kraften i data och dess potentiella makt. Och kurserna inom interaktionsdesign lät henne utforska vidare hur tekniken kan göras så enkel och logisk som möjligt. Dessa erfarenheter bidrog till att hon senare kom att medverka till att grunda en kurs inom datajournalistik på Göteborgs universitet.
- Jag började även intressera mig lite för AI på universitet, men det var inte förrän flera år senare jag verkligen fastnade för det. Det var när jag börjat arbeta som senior forskare på RISE. Där insåg jag att de etiska frågorna inte kan avskiljas från AI-utvecklingen. Jag tittade bland annat på förekomsten av bias i den tidens språkmodeller, och som man kunde misstänka visade det sig vara väldigt utbrett.
Detta var några år innan ChatGPT gjorde språkmodeller till allmängods och nästan fick begreppet ”AI” synonymt med en chattbot.
- ChatGPT var så klart en game changer. Och visst blev även jag tagen på sängen vid lanseringen, även om jag rent teoretiskt visste att tekniken fanns. Det som kändes mest nytt var dess förmåga till performativa resonemang, att den framställde sina svar som att den genomgick en mänsklig tankeprocess.
Att Kristina började fördjupa sig i de etiska frågorna har att göra med hur utvecklingen satte ljuset på hennes nedärvda skepticism för övervakning.
- Jag är intresserad av den praktiska etiken, där övervakning och dess påverkan på individer är påtaglig. Jag insåg att med AI kommer helt nya risker för exempelvis insamling av beteendedata, och datainsamlingen generellt kommer fortsätta öka i snabb takt.
Att data samlas in i stora mängder behöver inte vara ett problem i sig enligt Kristina, men det problematiska är hur det används och även vilken förmåga vi har att tillvarata informationen.
- Min analys är att vi har haft en ”databoom” men ingen motsvarande ”analysboom”. Mängden data har alltså ökat enormt, men utan rätt verktyg och kunskap om hur den ska förstås kommer risk för feltolkningar och skadlig tillämpning.
En annan aspekt av övervakning som Kristina nämner är hur det i viss mån är oundvikligt i ett modernt samhälle.
- Som samhälle har vi ett intresse av att övervaka. Vi vill till exempel kunna spåra en person som bär på vapen, eftersom den kan skada sin omgivning. En människa med tillgång till kraftfulla teknologier, som till exempel vissa AI-lösningar, kan innebära en fara för samhället, men samhället behöver så klart kunna hantera detta utan att det går ut över individuella rättigheter.
Kod som lag
Kristina återkommer ofta till begreppet ”Code is law”, myntat runt millenniumskiftet av juridikprofessorn Lawrence Lessig, för att belysa den makt som finns inbyggd i kod. Alltså att de beslut som fattas under utvecklingsprocessen materialiseras i kod och i praktiken avgör vad som är möjligt inom en viss kontext.
- Jag älskar det uttrycket. Det pekar på varför det är viktigt att blanda in fler discipliner i utvecklingsstadiet så att tekniken inte endast representerar en snäv världsbild. Om exempelvis samhällsvetare och jurister kommer in först i efterhand så kan det gå väldigt snett. Samma sak gäller om man inte får in teknisk kompetens när man stiftar lagar om teknik. Ta förslaget om ”Chat control” som exempel, där lagstiftarnas ambition inte gick ihop rent tekniskt.
Hon syftar på lagförslaget från EU-kommissionen som syftade till att identifiera och lagföra övergreppsmaterial inom digital kommunikation. Förespråkarna menade att teknikens utformning innebar att den endast skulle träffa de faktiska förövarna. Men kritikerna, till stor del bestående av teknisk expertis, argumenterade att förslaget inte var möjligt utan att det i praktiken innebar massövervakning av all digital kommunikation.
Demokrati genom transparens
I frågan om etik inom AI finns idag frågor kring begreppet i sig, som hur det ska tolkas i den moderna teknologiska kontexten samt vem det är som bör stå för tolkningen.
- Vi får inte låtsas som att det är techbolagen själva som är bäst lämpade att definiera vad som är etiskt och sedan låta dem bestämma riktningen på utvecklingen baserat på sina egna tolkningar. Då gör vi samma misstag som med sociala medier. Där lade vi över ansvaret på Facebook att avgöra vad som är demokratiskt gångbart på deras plattformar, vilket har gett stora konsekvenser i hur det offentliga samtalet har formats.
För att konkretisera techbolagens ansvar jämför hon återkommande med hur det ser ut i andra reglerade branscher.
- Om man till exempel tittar på fordon så är det inte bil- eller flygplansbranschen som definierar vad säkerhet innebär. De har tydliga och högt ställda regler att förhålla sig till. Detsamma borde självklart gälla inom AI-utvecklingen.
Ett sätt att komma åt problematiken med den ojämna maktfördelningen mellan techbolag och allmänhet är enligt Kristina att ha transparens och valmöjlighet som utgångspunkt.
- Språkmodeller bör vara open weight, det vill säga att tränade parametrar är offentligt tillgängliga så att de är möjliga att granska. Jag tycker också att algoritmiska system, som styrning av innehållsflöden, endast ska aktiveras efter ett aktivt val från användaren.
Men trots alla intrikata frågor om rätt och fel och demokratiska avvägningar framstår Kristina som en teknikoptimist med en tro på en framtid där människor, maskiner och algoritmer drar åt samma moraliska riktning.
- Om man ser till språkmodeller så är det ju trots allt en väldigt rolig, halvmagisk och rent av bisarr teknik som vi kommer kunna använda oss av på många nyttiga sätt. Och eftersom vi inte kan rulla tillbaka utvecklingen behöver vi ta de bästa och mest etiskt hållbara besluten baserat på den teknik vi har.
Lärdomar från fiktionen
Med tanke på Kristinas djupa och långvariga fascination för science fiction-litteratur är det särskilt intressant att fundera över vad vi kan lära av fiktionen gällande vårt förhållningssätt till tekniken.
- För mig fyller litteraturen framför allt funktionen att utvidga tankevärldar. De kommer inte med exakta svar kring utvecklingen och samhället men ger oss verktyg att tänka bredare. Om vi tittar på författare som Ursula K. LeGuin och Isaac Asimov så formulerade de tankar som är relevanta långt efter deras livstid. Inte för att världen idag ser ut som deras framtidsvisioner utan för att de idémässigt träffade de relevanta frågorna om övervakning och artificiell intelligens.
Om styrkan med tvärvetenskaplighet ligger i den breda förståelsen så kommer det med en utmaning i att identifiera en gemensam nämnare som binder ihop de spretiga intressesfärerna. För Kristinas del finns det trots allt en springande punkt som återkommer vare sig det handlar om familjehistoria, litterära preferenser eller forskningsområden:
- Mitt intresse för tekniken och hur den påverkar oss rör sig väldigt mycket runt individens rätt till integritet och samhällets ökade möjligheter till övervakning. När individer blir kraftfullare med hjälp av teknik så ökar samhällets intresse och behov att övervaka dem. Hur avgränsar vi behovet av detta och när går det över från att handla om det allmännas bästa till något skadligt? Kan vi bygga ett hållbart demokratiskt samhälle och hur mycket övervakning får plats i det? För mig genomsyrar frågorna runt demokrati, etik och teknisk förändring alla mina fält och är nog den slutgiltiga frågan jag intresserar mig för inom teknik.
