Kan AI bidra till en mer jämställd teknikbransch?

I takt med att AI-teknologin utvecklas pratas det om hur den kan spegla och förstärka samhällets befintliga ojämlikheter, särskilt genom "bias" eller partiskhet i träningsdata och algoritmer. Men kan AI också vara en kraft för positiv förändring, och på vilket sätt? I det här inlägget utforskar Annamaria Sundbye Feldt, managementkonsult inom cybersäkerhet på Knowit, tillsammans med Ebba Rakuljic Feldt, student på Lunds Tekniska Högskola och snart färdig civilingenjör med inriktning på teknisk matematik, möjligheterna för AI att bidra till en mer jämställd teknikbransch och kanske till och med förändra synen på teknikens roll i samhället.

Teknologi och jämställdhet, ett tveeggat svärd

AI och maskininlärning bygger på data från vår omvärld – en omvärld som ofta är allt annat än objektiv. Våra fördomar och föreställningar om världen avspeglas i träningsdata och riskerar att förstärka existerande ojämlikheter. Samtidigt är AI en möjlighet att göra det osynliga synligt, genom att synliggöra mönster vi inte alltid ser. Detta kan fungera som en väckarklocka för hur samhället ser ut och väcka tankar om hur vi skulle vilja att det såg ut.

I en vidare kontext bortom tillämpningen av själva tekniken kan vi också förstå AI som en tvärvetenskaplig teknik som tvingar oss att tänka holistiskt.

Utvecklingen av AI skapar utrymme för fler discipliner att bidra och för fler perspektiv att höras. Vi befinner oss på ett sätt i en unik plats historiskt där vi både är mitt i en stor förändring och samtidigt för en aktiv diskussion om teknikutvecklingens innebörd, både fördelar och nackdelar. Detta samtal kan i sig öppna dörrar för fler att känna att deras perspektiv är viktigt.

En vidgad förståelse för teknikens roll

AI har något paradoxalt potentialen att göra abstrakta tekniska problem mer konkreta, vilket gör att fler människor kan relatera till och förstå tekniken på djupare plan. Detta gäller särskilt när vi talar om teknikens samhällspåverkan: utvecklingen av AI får oss att reflektera över vilka vi är, vad vi värdesätter och hur vi vill att tekniken ska utformas.

Utrymmet för reflektion kan göra teknikbranschen mer attraktiv för de som kanske inte ser sig som typiska ingenjörer men som vill arbeta i en bransch som påverkar samhället på djupet. När fler perspektiv inkluderas i diskussionen, på både samhällsnivå och inom organisationer, ökar också chansen att fler kvinnor och underrepresenterade grupper ser att teknikbranschen kan vara en plats för dem.

Tekniken i samhället

Historiskt sett har teknikutvecklingen många gånger gått före den samhälleliga reflektionen – vi skapar tekniken, börjar använda den, och diskuterar sedan konsekvenserna. Med AI ser vi ett skifte, där det tvärvetenskapliga perspektivet och det etiska samtalet sker samtidigt som tekniken utvecklas. Detta öppnar för en ny attityd till teknikutveckling, där fler intressen och värden kan samspela.

Att se tekniken i sitt sammanhang, med alla dess potentiella fördelar och risker, kan locka en bredare publik och öka mångfalden inom teknikbranschen. Det blir tydligare att teknik inte är något isolerat utan en del av ett större sammanhang – och att det finns många spännande frågor att utforska, som handlar om samhällsbyggande, etik och rättvisa. Vi behöver både samhällsvetare, ingenjörer och jurister för att omsätta teknikens potential till något värdeskapande.

Mångfald i teknikbranschan

För att öka mångfalden i teknikbranschen behövs möjligheten att känna sig representerad och sedd. När diskussionen kring AI öppnas upp för fler perspektiv blir det också lättare att känna att tekniken är en plats för "mig" – att mitt perspektiv räknas och har betydelse. Genom att fortsätta detta samtal, både på samhällsnivå och inom organisationer, kan vi skapa en teknikbransch som lockar fler perspektiv och som blir mer jämställd och mångsidig.

Vad säger nästa generation?

För att pröva dessa tankar kan vi lyssna på nästa generation i teknikbranschen. Ebba Rakuljic Feldt, student på Lunds Tekniska Högskola, är snart färdig civilingenjör med inriktning på teknisk matematik och läser just nu en master i maskininlärning.

Vad tror du Ebba, ligger det något i min spaning? Tror du att AI:s tvärvetenskapliga natur – där insikter från teknik, samhällsvetenskap och etik möts – kan bidra till att skapa en mer jämställd och inkluderande arbetsmiljö inom teknikbranschen? Varför eller varför inte?

Ja, jag tror att AI:s tvärvetenskapliga natur kan bidra till en mer jämställd och inkluderande arbetsmiljö inom teknikbranschen, men det kräver ett medvetet arbete. Tekniken i sig är neutral, men hur den utvecklas och implementeras påverkas starkt av de värderingar och perspektiv som byggs in i systemen. Det kan vara svårt att upptäcka bias i datan, särskilt om vi på förhand inte är medvetna om eller aktivt letar efter den. Artificiella neurala nätverk (ANNs) beskrivs ofta som en "black box"; vi förstår därför inte alltid vilka aspekter av datan som styr modellens beslut. I synnerhet språkmodeller, som tränas på stora mängder textdata, riskerar att reproducera normer och diskriminering. Här spelar samhällsvetare en viktig roll, då de kan belysa dessa perspektiv och bidra till en mer kritisk granskning. Men man ska inte heller glömma de positiva aspekterna – dataanalys och maskininlärning kan också användas för att avslöja bias och identifiera diskriminerande mönster i data, vilket ju skapar evidens och således en grund för ökad jämställdhet.

När fler människor får insikt i AI påverkan på samhällsutvecklingen, tror du att det kan locka fler kvinnor och underrepresenterade grupper till teknikfältet? Hur kan ingenjörsprogram främja denna inkludering redan under utbildningen?

Ja absolut, AI-boomen de senaste åren har gjort att teknik och intresset för STEM i stort har ökat och lyfts mer i samhällsdebatten. Min förhoppning är att detta kommer göra att fler kvinnor söker sig till branschen. Jag tror också att AI:s tvärvetenskapliga natur kommer leda till en större diversifiering i branschen. Jag tänker att det inte betyder att kvinnor per se är mer intresserade av humaniora och samhällsfrågor eller nödvändigtvis värderar den mänskliga aspekten högre, utan snarare att kvinnor tenderar att välja bort tekniktunga ämnen på grund av normer och förutfattade meningar kring teknikämnena. Universiteten har en viktig roll i att skapa en inkluderande miljö och arbeta aktivt för att locka underrepresenterade grupper.

Hur har du kommit i kontakt med AI på din utbildning?

Jag ser absolut en attitydförändring hos lärarna när de insett att utvecklingen inte går att stoppa, och att de i stället för att begränsa refererar till AI-baserade metoder. Då jag läser en master inom maskininlärning har många av kurserna handlat om att förstå hur modellerna byggs och greppa tekniken bakom.

Hur tror du att du kommer använda AI i arbetslivet?

Definitivt som ett verktyg för att effektivisera min tid och förbättra kvaliteten på det som levereras. Förbättra och generera text, utföra dataanalys, co-pilot vid kodskrivning, bollplank vid analys; allt detta går redan att göra med dagens språkmodeller. På längre sikt tror jag att en AI-assistent kommer vara den som antecknar på möten, håller koll på mitt (och alla andras) schema samt kan koordinera i stort sett hela verksamheten. Man kommer inte längre behöva fråga runt eller vänta på svar – utan all företagsinformation kommer en språkmodell ha kännedom om och kunna återge, vilket kommer vara till stor nytta för större organisationer där informationsflödet är trögt mellan olika enheter.

Det kommer också vara lättare för alla medarbetare att ha koll på verksamheten och var man ligger till i projekten – redan nu kan språkmodeller som t.ex. Googles senaste NoteBookLM sammanfatta stora mängder information till en kort podcast där syntetiska röster pedagogiskt och lättsmält sammanfattar innehållet. På detta sätt kan alla starta arbetsdagen med en statusuppdatering från en AI-assistent, som har koll på hela verksamhetens utveckling samtidigt. Jag tror att en AI-assistent kommer att bli lika integrerad i det dagliga arbetet som en vanlig kollega är i nuläget.

Slutsats: AI som möjliggörare för mångfald och jämställdhet

AI kan alltså vara både ett hinder och en möjliggörare när det kommer till jämställdhet. Genom att medvetet arbeta för att inkludera fler perspektiv och aktivt motverka bias, har vi chansen att skapa en mer inkluderande och rättvis teknikbransch. AI är ett verktyg och som med alla verktyg så handlar det i slutändan om hur vi väljer att använda det. AI har därtill potential att förvandla teknik från en isolerad, abstrakt disciplin till en samhällskraft där alla känner att deras perspektiv kan göra skillnad.

Författare: Annamaria Sundbye Feldt och Ebba Rakuljic Feldt. Annamaria är managementkonsult hos Knowit med ett stort intresse för samspelet mellan människan, samhälle och teknik. Ebba är student på Lunds Tekniska Högskola och läser just nu en master i maskininlärning och färdig civilingenjör med inriktning på teknisk matematik.