Hur bias i AI påverkar oss, och tips för att undvika fallgropar

AI har blivit en allt mer integrerad del av vår vardag och påverkar olika aspekter av vårt samhälle; från rekommendationer på sociala medier till rekryteringsprocesser och rättssystem. Dock har det uppdagats att AI-system kan vara påverkade av bias data, det vill säga snedvridenhet eller fördomar, vilket kan leda till orättvisa konsekvenser för olika grupper i samhället. Om datan som algoritmen tränas på inte är neutral, blir algoritmens resultat snedvridet. 

Vår UX & Design Director Elisabeth Mark på Knowit Experience Stockholm har samlat lite tips och tankar kring ämnet.  

Vad är bias i AI? 

AI, Artificiell intelligens, är varken artificiell eller intelligent. Den packar helt enkelt om data som programmerarna matade med den. När det gäller ChatGPT tränade programmerarna det på internet. Det är samma internet där någon anklagar dig för att hata apelsiner om du säger "jag gillar citroner".  

Vi använder termen bias för att beskriva hur vi människor tolkar, förstår och tar beslut baserade på vår subjektiva uppfattning och förutfattade mening om hur något är. Bias är en medfödd del av människans existens, vi tar beslut varje dag baserat på tidigare upplevelser. T ex väljer jag nog, medvetet eller omedvetet, en kassakö utifrån vilka medkunder i kön som jag tror kommer att vara snabba, och vilka som jag tror kommer att ta tid på sig att leta fram rabattkuponger.  

Bias i AI uppstår när algoritmer, som utformas för att fatta beslut eller göra prediktioner baserade på data, genererar resultat som snedvrider eller diskriminerar vissa grupper. Detta kan bero på flera faktorer, inklusive snedvridenhet i källan som används för att träna algoritmen, brist på representation av olika grupper, eller otillräcklig viktning av vissa attribut. 

Konsekvenser av bias i AI: 

Bias i AI kan få allvarliga konsekvenser i olika sammanhang, t ex: 

• Diskriminering inom rekryteringsprocesser där algoritmer kan favorisera vissa grupper baserat på kön, etnicitet eller ålder. 

• Inom rättssystemet kan bias i AI-system användas för att förutsäga framtida brottslighet och fatta beslut om påföljder, vilket kan leda till orättvisa straff och överrepresentation av vissa grupper i fängelser. 

• Könsfördomar och sexistiska slutsatser:  
  - Om du frågar Chat GPT vilken svensk fotbollsspelare som vunnit flest landskamper eller vilken tennisspelare som vunnit flest US Open blir svaret Anders Svensson och Roger Federer, trots att det egentligen är Therese Sjögran respektive Serena Williams (man måste specificera ”kvinnlig” fotbollspelare/tennisspelare för att AI ska inkludera båda könen)

• Ber du Google Translate att översätta den danska frasen ’min kaereste’ blir det Pojkvän om du avslutar med ’Stark’, ’Rolig’, eller ’Direktör’. Om du byter ut sista frasen mot ’Hysterisk’, ’Sjuksköterska’ eller ’i köket’ översätts kaereste istället till Flickvän.  

• Generativa AI-verktyg som Midjourney översexualiserar kvinnor och adderar gärna putande läppar och urringningar oavsett skriven prompt. Appen Lensa AI, som genererar avatarer baserat på ett foto av användaren, skapar de kvinnliga avatarerna med minimal klädsel (eller t om topless) i utmanande poser, medan manliga användare blir krigare och austronauter.  

Hur blev det så här, och hur ska vi skapa opartisk AI? 

Den data som AI tränas på innehåller befintliga stereotyper eller antaganden från vårt samhälle. Chat GPT hämtar inte bara information från Wikipedia utan även från källor som Flashback, Familjeliv och Reddit, vars innehåll kan både vara rasistiskt och sexistiskt.  

De flesta AI-system är designade av män. Detsamma gäller författarna till källorna som AI tränas på – och man utgår ofta från sig själv när man arbetar.  

För att skapa mer rättvisa och mer tillförlitliga AI-system behöver vi aktivt hantera och motverka bias. Här är några viktiga åtgärder som kan vidtas: 
 

1. Öka medvetenheten om bias 
   Genom att öka medvetenheten, både för användare och utvecklare av AI-system, kan man aktivt arbeta för att undvika eller korrigera bias. 
   

2. Involvera mångfaldiga team 
   Att ha en mångfald av perspektiv och erfarenheter i utvecklingsteamet för att identifiera bias. Genom att inkludera personer med olika kön, etnicitet, ålder och bakgrund kan man minska risken för snedvridenhet och diskriminering i utformningen av algoritmer. 
   

3. Diversifiera och rensa 
   Inkludera data från olika källor och se till att de representerar olika grupper i samhället kan man minska risken för att algoritmen ska favorisera eller diskriminera specifika grupper. 
   

4. Transparent och ansvarstagande utveckling 
   Utvecklare av AI-system bör vara transparenta i sina metoder och algoritmer. Genom att öppet dela information om hur beslut fattas och vilka data som används kan externa parter granska och identifiera potentiella bias.  

5. Regelbunden utvärdering och övervakning 
   Det är viktigt att kontinuerligt utvärdera och övervaka AI-system för att upptäcka och korrigera eventuell bias. Detta kan inkludera att analysera resultat och prestanda för olika grupper samt genomföra regelbundna revisioner och kontroller av algoritmernas effektivitet och rättvisa.  

6. Regelverk och reglering 
   Det krävs också att myndigheter och regeringar utvecklar regler och riktlinjer för att hantera bias i AI. Genom att fastställa standarder och riktlinjer för användningen av AI-system kan man främja en rättvis och etisk tillämpning av teknologin.

   
   

Möjligheter och vägar framåt 

AI bestäms av den data den ges och lär sig av, och människor är de som genererar den data som AI använder. Om vi kan rensa oss från medvetna och omedvetna förutfattade meningar så fall kan vi skapa ett system som gör opartiska bedömningar. Det är dock osannolikt att vi kan skapa ett helt och hållet opartisk AI, eftersom ett opartiskt mänskligt sinne aldrig kommer att existera. Men vi kan minska bias genom att testa data och algoritmer och använda bästa praxis för att samla in data, använda data och skapa AI-algoritmer. Många tror att AI kan hjälpa oss att lösa några av de största problemen som människor står inför just nu, inklusive klimatförändringar. Men för att nå den fulla potentialen måste vi se till att vi arbetar för att minska fördomar och de möjliga risker AI kan medföra.