Blogg | Knowit

Omedveten Partiskhet

Skriven av Robert Wallerblad | Mar 11, 2021 11:00:00 PM

Jag är ingen psykolog och har inte studerat heuristik akademiskt men jag har jobbat i drygt tjugo år på olika sidor av ”bordet”, presenterat saker i olika forum, bett andra ta beslut, varit den som tagit beslut och funderat på hur saker ska vara. Och det har fått mig att reflektera över varför man ibland tänker, tycker och beter sig som man gör som individ, i grupp och mot individer/grupper.

Jag har hållit frukostseminarium om omedveten partiskhet och för nästan precis 2 år sedan föreläste jag även på Kravdagen – omedveten partiskhet fascinerar mig fortfarande och det är alltid lika aktuellt.


Omedveten partiskhet påverkar oss i både vår professionella och privata vardag.

  • Den påverkar vad vi hör & ser
  • Den påverkar kvalitén på svar vi får
  • Den påverkar kvalitén på beslut vi tar

Hur vi presenterar, vad vi presenterar, när vi presenterar eller tar beslut spelar roll. För vi förlitar oss på och styrs av fördomar, stereotyper och mentala genvägar – även om vi inte tror på dem.

Fördelarna

  • Att ”slutsatser” kan dras snabbt och utan ansträngning
  • Det är en försvarsmekanism, men också ett sätt för hjärnan att filtrera bland all information som bombarderar oss

Nackdelarna

  • Kan resultera i fel beteende
  • Kan resultera i fel beslut

I ljuset av dessa nackdelar är det viktigt att förstå och vara medveten om hjärnans sätt att hantera information och situationer. Nedan förklaras några av dessa genvägar och också tips på strategier för att minimera deras negativa effekt.

Stereotyper

Vi kategoriserar personer och saker genom attribut som är enkla att läsa av eller som vi vet, om saken/personen/gruppen.

På kravdagen var jag klädd i manchesterkavaj, fotriktiga skor, glasögon och en svart skarf när jag började föreläsningen – men under föreläsningen bytte jag om till andra skor och kavaj och tog av mig skarfen och glasögonen. Efteråt kom det fram en kvinna och frågade mig vem av dessa två jag verkligen ”var” och när jag svarade nr 2 så såg hon faktiskt lite besviken ut (med dessa ytliga attribut fick jag troligtvis även andra attribut i hennes ögon, eller så tyckte hon att jag helt enkelt var snyggare i min första klädsel😉)

Ofta har man en ”blindspot” för sin egen partiskhet, trots att man kan se den hos andra. Och för att krångla till det ännu mer så tror vi att vi är bättre än vad vi är på att lura oss ur dem. Vi förlitar oss på stereotyper, även om vi nödvändigtvis inte tror på dem. Omedvetet skapar vi ett vi och ett dem. Oftast med ett negativt dem.

Registrera hur du reagerar och känner inför en person som…

  • Äger ett vapen
  • Går i kyrkan
  • Inte äter kött
  • Har en ansiktstatuering
  • Inte vill gifta sig
  • Kör elbil
  • Inte har en universitetsutbildning
  • Svär mycket
  • Är över 60
  • Kör under hastighetsgränsen
  • Gillar katter

Stereotyper påverkar oss! Inte bara genom att vi sorterar saker och folk i olika fack men vi kan också tappa perspektiv. Några exempel där stereotyper kan/har grumlat vårt omdöme och där det i förlängning faktiskt påverkat hur saker designats:

  • En chef har inte alla svaren eller vet inte alltid vad som ska göras.
  • En tystlåten person har saker att säga.
  • En expert vet inte allt.
  • Ett numera klassiskt exempel från USA – Under 70-talet började man använda sig av skärmar vid uppspelningar inför orkesterintag. Vilket resulterade i att andelen kvinnor i orkestrarna gick från 5% (1970) till 25% (1997).
  • När YouTube-appen lanserades var den inte designad för vänsterhänta – höll man telefonen i vänster hand och flippade den från stående till liggande blev bilden upp och ner.
  • Emojis fanns inte olika färgtoner från början.

Men det är inte bara människor som styrs av fördomar och stereotyper – algoritmer och machine learning lär sig av data. Mycket data. Men det är inte nödvändigtvis ”rätt” data. Data som vi genererar speglar våra fördomar vilket gör att även våra algoritmer har fördomar och är partiska. Är dessa fördomar av negativ karaktär eller något som man inte vill bli förknippad med kan det slå fel.

  • Googla på ordet CEO – hur många kvinnor hittar du på först sidan? Vill man att det ska vara så?
  • Google har visat sig visa fler höginkomst annonser till män än kvinnor. Anledningen till detta är egentligen oväsentlig (lönestatistik, löneanspråk, klick), utan det är att algoritmer förstärker fördomar och orättvisor.

Det finns många liknande exempel. Många gånger kan algoritmer också förstärka diskriminering utan att påverkas av kvalitén på data utan snarare av parametrarna som personer (med bristande perspektiv?) ansett vara av vikt. Resultatet kan då på ett oönskat sätt korrelera med något man inte förutsåg.

  • Amazon – utbudet av snabbleveranser var sämre för personer inom en postkod med övervägande svarta i vissa städer i USA. Anledningen var att man baserad tjänsteutbudet utefter efterfrågan, antalet Prime medlemmar i området, möjliga partners som kunde utföra tjänsten och närheten till distributionscentral.
  • Staples – prisdifferentiering resulterade i att varorna blev dyrare i affärer nära områden med låginkomsttagare. Då strategin byggde på att man gav reducerad priset om affären låg nära en konkurrents affär.

Därför är det viktigt att inte lita blint på data och resultat från automatiserade processer. Det är ju inte utan anledning som en utav rättigheterna i GDPR handlar om just automatiserade beslut.

Andra Mentala Genvägar

  • Grupptänkande – Vi har en benägenhet att ty oss till folk som är lika oss själva. Det är lättare att hålla med i en grupp eller på ett möte, än att sätta sig emot.
  • Beslutsbejakande – Vi tar till oss information lättare när det stödjer ett redan taget beslut.
  • Konfirmerande – Vi tar till oss information lättare när det stödjer våra förutfattade meningar.
  • Selektivt seende – Vi låter förväntningar styra hur vi uppfattar något.
  • Strutsmentalitet – Vi väljer att ignorera risker.
  • Ingen risk / Bevarande – Vi finner trygghet i det som redan är känt och värjer oss för det oprövade.
  • Förankring – Våra erfarenheter (åsikter, övertygelser och tankar) eller något som presenterats för oss (ett ankarvärde) påverkar våra val.

    Exempel: Man frågade 2 grupper hur höga amerikanska sekvojaträd kunde bli. Grupp 1 frågade man ”Är det högsta trädet högre eller lägre än 366 meter? Hur högt tror du att det högsta trädet är?” Grupp 2 frågade man samma frågor men bytte ut 366 meter till 55. Resultatet var att Grupp 1 svarade 257 meter i genomsnitt och Grupp 2 svarade 86 meter, en skillnad på 171 meter. (Det högsta levande trädet är 115 meter)

  • Tillgänglighet – Vi använder denna genväg för att uppskatta sannolikheten för en händelse. Uppskattningen baseras på hur snabbt du kan få fram informationen ur huvudet eller hur mycket vi utsatts för det av erfarenhet. Ju mer man blir utsatt för något, desto enklare blir det att få fram det ur hjärnan. Ur det perspektivet spelar t ex raljerande skämt och det vi ser på TV en roll.

    Tänk snabbt – Är antalet ord med R i början fler än antalet ord som har R som 3:dje bokstav?[1]

  • Representativ – Vi baserar sannolikhet på ytliga egenskaper.

    Om jag beskriver en person som gillar aromaterapi, lyssnar på new age-musik och dagligen läster sitt horoskop. Tror du hen är en healer eller en grundskolelärare? [2]

 

Vad kan vi göra åt detta?

”Lära om sig” – Storleken på ens blindspot påverkar kvalitén på våra beslut.

Genom att bli mer medveten om sina egna brister, utvärdera sitt eget beteende och utsätta sig för situationer som bryter mönster/stereotyper minskar vi vår blindspot.

Men det är svårt att hindra att man är omedvetet partisk bara genom att vara medveten om att man kan vara det. Då är det lättare att styra beteende och använda verktyg som gör att man drar ner risken för att vara partisk.

Här kommer några tips på beteenden och verktyg:

  • Testa dina tankar – En metod som du kan använda dig av för att känna efter om du agerat fördomsfullt eller diskriminerande är ”flip it to test it”. Byt ut den eller det du pratar om eller tänker på (t ex man / kvinna). Om resultatet känns konstigt så kan du ha hittat en fördom.
  • Använd checklistor för att inte ta genvägar. Sätt upp kriterierna för ett beslut i förväg.
  • Differentierat team/företag skapar förutsättningar för olika perspektiv.
  • När du presenterar saker använd olika format och medium för att ge olika personer chansen att se och ta till sig information på deras villkor.
  • Undvik att själv ta beslut på volley så minskar du risken för att ta en genväg.
  • Tvinga inte andra att ta beslut på volley. Ge folk tid att fundera, skicka ut material innan möten och skapa möten som gör att fler blir hörda.
  • När du tar in input skapa en nyanserad bild. Använd intressentanalyser och referensgrupper. Använd workshop- och intervjutekniker för att ge alla samma förutsättningar att komma tilltals.
  • Jobba inkluderande genom att vara den sjysta kollegan, den som tänker på andra, den som ställer de dumma frågorna, den som är nyfiken och lyssna på vad andra faktiskt säger.

Kom ihåg att vi styrs av stereotyper och genvägar, oavsett om vi tror på dem eller inte. Även ”goda” personer gör det.

Är vi uppmärksamma och vet hur vi fungerar kan vi göra skillnad – genom att minimera risken att ta mentala genvägar när det kommer till beslut och beteenden i vår professionella vardag.

 

[1] Fråga: Är antalet ord med R i början fler än antalet ord som har R som 3:dje bokstav? Svar: det finns ungefär dubbelt så många ord som har R som 3:dje bokstav
[2] Fråga: Tror du hen är en Healer eller grundskolelärare? Svar: det finns ca 100 000 grundskolelärare i Sverige. Sannolikheten borde därför, trots de yttre attributen, peka på att det är en grundskolelärare, eller?