WIT: The Coded Gaze, Robotar & Krypton

Julia Suneson
21.03.2018

Den 8 mars gick den årliga Women In Tech-konferensen av stapeln på Folkets Hus i Stockholm. Konferensen är öppen för alla, men samtliga talare är kvinnor. I år tog de 1300 biljetterna slut på enbart två (!) minuter. Jag lyckades komma över en biljett och tänkte här ge en rapport över mina blownaways från konferensen. 

Årets tema var A Brave New World  vilket syntes i att de flesta talare och paneldiskussioner hade en röd tråd. De diskuterade hur/om innovation bidrar till ett mer hållbart samhälle. De hetaste ämnena var AI och AR. Men även Blockchain och Robotar var stora snackisar. Konferensen hade över 30 talare. För er som inte hann med de där två minuterna då biljetterna rasslade iväg – misströsta inte allt går att se i efterhand här.

Joy Buolomwinis  -  "The Coded Gaze"

"Dangers of Supremely White Data and Dominantly Male Analysis - Fighting for algorithmics transparency, accountability, and fairness is a team effort."

 Joy Buolamwini

Joy Buolamwini. Bild Credit: MIT Media Lab / The Noun Project 

Joy Buolamwini är, bland annat, forskare vid MIT Media Lab och leder Algorithmic Justice League - som kämpar mot fördomar i kod och algoritmer. Ett fenomen hon namngett The Coded gaze. Vid ett forskningsprojekt upptäckte Joy att hennes ansikte inte kändes igen av ett ansiktsigenkänningssystem. Hon insåg att om hon satte på sig en vit mask blev ansiktsspårningen plötsligt synlig på skärmen. Joy misstänkte ett mer utbrett problem och genomförde en jämförelse av de AI-driva ansiktsigenkänningssystemen i Mcrosoft, IBM och Face++. I studien visades de valda systemen 1000 ansikten, där vardera system förväntades identifiera respektive ansikte som manligt eller kvinnligt, se algoritmens logik ”The Gender Shades” förklarad i illustrationen nedan.

 bildjoy2

The Gender Shades explanation graphic. Bild Credit: MIT Media Lab / The Noun Project

 

Resultatet visade på att flera ansiktsigenkänningsmjukvaror var oförmögna att känna igen mörkare hudtoner. Träffsäkerheten mörkhyade kvinnor gav resultatet hos systemen en felmarginal på cirka 50 (!) procent - att jämföra med vinnaren ljushyade män som hade en felmarginal på cirka två procent.  Detta faktum visar starkt på hur fördomar och brist på mångfald i utvecklingen av kod och mjukvaruutveckling kan leda till skadliga resultat. Teknik är inte neutralt. Teknik skapas av människor och det finns inget filter mot att fördomar överförs till kod och utformning.

Ett viktigt perspektiv, som Joy nämnde, är att detta inte görs av "bad guys" som sitter bakom skärmar i utvecklingslabbar. Det handlar inte om att en person medvetet exkluderar eller för över sina fördomar – det är brist på perspektiv och medvetenhet. Vilket är en följd av homogena utvecklingsteam. Joys forskning visar på tyngden av att ha mångfald i teknikbranschen.

Så ett straight-up tips: Joys TED talk angående detta finns att se här. Ta en paus. Se den.

Danica Kragic: Robotar tar troligen inte över världen imorgon

Min nästa favorit var KTH-forskaren Danica Kragic tal om hur långt forskning och utveckling med artificiell intelligens (AI)-robotar egentligen har kommit. Hon tog upp svårigheterna med det rent motoriska - att robotforskare i dagsläget har svårt att konstruera människolika robothänder. Som exempel använder sig Danica av att ”robotar inte ens kan knäcka ett ägg”.  Människor agerar på en känsla i kroppen, en känsla som reflekterar över en instruktion, AI-robotar gör inte det. Att förstå intuitiva handlingar matematiskt och översätta dessa till kod är knepigt. Sådant tar tid. Människan kommer troligtvis i närtid kunna se robotar som hjälper till med specifika uppgifter. Tyvärr är den där roboten, som freestylar i köket med precision som inte krossar ditt finaste porslin, lite längre bort.

Blockchain med Tove Andersson

Till sist imponerade Tove Andersson (grundare av Kryptogäris)  när hon berättade om Blockchains möjliggörande av innovation och hur det potentiellt kan skapa det Tove kallade  ’shared economy 2.0’.  Ett möjliggörande om att bygga om maktfördelningen i världen - från några få till många.

I och med att tekniken har potential att omfördela makten i världen, är det tråkigt (och farligt) om det är en homogen grupp som bestämmer hur det ska gå till. Vi vet inte hur framtiden kommer ta uttryck. Men vi vet att medvetenhet spelar en nyckelroll i de val vi gör. Tillsammans kan vi försöka utmana så att framtiden inte fastnar i orättvisa stereotyper och förutfattade meningar.

 

Software Test

Bloggen för alla som är intresserade av test och kvalitet. Vi pratar om allt från ledarskap till test, testautomatisering och prestandatest.

Relaterade artiklar