Ansiktsigenkänning har lättare för vita män
Svarta kvinnor var svårast att könsbestämma i nytt test
En ny studie på MIT:s Media Lab verkar bekräfta en misstanke många har haft när det gäller att bestämma personers kön och etnicitet baserat på ansiktsigenkänning. Det har tidigare misstänkts att system som använder sig av maskinlärning för att identifiera människor har enklare att bestämma kön och etnicitet på vita personer i allmänhet och vita män i synnerhet skriver New York Times.
I studien på MIT Media Lab lät man tre olika maskinlärningssystem försöka bestämma kön och etnicitet på 1270 politiker från olika länder i världen. I testet så uppgav systemen fel kön i cirka 1% av fallen där personen på bilden var en vit man, 7% om det var en vit kvinna, 12% om det var en man med mörkare hud och hela 35% om det var en kvinna med mörkare hud på bilden. Forskaren Joy Buolamwini som ligger bakom undersökningen skriver:
"Overall, male subjects were more accurately classified than female subjects replicating previous findings (Ngan et al., 2015), and lighter subjects were more accurately classified than darker individuals. An intersectional breakdown reveals that all classifiers performed worst on darker female subjects."
Anledningen till att maskinlärningssystemen kan ha svårare att känna igen människor med mörkare hud uppges bero på att de har fått träna på ett för litet urval bilder som visar personer med olika etniciteter. Sannolikt så har system som utvecklats i USA och Europa antagligen tränats mer på bilder som visat vita människor medan de som har utvecklats i Asien antagligen har tränat mer på att känna igen personer med asiatiskt utseende. För att system för ansiktsigenkänning ska bli bättre i framtiden krävs med andra ord att urvalet av bilder som systemen tränas på blir bättre. Buolamwini skriver i sin studie:
"Since computer vision technology is being utilized in high-stakes sectors such as healthcare and law enforcement, more work needs to be done in benchmarking vision algorithms for various demographic and phenotypic groups."
I den inbäddade tweeten nedan hittas ett klassiskt misstag från en av Googles artificiella intelligenser.
Läs gärna våra regler!