AI kan geen trans- en niet-binaire mensen identificeren

Rain Dove drinkt in een bar en moet naar de badkamer. Terwijl ze door de toegangsgang loopt, scant een camera haar gezicht om de toiletdeur te openen op basis van haar geslacht. Welke deur zou het gezicht van Rain Dove ontgrendelen? Waarschijnlijk die in het herentoilet.

Uit onderzoek van de Universiteit van Colorado in Boulder, VS, is gebleken dat belangrijke op kunstmatige intelligentie gebaseerde gezichtsherkenningssoftware geen trans- en niet-binaire mensen kan identificeren.

Terwijl cisgender mannen en vrouwen in 98% van de gevallen nauwkeurig werden geclassificeerd, werden transgender mensen (die zich niet identificeren met hun geslacht van geboorte) ongeveer 30% van de tijd verkeerd geclassificeerd. In het geval van niet-binaries (die zich niet als mannelijk of vrouwelijk identificeren), miste de machine alle pogingen.

Om het onderzoek uit te voeren, werden 2.450 foto's van gezichten op Instagram verzameld met de hashtags #woman, #man, #transwoman, #transman, #agenderqueer en #nonbinary. Nadat de groep of half verborgen gezichtsrecords waren verwijderd, werd het resterende deel verdeeld in groepen van 350 afbeeldingen die werden gebruikt om de gezichtsherkenningssoftware Rekognition (Amazon), Watson (IBM), Azure (Microsoft) en Clarifai te testen.

Kunstmatige intelligentie repliceert vooroordelen

Onderzoekers geloven dat de algoritmen verouderde stereotypen gebruiken, wat de foutenpercentages verder verhoogt. Een voorbeeld kwam van het team zelf: een van de onderzoekers, die lang haar heeft, werd door de helft van de software als vrouwelijk geclassificeerd.

Gender wordt niet alleen verkeerd begrepen: een MIT Media Lab-onderzoek dat in januari werd gepubliceerd, geeft aan dat Rekognition zwarte vrouwen 30% van de tijd identificeerde als mannen. Hoewel dit soort fouten niet zijn gecorrigeerd, verschijnt vooroordeel op de meest ongewone plaatsen: in 2015 markeerde Google Foto's met behulp van kunstmatige intelligentie zwarte selfies van gebruikers als gorilla-afbeeldingen.

AI kan geen trans- en niet-binaire mensen identificeren via TecMundo