Racistische computer verkiest vrijwel alleen blanke modellen

Voor het eerst is een internationale schoonheidswedstrijd gejureerd door computers, zo schrijft The Guardian. Het kunstmatige intelligentie-systeem Beauty.AI koos uit ongeveer 6.000 mensen 44 winnaars. Maar die winnaars blijken vrijwel allemaal blank te zijn, ook al kwamen de deelnemers uit ruim honderd landen, waaronder India en Afrika.

Beauty.AI moest kiezen welke gezichten het dichtste bij "menselijke schoonheid" in de buurt kwamen. Maar de machine bleek mensen met een donkere huid daar vrijwel niet onder te scharen. Onder de 44 winnaars is namelijk maar een handjevol Aziaten en slechts één persoon met een donkere huid. Het overgrote deel van de deelnemers was blank, maar ook veel mensen met een andere huidskleur stuurden foto's in.

Aangeleerd
Volgens Alex Zhavoronkov, hoofd wetenschap binnen Beauty.AI, is het grootste probleem dat het systeem te weinig minderheden zag toen het leerde om de kenmerken van schoonheid te herkennen. Hierbij krijgen computers een groot aantal foto's te zien, waaruit ze opmaken wat menselijke schoonheid is.

Onder de mensen op die foto's waren vrij weinig mensen met een getinte huidskleur, zegt Zhavoronkov. Dat leidde ertoe dat de machines de conclusie trokken dat blanke mensen mooier zouden zijn, ook al werd het systeem niet zo gebouwd. "Als je een algoritme leert om bepaalde patronen te herkennen, heb je mogelijk niet genoeg data of is de data mogelijk bevooroordeeld", legt Zhavoronkov uit. 

Discussie
Met de uitslag is ook direct een discussie opnieuw aangewakkerd: zijn computers bevooroordeeld? Bernard Harcourt, een professor in recht en politieke wetenschappen aan de Columbia University, vindt dat de resultaten van de wedstrijd de "perfecte illustratie van het probleem" zijn. Volgens hem is deze zaak een herinnering dat "mensen het denkwerk doen, zelfs als het geformuleerd is als een algoritme en we denken dat het neutraal en wetenschappelijk is".

Sorelle Friedler, een professor in computerwetenschappen bij Haverford College, zegt dat het een groot probleem is dat minderheden vaak ondervertegenwoordigd worden in datasets. Daardoor komen algoritmes mogelijk tot niet accurate conclusies over deze groepen en ontdekken de makers van de machine dit niet. 

In een schoonheidswedstrijd is dit nog een klein probleem, maar er zijn ook systemen die voorspellen waar toekomstige misdaden voorkomen. Deze systemen baseren zich volgens groepen die zich inzetten voor burgelijke vrijheden op gebrekkige statistieken en kunnen bevooroordeeld zijn. Een onderzoek van ProPublica toonde eerder dit jaar aan dat die software bijvoorbeeld partijdig is ten opzichte mensen met een donkere huidskleur, waardoor ze een zwaardere straf krijgen.

Veranderingen
In het geval van Beauty.AI moet er deze herfst een flinke verandering hebben plaatsgevonden. Dan komt er opnieuw een schoonheidswedstrijd, maar voor die tijd worden de discriminerende resultaten uit het systeem gehaald. "We gaan proberen het te corrigeren", zegt Zhavoronkov.

Computers zijn mogelijk niet de beste juryleden als het om het uiterlijk gaat, stelt Zhavoronkov. "Ik was vooral verrast over hoe het algoritme de mooiste mensen koos. Uit een grote groep koos het mensen die ik zelf misschien niet geselecteerd had."