IBM stopt met apparatuur om gezichten te herkennen

In een brief aan het Amerikaanse congres schrijft directeur Arvind Krishna dat IBM stopt met het ontwikkelen en exploiteren van apparatuur om gezichten te herkennen. Omdat gezichtsherkenningsapparatuur wordt gebruikt om onder andere etnisch te profileren is ze gestopt. "IBM is sterk tegen het gebruik van deze technologie en keurt dit af", aldus Krishna in de brief.

De directeur geeft aan dat gezichtsherkenning en kunstmatige intelligentie (AI) een bijdrage aan veiligheid kan leveren, maar ontwikkelaars en afnemers van dergelijke systemen moeten er samen voor zorgen dat de toepassing correct gebeurt. Wanneer gezichtsherkenning wordt toepast in een omgeving waar het een bijdrage aan de veiligheid van burgers moeten opleveren is het zaak extra kritisch te zijn op vooringenomenheid. Krishna hoopt met de brief het gesprek over het correct toepassen van de apparatuur op gang te brengen.

Krishna's brief werd openbaar terwijl wereldwijd tegen racisme wordt geprotesteerd. Maar het gebruik van gezichtsherkenning ligt al langer onder vuur. Zo zeggen critici dat het op grote schaal herkennen van gezichten in strijd is met burgerrechten en de privacy. De techniek zou daarnaast minder goed vrouwen en zwarte mensen kunnen herkennen.

IBM kwam vorig jaar nog in het nieuws doordat ze zonder toestemming van betrokkenen een miljoen foto’s van de populaire website Flickr gebruikte om de datasets van kunstmatige intelligentie op gezichtsherkenning te vullen en te testen.

#Aim2Community

#Aim2Privacy