Siri, Hey Google ou Alexa accusés de racisme

Selon le New York times, Google, Amazon, Apple Microsoft et IBM ainsi que leurs technologies de reconnaissance vocale, sont sur le banc des accusés. Pour des chercheurs, la technologie utilisée par ces géants du numérique aurait mal identifié 35 % des mots dits par des personnes de couleurs.

Certains attribuent cette erreur à la performance des outils de reconnaissance des voix. Si les systèmes de reconnaissance vocale proposés par Apple, Amazon, Microsoft, IBM et Google font très peu d’erreurs lorsqu’il s’agit de comprendre les mots dits par des personnes blanches, lorsque ces personnes sont de couleurs, le taux d’erreurs est bien plus important.

D’après l’étude publiée initialement par la revue Proceedings of the National Academy of Sciences, les technologies ont qualifié d’incompréhensible seulement 2 % des extraits audio de personnes blanches, et cela s’est multiplié par 10 pour atteindre 20 % dans le cadre d’audio de personnes noires.

D’autres études révèlent également que la reconnaissance vocale, en plus d’être raciste, serait également sexiste. Pour l’étude de Stanford, l’une des explications au racisme et sexisme de la reconnaissance vocale avancée, s’expliquerait par le fait que les systèmes de reconnaissance vocale seraient défectueux et pas assez testés par les entreprises qui les créent. Celles-ci entraîneraient les technologies sur des bases de données manquant de diversité, soutient-on.