Les algorithmes sont-ils racistes ?

2 septembre 2019 - 23h00 - Monde - Ecrit par : S.A

L’intelligence artificielle produit régulièrement des résultats empreints de discrimination, de racisme à travers la reproduction des biais humains. Conscients de cet état de choses, les acteurs des nouvelles technologies essaient de corriger le tir.

Anne-Laure Thieullent, spécialiste en intelligence artificielle chez le géant français des services informatiques, Capgemini, explique à l’AFP : « Il y a plus d’hommes que de femmes qui travaillent dans les nouvelles technologies, c’est statistiquement la réalité. Maintenant si on crée un algorithme à partir de ces données, sans aucune correction, on va amener un biais dans le programme », qui finira par reproduire les inégalités.

Dans le secteur bancaire, la situation se présente comme suit : un algorithme peut étudier des dossiers et proposer des montants de prêts. Mais si dans la base de données qu’on lui a fournies, les femmes empruntent moins que les hommes, l’algorithme va reproduire cette situation, indique-t-on.

L’autre exemple vient des Etats-Unis. Le site de médias, ProPublica, a examiné les « notes de risque de récidive » octroyées il y a quelques années à des délinquants par un algorithme dans l’Etat de Floride. L’objectif était de rechercher ceux d’entre eux qui ont été à nouveau condamnés ultérieurement, pour évaluer l’exactitude de la prédiction. Les résultats sont probants : les Afro-Américains étaient deux fois plus nombreux à avoir été jugés, par erreur, susceptibles de commettre un nouveau délit.

Pour inverser la tendance, les acteurs des nouvelles technologies font des propositions. En France, un rapport du mathématicien et député, Cédric Villani, avait évoqué en 2018 la création d’un « Corps d’Experts publics assermentés », détaille la même source. A cet effet, la Cnil a envisagé une « Plateforme nationale d’Audit des algorithmes ».

La diversité est également une solution envisageable. Il est question d’intégrer plus de femmes et de rééquilibrer la diversité ethnique dans la technologie, de constituer des équipes pluridisciplinaires au sein des entreprises plutôt que de confier le développement d’une intelligence artificielle uniquement à des ingénieurs.

Bladi.net Google News Suivez bladi.net sur Google News

Bladi.net sur WhatsApp Suivez bladi.net sur WhatsApp

Sujets associés : Racisme - Hi Tech

Aller plus loin

Voici comment l’intelligence artificielle voit les Marocains (photos)

Le magazine Düşünbil Dergisi a publié sur Twitter une série d’images de ressortissants de 19 pays dont le Maroc réalisées par l’intelligence artificielle (IA). La publication a...

États-Unis : un Marocain parmi les concepteurs d’un algorithme révolutionnaire

Le Marocain Anasse Bari fait partie d’un groupe d’informaticiens de l’Université de New York, qui a développé un nouvel algorithme qui « déjoue le profiling des moteurs de...

Ces articles devraient vous intéresser :

Majda Sakho réagit aux insultes racistes visant ses enfants

La Marocaine Majda Sakho, l’épouse de l’international français Mamadou Sakho règle ses comptes avec les personnes ayant proféré des injures racistes envers ses trois enfants.

Christophe Galtier : garde à vue pour discrimination raciale

L’ex-entraîneur de l’OGC Nice, Christophe Galtier, ainsi que son fils, John Valovic-Galtier, ont été placés en garde à vue ce vendredi dans le cadre d’une enquête portant sur des allégations de discrimination au sein du club.

Taxes en hausse au Maroc : les téléphones coûteront plus cher

Le gouvernement marocain prévoit d’augmenter le droit d’importation appliqué aux smartphones. Par conséquent, les prix de ces appareils pourraient augmenter de façon significative.

Violences policières : la France sermonnée par l’ONU

Le Comité pour l’élimination de la discrimination raciale, l’organe affilié aux Nations unies, exprimé sa « profonde préoccupation » concernant les pratiques des forces de police en France vis-à-vis des minorités. Cette inquiétude fait suite au décès...

Iliass Aouani, recordman italien du marathon, répond avec élégance aux injures racistes

Après avoir battu le record italien du marathon (2h07:16), Iliass Aouani a essuyé des insultes racistes. Sur la toile, il a été attaqué notamment sur ses origines marocaines. Plutôt que d’employer le même ton que ses détracteurs, l’athlète a préféré...

Un Marocain tabassé par des videurs dans le nord de l’Espagne

Un jeune homme de 23 ans, médiateur culturel d’origine marocaine résidant à la Corogne, dans le nord-ouest de l’Espagne, a porté plainte, affirmant avoir été victime d’une agression racistede la part de deux videurs.

Accusé de racisme, Christophe Galtier a le soutien de Laurent Blanc

À l’instar de Genesio, Kombouaré et Roy, le coach de l’Olympique lyonnais (OL) Laurent Blanc a défendu son collègue et ami Christophe Galtier, entraîneur du PSG accusé de racisme dans une affaire qui remonte à son passage à l’OGC Nice la saison dernière.

Haine envers les Marocains : prison ferme prononcée par la justice

Le parquet de Valence spécialisé dans les délits de haine a requis trois ans de détention contre un homme accusé de diffusion d’informations mensongères sur les réseaux sociaux ciblant les musulmans, notamment Marocains.

Université Paris-Dauphine : propos racistes envers une étudiante voilée

Une étudiante voilée a été victime de propos racistes de la part d’une intervenante du jury lors d’une soutenance de fin d’année à l’Université Paris-Dauphine.

Agression de MRE en Europe : le parlement marocain interpellé

Un parlementaire du parti de l’Istiqlal vient d’appeler Nasser Bourita, ministre des Affaires étrangères et de la Coopération africaine, à agir pour combattre les attaques racistes répétées ciblant les Marocains résidant à l’étranger (MRE).