Ce n’est pas la première fois que les réseaux sociaux se veulent discriminants. Après une priorisation de l’affichage d’image de personnes blanches au lieu de personnes noires par l’algorithme de Twitter, c’est au tour de Facebook de se retrouver dans un cas de figure similaire. Le New York Times vient en effet de dévoiler une grosse bourde de la part de l’algorithme de recommandation de Facebook. Après le visionnage d’une vidéo comportant des hommes noirs, il a en effet demandé aux utilisateurs s’ils souhaitaient voir d’autres « vidéos sur les primates ». Cependant, la vidéo s’appelait « un homme blanc appelle les flics contre des hommes noirs à la marina » et ne comportait que des êtres humains, et non des singes.
Le monde des algorithmes en prend un coup chez Facebook
Dans cette vidéo publiée le 27 juin publiée par le tabloïde Daily Mail, l’algorithme de recommandation de Facebook a plus précisément demandé aux utilisateurs s’ils désiraient continuer à « voir plus de vidéos sur les primates ? ». Face à cette recommandation plus que problématique, Facebook a rapidement désactivé la fonction de recommandation de sujet, a expliqué un porte-parole du groupe auprès du média The Verge.
Il souligne notamment qu’« il s’agissait clairement d’une erreur inacceptable », mais aussi que Facebook enquête en ce moment sur la cause de cette recommandation afin d’éviter que cela ne se reproduise. « Comme nous l’avons dit, bien que nous ayons apporté des améliorations à notre IA, nous savons qu’elle n’est pas parfaite et que nous avons encore des progrès à faire. Nous présentons nos excuses à tous ceux qui ont pu voir ces recommandations offensantes », explique-t-il.
Comme dit plus haut, la situation n’est pas nouvelle. Plusieurs situations passées montrent notamment que les outils d’IA, notamment ceux de reconnaissance faciale, ont un problème d’identification des personnes de couleur. Par exemple, Google avait dû s’excuser en 2015 pour un algorithme de son application Photos ayant étiqueté un cliché de personnes noires comme étant des « gorilles ».
