Facebook : un algorithme confond des personnes noires avec des singes

Un algorithme de recommandation de Facebook vient d’identifier des personnes noires dans une vidéo de « primates ».

L'algorithme de Facebook confond une personne noire d'un singe.
Facebook est au cœur d'un conflit entre son algorithme et une personne noire. © Unsplash
- Publicité -

Ce n’est pas la première fois que les réseaux sociaux se veulent discriminants. Après une priorisation de l’affichage d’image de personnes blanches au lieu de personnes noires par l’algorithme de Twitter, c’est au tour de Facebook de se retrouver dans un cas de figure similaire. Le New York Times vient en effet de dévoiler une grosse bourde de la part de l’algorithme de recommandation de Facebook. Après le visionnage d’une vidéo comportant des hommes noirs, il a en effet demandé aux utilisateurs s’ils souhaitaient voir d’autres « vidéos sur les primates ». Cependant, la vidéo s’appelait « un homme blanc appelle les flics contre des hommes noirs à la marina » et ne comportait que des êtres humains, et non des singes.

Le monde des algorithmes en prend un coup chez Facebook

Dans cette vidéo publiée le 27 juin publiée par le tabloïde Daily Mail, l’algorithme de recommandation de Facebook a plus précisément demandé aux utilisateurs s’ils désiraient continuer à « voir plus de vidéos sur les primates ? ». Face à cette recommandation plus que problématique, Facebook a rapidement désactivé la fonction de recommandation de sujet, a expliqué un porte-parole du groupe auprès du média The Verge.

Il souligne notamment qu’« il s’agissait clairement d’une erreur inacceptable », mais aussi que Facebook enquête en ce moment sur la cause de cette recommandation afin d’éviter que cela ne se reproduise. « Comme nous l’avons dit, bien que nous ayons apporté des améliorations à notre IA, nous savons qu’elle n’est pas parfaite et que nous avons encore des progrès à faire. Nous présentons nos excuses à tous ceux qui ont pu voir ces recommandations offensantes », explique-t-il.

Comme dit plus haut, la situation n’est pas nouvelle. Plusieurs situations passées montrent notamment que les outils d’IA, notamment ceux de reconnaissance faciale, ont un problème d’identification des personnes de couleur. Par exemple, Google avait dû s’excuser en 2015 pour un algorithme de son application Photos ayant étiqueté un cliché de personnes noires comme étant des « gorilles ».

- Publicité -
Article précédentLa mise à niveau PS4 vers PS5 de Horizon Forbidden West sera gratuite
Article suivantDes images d’une coque de l’iPhone 13 Pro Max fuitent sur internet
Directeur des publications sur HighNews.fr. Je suis un passionné de tout l’univers high-tech, Gaming, Informatique et Internet. Nous pouvons discuter ensemble de votre projet de numérisation afin de vous projeter sur Internet ! Nous avons une équipe sensationnelle qui saura répondre à vos moindres besoins. Si je ne réponds pas, c’est que je suis bloqué devant un boss dans Dark Souls ou en train de m’enfiler des gâteaux au chocolat devant Harry Potter.