Un scandale choquant : Rite Aid interdit d’utiliser la reconnaissance faciale après avoir faussement identifié des voleurs à l’étalage !

Rite Aid interdit d’utiliser la reconnaissance faciale après une enquête de la FTC

Rite Aid a été interdit d’utiliser des logiciels de reconnaissance faciale pendant cinq ans, après que la Federal Trade Commission (FTC) ait découvert que le géant américain de la pharmacie avait utilisé de manière imprudente des systèmes de surveillance faciale, humiliant ainsi les clients et mettant leurs informations sensibles en danger.

La décision de la FTC

L’ordonnance de la FTC, qui est soumise à l’approbation de la Cour de faillite des États-Unis après que Rite Aid ait déposé une demande de protection en vertu du chapitre 11 de la loi sur les faillites en octobre, ordonne également à Rite Aid de supprimer toutes les images collectées dans le cadre de son déploiement de système de reconnaissance faciale, ainsi que tous les produits qui ont été créés à partir de ces images. L’entreprise doit également mettre en place un programme de sécurité des données robuste pour protéger toutes les données personnelles qu’elle collecte.

Le déploiement secret de la reconnaissance faciale

Un rapport de Reuters de 2020 a révélé comment la chaîne de pharmacies avait secrètement introduit des systèmes de reconnaissance faciale dans environ 200 magasins aux États-Unis sur une période de huit ans à partir de 2012, en utilisant principalement des quartiers à faible revenu et à majorité non blanche comme terrain d’essai pour la technologie.

L’erreur de Rite Aid

Avec l’attention croissante de la FTC sur l’utilisation abusive de la surveillance biométrique, Rite Aid est devenu une cible pour l’agence gouvernementale. Parmi les allégations figurent le fait que Rite Aid, en partenariat avec deux entreprises sous contrat, a créé une « base de données de liste de surveillance » contenant des images de clients que l’entreprise affirmait avoir commis des activités criminelles dans l’un de ses magasins. Ces images, souvent de mauvaise qualité, étaient capturées à partir de caméras de vidéosurveillance ou de téléphones portables des employés.

Les conséquences pour les clients

Lorsqu’un client entrait dans un magasin et correspondait à une image existante dans la base de données, les employés recevaient une alerte automatique leur demandant de prendre des mesures – et la plupart du temps, il s’agissait de « s’approcher et d’identifier », c’est-à-dire de vérifier l’identité du client et de lui demander de partir. Souvent, ces « correspondances » étaient des faux positifs qui conduisaient les employés à accuser à tort les clients de méfaits, créant ainsi « embarras, harcèlement et autres préjudices », selon la FTC.

De plus, la FTC a déclaré que Rite Aid avait omis d’informer les clients de l’utilisation de la technologie de reconnaissance faciale, tout en donnant des instructions aux employés de ne pas révéler cette information aux clients.

Les controverses entourant la reconnaissance faciale

Les logiciels de reconnaissance faciale sont devenus l’un des aspects les plus controversés de l’ère de la surveillance alimentée par l’IA. Au cours des dernières années, nous avons vu des villes interdire largement cette technologie, tandis que les politiciens se sont battus pour réglementer son utilisation par la police. Des entreprises telles que Clearview AI ont également été poursuivies et condamnées dans le monde entier pour de graves atteintes à la vie privée des données liées à la reconnaissance faciale.

Les biais inhérents aux systèmes d’IA

Les conclusions récentes de la FTC concernant Rite Aid mettent également en lumière les biais inhérents aux systèmes d’IA. Par exemple, la FTC affirme que Rite Aid n’a pas atténué les risques pour certains consommateurs en raison de leur race – sa technologie avait « plus de chances de générer des faux positifs dans les magasins situés dans des communautés majoritairement noires et asiatiques que dans les communautés majoritairement blanches », note le rapport.

Rite Aid se défend

Dans un communiqué de presse, Rite Aid a déclaré qu’il était « heureux de parvenir à un accord avec la FTC », mais qu’il était en désaccord avec les accusations principales.

« Les accusations concernent un programme pilote de technologie de reconnaissance faciale que l’entreprise a déployé dans un nombre limité de magasins », a déclaré Rite Aid dans son communiqué. « Rite Aid a cessé d’utiliser la technologie dans ce petit groupe de magasins il y a plus de trois ans, avant le début de l’enquête de la FTC sur l’utilisation de la technologie par l’entreprise. »