Ein schockierender Skandal : Rite Aid verbietet den Einsatz von Gesichtserkennung, nachdem sie fälschlicherweise Ladendiebe identifiziert hatte!

Rite Aid darf nach FTC-Untersuchung keine Gesichtserkennung mehr verwenden

Rite Aid wurde die Verwendung von Gesichtserkennungssoftware für fünf Jahre untersagt, nachdem die Federal Trade Commission (FTC) herausgefunden hatte, dass der US-Pharmariese unvorsichtigerweise Gesichtsüberwachungssysteme eingesetzt hatte, wodurch Kunden gedemütigt und sensible Informationen gefährdet wurden.

Die Entscheidung der FTC

Die Anordnung der FTC, die der Zustimmung des US-Konkursgerichts bedarf, nachdem Rite Aid im Oktober einen Antrag auf Schutz nach Kapitel 11 des Konkursgesetzes gestellt hat, weist Rite Aid außerdem an, alle Bilder, die im Rahmen des Einsatzes seines Gesichtserkennungssystems gesammelt wurden, sowie alle Produkte, die auf der Grundlage dieser Bilder erstellt wurden, zu löschen. Das Unternehmen muss außerdem ein robustes Datensicherheitsprogramm einführen, um alle von ihm gesammelten personenbezogenen Daten zu schützen.

Der geheime Einsatz von Gesichtserkennung

Ein Reuters-Bericht aus dem Jahr 2020 enthüllte, wie die Drogeriekette über einen Zeitraum von acht Jahren ab 2012 heimlich Gesichtserkennungssysteme in rund 200 Filialen in den USA einführte und dabei vor allem einkommensschwache Stadtteile mit einer nicht-weißen Mehrheit als Testgelände für die Technologie nutzte.

Der Fehler von Rite Aid

Mit der zunehmenden Aufmerksamkeit der FTC für den Missbrauch biometrischer Überwachung wurde Rite Aid zu einem Ziel der Regierungsbehörde. Zu den Vorwürfen gehörte, dass Rite Aid in Partnerschaft mit zwei Vertragsunternehmen eine "Überwachungslisten-Datenbank" mit Bildern von Kunden anlegte, von denen das Unternehmen behauptete, sie hätten in einem seiner Geschäfte kriminelle Aktivitäten begangen. Diese Bilder, die häufig von schlechter Qualität waren, wurden von Videoüberwachungskameras oder Mobiltelefonen der Angestellten aufgenommen.

Die Folgen für die Klienten

Wenn ein Kunde ein Geschäft betrat und mit einem bestehenden Bild in der Datenbank übereinstimmte, erhielten die Angestellten eine automatische Warnung, die sie aufforderte, Maßnahmen zu ergreifen - und meistens ging es dabei um "Näherkommen und Identifizieren", d. h. die Identität des Kunden zu überprüfen und ihn zum Gehen aufzufordern. Häufig handelte es sich bei diesen "Übereinstimmungen" um Falschmeldungen, die dazu führten, dass die Angestellten die Kunden fälschlicherweise der Missetaten beschuldigten und so "Verlegenheit, Belästigung und andere Schäden" verursachten, so die FTC.

Darüber hinaus stellte die FTC fest, dass Rite Aid es versäumt hatte, die Kunden über die Verwendung der Gesichtserkennungstechnologie zu informieren, während es die Angestellten anwies, nicht nicht diese Informationen gegenüber den Kunden offenbaren.

Kontroversen um die Gesichtserkennung

Gesichtserkennungssoftware ist zu einem der umstrittensten Aspekte des Zeitalters der KI-gespeisten Überwachung geworden. In den letzten Jahren haben wir erlebt, dass Städte diese Technologie weitgehend verboten haben, während Politiker darum kämpften, ihren Einsatz durch die Polizei zu regulieren. Unternehmen wie Clearview AI wurden außerdem weltweit wegen schwerer Datenschutzverletzungen durch Daten im Zusammenhang mit der Gesichtserkennung verklagt und verurteilt.

Die inhärenten Verzerrungen von KI-Systemen

Die jüngsten Erkenntnisse der FTC zu Rite Aid beleuchten auch die inhärenten Verzerrungen von KI-Systemen. So behauptet die FTC beispielsweise, dass Rite Aid die Risiken für einige Verbraucher aufgrund ihrer Rasse nicht gemindert hat - ihre Technologie hatte "eine höhere Wahrscheinlichkeit, in Geschäften in überwiegend schwarzen und asiatischen Gemeinden falsch-positive Ergebnisse zu erzeugen als in überwiegend weißen Gemeinden", stellt der Bericht fest.

Rite Aid verteidigt sich

In einer Pressemitteilung erklärte Rite Aid, dass es "froh sei, eine Einigung mit der FTC erzielt zu haben", dass es aber mit den Hauptvorwürfen nicht einverstanden sei.

"Die Vorwürfe beziehen sich auf ein Pilotprogramm für Gesichtserkennungstechnologie, das das Unternehmen in einer begrenzten Anzahl von Geschäften eingesetzt hat", sagte Rite Aid in seiner Pressemitteilung. "Rite Aid hat die Nutzung der Technologie in dieser kleinen Gruppe von Geschäften vor mehr als drei Jahren eingestellt, bevor die Untersuchung der FTC über die Nutzung der Technologie durch das Unternehmen begann."