Rite Aid nutzte Gesichtserkennung im Geheimen in Hunderten seiner Geschäfte
Illustration von Alex Castro / The Verge
Die Drogeriekette Rite Aid setzte heimlich Gesichtserkennungssoftware über ein Netzwerk von Überwachungskameras an Hunderten von Standorten in den USA ein, wie aus einer am Dienstag veröffentlichten neuen Untersuchung der Nachrichtenagentur Reuters hervorgeht. Das Unternehmen habe dies seit mehr als acht Jahren getan, und es habe erst vor kurzem aufgehört, die Technologie zu nutzen, sagte es Reuters, nach einem “größeren Branchengespräch” über Gesichtserkennung und die ernste Besorgnis über Datenschutzrisiken und Rassendiskriminierung, die es darstelle.
Dennoch sagt Reuters, Rite Aid verteidigte zunächst seine Verwendung der Gesichtserkennung als Abschreckung gegen Diebstahl und Gewaltverbrechen, was nichts mit Rasse zu tun hatte. Die Untersuchung ergab, dass dies nicht ganz wahr war. “In Gebieten, in denen Farbige, darunter schwarze oder lateinamerikanische Einwohner, die größte rassische oder ethnische Gruppe stellten, stellte Reuters fest, dass die Wahrscheinlichkeit, dass Die Geschäfte über die Technologie verfügen, mehr als dreimal so hoch war”, heißt es in dem Bericht.
Nach der Präsentation der Ergebnisse an das Unternehmen, Reuters sagt Rite Aid gab eine neue Erklärung und sagte, dass es seine Kameras ausgeschaltet hatte. “Diese Entscheidung beruhte zum Teil auf einem größeren Branchengespräch”, sagte Rite Aid. “Andere große Technologieunternehmen scheinen ihre Bemühungen um Gesichtserkennung angesichts der zunehmenden Unsicherheit um den Nutzen der Technologie zurückzufahren oder zu überdenken.”
Die Besorgnis über den unregulierten Einsatz von Gesichtserkennung in den USA, sowohl durch Strafverfolgungsbehörden als auch durch private Unternehmen, hat in den letzten Jahren stetig zugenommen, was durch Studien angeheizt wurde, die zeigen, dass die Technologie in ihrer gegenwärtigen Form von Natur aus fehlerhaft ist und eher das Geschlecht und die Identität schwarzer Individuen falsch einklassifizieren. Zahlreiche Unternehmen haben nun öffentlich auf die Technologie in der einen oder anderen Form verzichtet. IBM sagt, dass es die Technologie überhaupt nicht mehr investieren oder entwickeln wird, während sowohl Amazon als auch Microsoft sagen, dass sie Gesichtserkennungsverträge mit Strafverfolgungsbehörden pausieren, bis der Kongress Gesetze verabschiedet, die seinen Verkauf und seine Nutzung regeln. Eine Reihe von Kommunalen Regierungen, wie die von Oakland in Kalifornien, haben ebenfalls damit begonnen, die Verwendung der Technologie durch die Polizei zu verbieten.
Eine wachsende Sorge unter Aktivisten, Forschern der künstlichen Intelligenz und Gesetzgebern ist, dass die Technologie im Geheimen verkauft und verwendet wird, ohne Aufsicht oder Regulierung, die vor Bürgerrechtsverletzungen schützen könnte. Unternehmen wie Clearview AI – bei der zahlreiche Strafverfolgungsbehörden und private Unternehmen eine leistungsstarke Gesichtserkennungsdatenbank und suchliche Stolpersoftware zur Verfügung gestellt haben – haben sich als öffentliche Gesichter der Bedrohung herausgestellt, die die Technologie für die Privatsphäre und andere gefährdete bürgerliche Freiheiten darstellt. Jetzt sieht es so aus, als würden selbst Einzelhandelsketten wie Rite Aid die Gesichtserkennung im Geheimen nutzen.
Besonders alarmierend im Fall von Rite Aid ist, dass das Unternehmen die Technologie eines Anbieters, DeepCam, mit Verbindungen zu einer chinesischen Firma verwendet, berichtet Reuters. Zuvor nutzte Rite Aid eine Firma namens FaceFirst, die bis 2017 nicht auf irgendeine Form von künstlicher Intelligenz angewiesen war und daher routinemäßig Personen, oft schwarze Personen, auf der Grundlage verschwommener Fotos, die ihre Kameras aufgenommen haben, falsch identifizierte, berichtet Reuters. Der Sinn der gesamten Operation, so der Bericht, war es, das Sicherheitspersonal vor jemandem zu warnen, der den Laden betrat, der vergangene kriminelle Aktivitäten gezeigt hatte, damit sie aufgefordert werden, zu gehen, um Diebstahl oder Verbrechen zu verhindern. Aber Reuters’Interviews mit ehemaligen Mitarbeitern und Managern zeigen, wie das System verwendet wurde, um Kunden rassistisch zu profilieren.
Während Rite Aid nicht sagen würde, welche Geschäfte die Kameras benutzten, fand Reuters sie an 33 von 75 Rite Aid Standorten in New York und Los Angeles vom letzten Oktober bis zu diesem Monat. Rite Aid sagt, dass es Kunden informierte, dass die Kameras ihre Gesichter scannten, während sie durch den Laden gingen, aber die Untersuchung ergab, dass an mindestens einem Drittel der Standorte, die die Gesichtserkennungskameras nutzten, eine entsprechende Beschilderung fehlte.
Keywords: afds, afdsafds
