Gesichtserkennung und Offline-Tracking im KI-Supermarkt: Überwachung und Werbedaten in einem Atemzug

Dossier

[Kinofilm] Face_It! - Das Gesicht im Zeitalter des Digitalismus „Der Supermarktbetreiber Real lässt die Gesichter von Kunden analysieren, die Bildschirme mit Werbung im Kassenbereich anschauen. Das Unternehmen bestätigte auf Nachfrage Informationen der „Lebensmittelzeitung“, denen zufolge der Testbetrieb in 40 der 285 Märkte seit vergangenem Herbst läuft. (…) Datenschutzexperten sehen das System dagegen kritisch. Der Hamburger Datenschutzbeauftragte Johannes Caspar sagte gegenüber der „Lebensmittelzeitung“: „In dem Moment, in dem Bilder von Personen durch Kameras erhoben werden, ist das nicht mehr anonym.“ Folglich müssten die Händler ihre Kunden über die genaue Videoüberwachung informieren. Wie verbreitet sind entsprechende Kamerasysteme? Deutschlands größte Lebensmittelhändler Edeka und Rewe lassen eine Anfrage unbeantwortet“ – aus dem Beitrag „Real lässt Gesichter von Kunden analysieren“ am 29. Mai 2017 im Spiegel-Online , worin auch noch Informationen zu anderen Unternehmen verbreitet werden. Nun regt sich Widerstand dagegen:

Von wegen Künstliche Intelligenz, koloniale Ausbeutung: Indische Arbeitskräfte steckten hinter Amazons smarten Supermarktkassen
„Mit einem angeblich KI-basierten Bezahlsystem wollte Amazon das Einkaufen revolutionieren. Jetzt beendet der Konzern das Experiment „Just Walk Out“ in seinen Supermärkten, einem Bericht zufolge soll es bis heute nicht richtig funktionieren. (…) Das angeblich KI-basierte Abrechnungssystem sei bis zuletzt stark von der manuellen Überprüfung der Einkäufe durch mehr als 1.000 Arbeiter:innen abhängig und so teuer gewesen, dass es sich nicht lohne. (…) Der Fall ist somit ein weiteres Beispiel für die verborgene menschliche Arbeitskraft hinter dem, was Tech-Unternehmen gerne als „Künstliche Intelligenz“ verkaufen. 2019 sorgte etwa eine Bloomberg-Recherche für Schlagzeilen, die aufdeckte, dass Amazon mehr 30.000 Arbeiter:innen in den USA, Costa Rica, Indien und Rumänien beschäftigte, um die sprachgesteuerte „KI“ Alexa auf Amazons Smart-Speaker Echo zu trainieren. Zu diesem Zweck hörten die outgesourcten Arbeitskräfte die Aufnahmen von Echo an, ohne dass die Nutzer:innen davon wussten. Auch die Videoaufnahmen von Amazons angeblich smarter Überwachungskamera Ring werden von regelmäßig von Arbeiter:innen händisch durchgeschaut. Ähnliche Berichte gibt es über den „intelligenten“ Sprachassistenten von Google. Auch wenn Unternehmen ihre Dienste gerne als „Künstliche Intelligenz“ vermarkten, kommen viele von ihnen nicht ohne permanente menschliche Unterstützung aus. „Hinter den Anwendungen stehen Millionen von Menschen, die Inhalte moderieren und Trainingsdaten etikettieren“, berichtete 2023 die KI-Forscherin Milagros Micelli im Interview mit netzpolitik.org. „Sie helfen auch dabei, die Daten überhaupt zu generieren, indem sie Bilder hochladen und Worte einsprechen. Es gibt sogar Mitarbeiter:innen, die sich gegenüber Nutzer:innen als KI ausgeben.“ Die Anthropologin Mary L. Gray und der Informatiker Siddharth Suri nennen das „Geisterarbeit“: Die unsichtbare Tätigkeit von Millionen Menschen, die das Funktionieren moderner Technologie überhaupt erst ermöglicht. Kritiker:innen weisen darauf hin , dass dieses System der Arbeitsteilung hinter KI an koloniale Ausbeutung erinnert: Während die Tech-Konzerne überwiegend in den USA sitzen und mit ihren Diensten Milliardenumsätze machen, stammen die meisten Geisterarbeiter:innen aus Ländern des Globalen Südens, schuften unter problematischen Bedingungen und erhalten oft nicht mehr als einen Hungerlohn. Wir haben Amazon nach dem Beschäftigungsstatus und dem Gehalt der indischen Arbeitskräfte hinter Just Walk Out gefragt und darauf keine Antwort erhalten. (…) In Deutschland betreibt Amazon keine Supermärkte. Doch auch hier experimentieren andere Ketten mit neuen Kassensystemen. Im Berliner Ortsteil Prenzlauer Berg etwa testet Rewe einen Supermarkt, der flächendeckend Bewegungen im Geschäft aufzeichnet und die Rechnung automatisiert zusammenstellt. Verschiedene Kund:innen sollen dabei unter anderem mithilfe der schematischen Darstellung ihres Knochenbaus auseinandergehalten werden – in unserem Bericht nannten wir es deshalb einen „panoptischen“ Supermarkt. In einer Testphase, so hieß es von Rewe, brauche auch dieses System noch menschliche Überprüfung.„ Beitrag von Ingo Dachwitz vom 3. April 2024 bei Netzpolitik.org („Von wegen Künstliche Intelligenz: Indische Arbeitskräfte steckten hinter Amazons smarten Supermarktkassen“)
KI im Supermarkt: Einkaufsparadies oder Big Brother?
„… In den viel gepriesenen, aber weitgehend verschwundenen Tante-Emma-Läden wusste der Händler von jedem Stammkunden, welche Lebensmittel er bevorzugte. Datenschutz war damals kein Thema. Außerdem waren die Kunden froh, dass sie ihre Lieblingsartikel bei ihrem Händler in der Nähe ihres Wohnortes sicher einkaufen konnten. Zum Glück für die Händler waren die Kunden auch daran gewöhnt, dass sie im Laden nur ein begrenztes Sortiment erwarten konnten und kaum alternative Produkte zu günstigeren Preisen. (…) Bei den Supermarktmitarbeitern ist inzwischen ein Kampf um die verbliebenen Bewerber entbrannt. Die Discounter, die sich auf ein schnell drehendes Sortiment konzentrieren und daher mit geringerem Wareneinsatz arbeiten können, zahlen höhere Stundenlöhne bei gleichzeitig höherem Arbeitseinsatz. Erfolgversprechend erscheint hier das Modell von Trigo, das ohne Selbstbedienungskassen auskommt und damit Warteschlangen an der Kasse überflüssig macht. Für den Händler bietet das Angebot des Unternehmens aus Ramat Gan bei Tel Aviv deutliche Vorteile im Hinblick auf die Kenntnis des Käuferverhaltens. Die Analyse des Kaufverhaltens der Kunden im analogen Handel erreicht damit Möglichkeiten, die bisher nur im Online-Handel akzeptiert waren. Nicht alle Beobachter dieser Entwicklung sind vom Weg zum gläsernen Kunden begeistert. (…) Hunderte Kameras, wie sie heute schon in vielen Baumärkten zu finden sind und von den Kunden offensichtlich akzeptiert oder aus Bequemlichkeit verdrängt werden, überwachen jede Bewegung. Das System registriert, welche Waren der Kunde aus dem Regal nimmt. Am Ende des Einkaufs weiß die Kasse automatisch, wie viel der Kunde bezahlen muss. (…) Ohne Zwischenstopp an der Kasse kann man in diesen Läden nach Hause gehen, auch wenn sich das für den normalen Rewe-Kunden etwas nach Ladendiebstahl anfühlt. Kaum ist man aus der Ladentür, wird der digitale Kassenbon auf das Smartphone übertragen. Dort erscheinen alle aus dem Regal genommenen Artikel übersichtlich aufgelistet und der Kunde kann seinen Einkauf auf dem Smartphone überprüfen. Ohne Kassenstopp entfällt auch das lästige Bargeldzählen. Das System ist so aufgebaut, dass es jeden Kunden unterscheiden und während des gesamten Einkaufs verfolgen kann. Rewe erklärt, dass in dem automatisierten Markt in Berlin keine Gesichtserkennung eingesetzt wird. In Ländern, die nicht unter die von der EU ausgelöste Datenschutzgrundverordnung fallen, ist man hier schon viel weiter und kann direkt mit dem Gesicht bezahlen.“ Beitrag von Christoph Jehle vom 23. Januar 2024 bei Telepolis
Panoptischer Rewe-Supermarkt: Einkauf mit Skelettkontrolle
„Wir haben eine Rewe-Filiale in Berlin besucht, in der eine neue Generation von Supermärkten getestet wird. Hunderte Kameras überwachen jede Bewegung. Ein System führt Buch, welche Waren man aus dem Regel nimmt. Am Ende weiß die Kasse automatisch, wie viel man bezahlen muss. (…) Grundsätzlich werden in solchen Supermärkten alle Kund:innen von den Überwachungssystemen erfasst, verfolgt und gespeichert – auch wenn sie ganz herkömmlich einkaufen und am Kassenband bezahlen. (…) Die Videoaufzeichnungen werden laut Rewe bis zu zehn Tagen gespeichert, bis zu sechs Stunden unverpixelt im Supermarkt selbst, anschließend mit verpixelten Darstellungen in der Cloud. „Daten zu Optimierungszwecken“ würden zudem bis zum Vertragsende mit dem Dienstleister gespeichert. (…) Rewe nutzt das System nicht nur, um Kund:innen das Warten beim Abkassieren zu verkürzen oder um langfristig Personal zu sparen. Denn die erhobenen Daten erlauben noch weitere Rückschlüsse…“ Artikel von Markus Reuter vom 13.01.2024 in Netzpolitik mit umfangreichen Hintergründen
Umfrage: 76 Prozent gegen Gesichtserkennung im Supermarkt
„… Mehr als drei Viertel lehnen eine Aufzeichnung und Auswertung von Gesichtern beim Einkaufen ab. Das geht aus einer repräsentativen Umfrage des Marktwächter-Teams Digitale Welt der Verbraucherzentrale NRW hervor. Dabei stößt beispielsweise die Auswertung von Gesichtsaufzeichnungen für zielgruppenspezifische Werbung bei drei Viertel der Befragten auf große Ablehnung. Ähnlich hoch ist die Ablehnung der Gesichtserkennung, wenn diese zum Zwecke zielgruppengerechter Rabatte oder zur Verbesserung von Werbespots geschehen würde. (…) Auch haben etwa vier von fünf Befragten Sorge, dass bei einer automatisierten Gesichtserkennung im Supermarkt unbemerkt Daten über sie gesammelt würden und sie die Kontrolle über diese Daten verlören. Für mehr als zwei Drittel wäre eine automatisierte Gesichtserkennung sogar ein Grund, den Supermarkt zu meiden. Besonders datenschutzbewusst zeigte sich in der Befragung die Gruppe der über 60-jährigen. (…) Doch nicht nur in Geschäften und Supermärkten lehnen die Befragten eine Gesichtserkennung ab, sondern auch in sozialen Netzwerken. Fast alle Nutzer sozialer Netzwerkseiten* (90 Prozent) lehnen Gesichtserkennung – um etwa Freunde vorgeschlagen zu bekommen – durch den Netzwerk-Anbieter ab. Am geringsten ausgeprägt ist die Ablehnung der Befragten, wenn es um den Einsatz von Gesichtserkennung durch Privatpersonen geht: Hier fände es die Mehrheit von ihnen in Ordnung, wenn etwa eine Überwachungskamera – z.B. an der Haustür eines Privathaushalts – das Gesicht zu Sicherheitszwecken analysieren würde (56 Prozent)…“ Beitrag von Markus Reuter vom 5. Oktober 2017 bei Netzpolitik

[Der gläserne Kunde] Ausgespäht im Supermarkt
„Kameras in Läden und Supermärkten? Nichts Neues – so sollen Ladendiebe dingfest gemacht werden. Allerdings: Diese Form der Überwachung dient auch einem anderen Zweck.“ Zur Kundenüberwachung für die Erzeugung von Metadaten bei der Post und bei Real ein Beitrag von Heiko Rahms bei WISO vom 11. September 2017 (Länge: 8:36 Min, abrufbar bis zum 11. September 2018)
Offline-Tracking: Datenspione im Supermarkt
„Der Kunde kann nicht nur in Online-Shops, sondern auch in herkömmlichen Läden auf Tritt und Schritt beobachtet werden: Biometrische Gesichtserfassung und die Auswertung von Handy- und Tonsignalen erlauben Unternehmen den Kunden online wie offline zu identifizieren und lückenlos zu verfolgen. Videokameras in Läden dienen längst nicht mehr dazu, Ladendiebstähle aufzuklären. Sogenannte Frequenzmessegeräte registrieren den einzelnen Kunden beim Betreten des Geschäfts und beobachten, wohin er geht und was er sich näher ansieht. Neuere Systeme können dank biometrischer Gesichtserfassung auch den Kunden identifizieren und seine Stimmungslage bewerten. (…) In Real-Einkaufsmärkten wurde jetzt auf Druck von Verbraucherschützern die biometrische Gesichtsanalyse gestoppt. (…) Einkaufszentren, Restaurantketten und der Einzelhandel verfeinern seit Jahren ihre Verfahren, um das Besuchsverhalten ihrer Kunden zu analysieren. Die biometrische Gesichtserfassung ist nur die neueste Variante des so genannten Offline-Tracking…“ Artikel von Christiane Schulzki-Haddouti vom 14. Juli 2017 in den Stuttgarter Nachrichten online mit Informationen zu den unterschiedlichen Verfahren

Werbedisplays mit Gesichtsscan: Real beendet Tests in Supermärkten
„Einzelhandelskette Real rudert zurück: Die Displays, die Gesichter von Kunden zur Werbeoptimierung scannen, sollen nicht weiter in den eigenen Märkten getestet werden. Der Kundennutzen der Technik sei nicht nachvollziehbar…“ Meldung von Axel Kannenberg vom 27.06.2017 im heise-Newsticker – der Druck hat gewirkt!

Petition gegen Gesichtserkennung in Real-Märkten
„Sehr geehrter Herr Gieseke, sehr geehrter Herr Müller-Sarmiento, wir sind empört darüber, dass sie in ihren real-Supermärkten unsere Gesichter und Gefühle analysieren, ohne uns Kunden darüber zu informieren. Ein allgemeiner Hinweis auf eine Video-Überwachung reicht hier nicht aus – denn was Sie praktizieren, geht weit darüber hinaus! Die Erhebung biometrischer Daten, die für die Gesichtsanalyse nötig sind, ist ein massiver Übergriff, denn sie machen uns eindeutig identifizierbar. Stoppen Sie die Praktiken sofort!“ – so beginnt die Petition „Keine Gesichtsanalyse im Supermarkt!“ seit dem 07. Juni 2017 bei campact.org , in deren Begründung auch darauf hin gewiesen wird, dass es bereits einmal gelang, ähnliches in Supermärkten zu verhindern (bei metro).

Gesichtsanalyse bei Post und Real – Digitalcourage erstattet Strafanzeige
„In 40 Real-Supermärkten werden Kund.innen von Kameras mit Gesichtserkennung ausgespäht, ebenso in 100 Filialen der deutschen Post – zu Werbezwecken. Wir stellen Strafanzeige, um die Überwachung und Analyse von Kund.innen zu stoppen. Die Real-Filialen, die diese Technik einsetzen, wollen das Problem nicht erkennen. Die Pressesprecher wiegeln ab: die eingesetzte Software zur Gesichtserkennung von Kund.innen sei zertifiziert und datenschutzkonform. Außerdem seien in den Filialen klar erkennbare Hinweise zur Videoüberwachung angebracht. Und überhaupt, die Real-Filialen hätten die Daten nicht selber, sondern die gingen an den Dienstleister Echion, dem die Kameras und die Software gehören. Beruhigend klingt das für uns nicht. Deshalb lassen wir uns nicht einlullen! Die Technik stellt einen groben Übergriff auf die Privatsphäre dar. Wir stellen Strafanzeige gegen Post und Real…“ Mitteilung vom 7. Juni 2017 von und bei Digitalcourage mit umfangreichen Hintergründen und der Volltext der Anzeige

Siehe auch im LabourNet Germany:

Kurzlink: https://www.labournet.de/?p=116957 nach oben