IBM, Amazon und Microsoft: Black Lives Matter beendet (?) Partnerschaften mit der Polizei in der Gesichtserkennung

„Das Unternehmen IBM steigt unter dem Eindruck der Massenproteste gegen Rassismus und Polizeigewalt aus der Gesichtserkennung aus, das verkündete Firmen-CEO Arvind Krishna am Montag in einem Brief an US-Abgeordnete und -Senatoren. Dort heißt es, dass sich IBM „entschieden gegen die Nutzung jeglicher Gesichtserkennungstechnologie [..] zur Massenüberwachung, zur Erstellung von ethnischen Profilen und zur Verletzung grundlegender Menschenrechte und -freiheiten“ wende. Es sei an der Zeit, einen Dialog in den Vereinigten Staaten darüber zu beginnen, ob und wie die Technologie von den inländischen Strafverfolgungsbehörden eingesetzt werden sollte, heißt es weiter in dem Schreiben. Laut einem Bericht von CNBC hat IBM selbst bisher keine großen Umsätze mit Gesichtserkennung gemacht, das Unternehmen arbeitete jedoch an mehreren Projekten zu der Technologie. Das Statement des großen Konzerns ist ein deutliches und sichtbares Zeichen. (…) Der Entscheidung von IBM ist eine jahrelange Debatte über rassistischen Bias von Algorithmen und Gesichtserkennung vorausgegangen. Schwarze Wissenschaftlerinnen wie Joy Buolamwini oder Timnit Gebru hatten das Thema erforscht und in Projekten wie Gender Shades und Vorträgen darauf hingewiesen. Auch IBM forschte dazu, Gesichtserkennung „fairer“ zu machen. In den USA haben Städte wie San Francisco begonnen, die Nutzung von Gesichtserkennung zu verbieten. In der Debatte um das Verbot wurde Gesichtserkennung eine „gefährliche Waffe“ genannt…“ Beitrag von Markus Reuter vom 9. Juni 2020 bei Netzpolitik.org : „IBM stellt sich gegen Gesichtserkennungstechnologie […] Zu verdanken ist das auch schwarzen Wissenschaftlerinnen, welche die Probleme der Technologie erforschten“. Siehe auch ähnliche Meldungen zu Amazon und Microsoft:

• Microsoft unterbricht Verkauf von Gesichtserkennung an Polizei in den USA
  „Der nächste Technikkonzern beendet vorerst seine Zusammenarbeit mit Polizeidienststellen in den USA. Bürgerrechtsorganisationen wie die Electronic Frontier Foundation gehen jetzt aufs Ganze – und fordern ein Verbot der Technologie. Der Ausstieg von IBM aus der Gesichtserkennungstechnologie hat einen Domino-Effekt ausgelöst. Nachdem gestern erst Amazon ein einjähriges Moratorium verkündet hatte, hat nun Microsoft den Verkauf der Technologie an US-Polizeidienststellen ausgesetzt. Während eines Gesprächs mit der Washington Post sagte Microsoft-Vorstand Brad Smith, das Unternehmen habe beschlossen, „dass wir die Gesichtserkennung nicht an Polizeidienststellen in den USA verkaufen werden, bis wir ein nationales, auf den Menschenrechten basierendes Gesetz haben, das diese Technologie regelt.“ (…) Liz O’Sullivan vom „Surveillance Technology Oversight Project“ weist darauf hin, dass Microsoft ein solches Gesetz geschrieben habe und nun im Namen von „Black Lives Matter“ dafür auch mit dieser Maßnahme lobbyiere. Die Electronic Frontier Foundation fordert in einer Stellungnahme „ein landesweites Verbot für den Einsatz der Gesichtserkennung durch die Regierung“. Selbst wenn die Technologie stark reguliert wäre, würde ihr Einsatz weiterhin die Krise der Polizeiarbeit in den USA verschärfen. Die Bürgerrechtsorganisation ACLU begrüßte den Schritt von Microsoft und forderte, dass ein Gesetz die Nutzung der Gesichtserkennung pausieren solle. „Fight for the Future“ sprach sich für ein komplettes Verbot aus. Den jetzigen Entscheidungen von IBM, Amazon und Microsoft ist eine jahrelange Debatte über rassistischen Bias von Algorithmen und Gesichtserkennung vorausgegangen. (…) Dabei geht es unter anderem um Fehler bei der Erkennung: Weil Gesichtserkennungssysteme bei People of Color eine höhere Fehlerquote als bei weißen Personen haben, sind sie vom Einsatz der Technologie besonders betroffen. (…) Doch nicht nur der rassistische Bias ist ein Problem der Technologie: Gesichtserkennung erhöht mit„dem Nummernschild im Gesicht“ die allgegenwärtige Überwachung und bedroht Grundrechte wie die Versammlungsfreiheit. In Deutschland setzt sich unter anderem das Bündnis „Gesichtserkennung stoppen!“ gegen diese Hoch-Risikotechnologie ein. Dem Bündnis gehören zahlreiche Digital- und Bürgerrechtsorganisationen an.“ Beitrag von Markus Reuter vom 12. Juni 2020 bei Netzpolitik.org 
• Black Lives Matter: Amazon setzt Gesichtserkennung für Polizei ein Jahr aus
  „Jetzt hat auch Amazon auf die Kritik an Gesichtserkennung reagiert. Bürgerrechtsorganisationen fordern, dass der Konzern ganz aus der Technologie aussteigt und Verträge mit der Polizei auflöst. (…) Amazons Gesichtserkennung „Rekognition“ wird in zahlreichen Polizeirevieren in den USA eingesetzt, mit mehr als 1000 Polizeirevieren ist das Unternehmen eine Partnerschaft bei seiner umstrittenen Überwachungstechnologie „Ring“ eingegangen. Beide Produkte haben nachweislich einen rassistischen Bias. Verschiedene Organisationen kritisierten die Ankündigung als PR-Maßnahme. Das Anti-Amazon-Bündnis „Athena for all“ weist darauf hin, dass Amazon alleine seit dem Tod von George Floyd mit 30 Polizeirevieren eine neue Partnerschaft eingegangen sei. Wenn Amazon es ernst meine, solle das Unternehmen die Partnerschaft mit allen Polizeien beenden. (…) Den jetzigen Entscheidungen von IBM und Amazon ist eine jahrelange Debatte über rassistischen Bias von Algorithmen und Gesichtserkennung vorausgegangen. (…) Amazon versuchte damals die Studienergebnisse zu untergraben, aber Buolamwini veröffentlichte eine detaillierte Antwort, in der sie sagte: „Amazons Ansatz war bisher Verleugnung, Ablenkung und Verzögerung. Wir können uns nicht darauf verlassen, dass Amazon sich selbst überprüft und der Polizei oder Regierungsbehörden unregulierte und nicht-erprobte Technologien zur Verfügung stellt“. Das Moratorium von Amazon bezeichnet sie auf Twitter als „Erfolg nicht nur von Wissenschaftler:innen, sondern auch von Bürgerrechtsorganisationen, Aktivist:innen, Angestellten und Aktionär:innen“, der im Zusammenhang mit dem Tod von George Floyd und aufgrund der Proteste möglich geworden sei…“ Beitrag von Markus Reuter vom 11. Juni 2020 bei Netzpolitik.org