Gesichtserkennung stoppen! Kampagnen gegen Gesichtserkennung und KI-Verordnung

Dossier

[Kinofilm] Face_It! - Das Gesicht im Zeitalter des Digitalismus „… Heute startet die neue Kampagne „Gesichtserkennung stoppen“ der Initiative Digitale Freiheit . Sie richtet sich gegen den Ausbau von automatisierter Gesichtserkennung zur Massenüberwachung – und fordert ein Verbot von automatischer Gesichtserkennung durch staatliche Behörden. (…) Testprojekte wie die mit Gesichtserkennung ausgerüstete Videoüberwachung am Berliner Südkreuz seien im Trend, würden jedoch außer gefühlter Sicherheit wenig konkretes bringen. Als Beispiel für ein Verbot staatlicher Gesichtserkennung führt die Kampagne die Stadt San Francisco an. Dort wurde die Technik mit Hinweis auf die Gefahren, die von ihr ausgehen, bereits verboten. (…) Würde die Technik perfekt funktionieren, könnten Bewegungsprofile erstellt werden und viele tausend Menschen anlasslos gleichzeitig überwacht werden…“ Beitrag von Felix Richter vom 27.12.2019 bei Netzpolitik und die Kampagne „Gesichtserkennung stoppen“ , die das LabourNet Germany mit unterstützt. Siehe dazu weitere:

Datenschutznovelle: Polizei und Bürgerrechtler für Verbot von Gesichtserkennung
„… Bei einer Anhörung im Bundestag zum Gesetzentwurf der Bundesregierung für eine erste Novelle des Bundesdatenschutzgesetzes (BDSG) nahm ein Punkt großen Raum ein, der in dem Vorhaben bislang gar nicht enthalten ist: Ein Verbot biometrischer Überwachung etwa durch automatisierte Gesichtserkennung im öffentlichen Raum. Die Aufnahme dieser Vorgabe forderten vor allem Matthias Marx vom Chaos Computer Club (CCC) und Simone Ruf von der Gesellschaft für Freiheitsrechte (GFF) ein. Überraschend stellte auch Eike Richter, Staatsrechtler an der Akademie der Polizei Hamburg, klar, dass er gegen ein solches Verbot verfassungsrechtlich keine Bedenken habe. Der Gesetzgeber könnte sogar grundrechtlich verpflichtet sein, eine solche Klausel einzufügen. Bei den Verhandlungen über die neue KI-Verordnung der EU galt vor allem Live-Gesichtserkennung als heißes Eisen. Das EU-Parlament forderte anfangs ein allgemeines Verbot biometrischer Massenüberwachung, die Mitgliedsstaaten waren dagegen. Die finale Fassung sieht vor, dass eine Echtzeit-Identifikation „zeitlich und örtlich begrenzt“ möglich sein soll, insbesondere zur gezielten Suche nach Opfern von Entführungen, Menschenhandel und sexueller Ausbeutung oder zur Abwehr „einer konkreten und gegenwärtigen terroristischen Bedrohung“. Die Ampel-Koalition ist sich einig, dass sie verbliebene Hintertüren im AI Act für biometrische Überwachung nicht nutzen, sondern Instrumente wie automatisierte Gesichtserkennung eingrenzen will. Eigentlich seien hierzulande solche Formen der Fernidentifikation für die Polizei „jetzt schon verboten, solange es nicht erlaubt ist“, erläuterte Richter. Aktuell handle es sich aber offenbar um einen „unwirksamen Vorbehalt“. Wenn dieser nicht greife, sollte angesichts der mit dem Instrument verknüpften Eingriffe in das Recht auf informationelle Selbstbestimmung ein explizites Verbot Vorrang haben. Als Parallele nannte der Polizeirechtler das Folterverbot. Die KI-Verordnung beziehe sich zwar insbesondere auf die Regulierung technischer Systeme. Trotzdem könnte eine gesetzliche Untersagung „breiter bleiben“ und gegebenenfalls auch den Privatsektor einschließen. (…) Weiterer Streitpunkt: Die Regierung will auch festlegen, dass Daten wie die Wohnadresse, Name oder Angaben aus sozialen Netzwerken künftig nicht mehr genutzt werden können sollen, um die Zahlungsfähigkeit von Verbrauchern per Scoring einzuschätzen. Wahrscheinlichkeitswerte dürften nur noch erstellt oder verwendet werden, wenn die einbezogenen personenbezogenen Daten für „keine anderen Zwecke verarbeitet werden“. Johannes Müller vom Bundesverband der Verbraucherzentralen (vzbv) bezeichnet es als „wichtig, dass bestimmte Kategorien nicht verwertet werden“. Sonst könnten Nutzer auch ihr Verhalten in Social Media oder ihre Adresse selbst als Ziel identifizieren, um ihren Score zu erhöhen. Die künftige Bundesdatenschutzbeauftragte Louisa Specht-Riemenschneider lobte die vorgesehenen Einschränkungen bei automatisierten Entscheidungen auf Basis von Scoring durch die Schufa & Co. als „ausgewogenen Vorschlag“. Dieser werde aber nicht reichen, um unausgewogene Bewertungspraktiken in den Griff zu bekommen. „Der Elefant im Raum“ seien dabei Zahlungsdienstleister wie Paypal oder Klarna, für die die Vorgaben nicht griffen. Die Bonner Rechtsprofessorin riet daher, auch Artikel 18 der Verbraucherschutzrichtlinie umzusetzen und so die Akteure mit einzuschließen…“ Beitrag von Stefan Krempl vom 24. Juni 2024 bei heise online
Offener Brief zu KI-Verordnung: Bundesregierung soll Biometrie-Überwachung zumindest in Deutschland verbieten
„Mehr als ein Dutzend Digital- und Bürgerrechtsorganisationen fordern die Abgeordneten des Deutschen Bundestages auf, jede Form der biometrischen Fernidentifizierung zu verbieten. Anlass für den offenen Brief ist die Verabschiedung des Artificial Intelligence Acts auf EU-Ebene, ein Gesetz zur Regulierung Künstlicher Intelligenz. Das Gesetzeswerk enthält viele Schlupflöcher, die eine biometrische Überwachung ermöglichen. Die Unterzeichnenden des offenen Briefes, unter ihnen der Chaos Computer Club, Wikimedia und Amnesty International, kritisieren diese Schlupflöcher. „Diese weitreichenden Ausnahmen für Strafverfolgung und Sicherheitsbehörden laden europaweit zum Ausbau öffentlicher Überwachung ein.“ Eine solche Überwachungsinfrastruktur führe dazu, dass Menschen unter dem ständigen Gefühl der Kontrolle ihre Freiheitsrechte nicht mehr ungehindert ausüben könnten. Deswegen verweisen sie auf die Möglichkeit, dass die Bundesregierung die im AI Act vorgesehene Möglichkeit der nationalen Verschärfung europäischer Regeln sowohl für Echtzeit- als auch für nachträgliche biometrische Fernidentifizierung nutzen sollen. Im offenen Brief heißt es: „Wir fordern Sie als Abgeordnete des Deutschen Bundestages daher auf, jede Form der biometrischen Fernidentifizierung in Deutschland zu verbieten!“ (…) Die Durchführung biometrischer Echtzeit-Fernidentifikation im öffentlichen Raum öffnet die Tür in dystopische Verhältnisse, in denen jeder Mensch bei jeder Bewegung im öffentlichen Raum permanent identifizierbar und überwachbar wird. Ähnliches gilt auch für nachträgliche biometrische Fernidentifikation, die ebenfalls die Bildung umfassender Personenprofile ermöglicht. Anonymität im öffentlichen Raum ist eine der Grundvoraussetzungen für freie Meinungsäußerung und demokratischen Protest. Insbesondere Angehörige marginalisierter Gruppen werden von der Ausübung ihrer Meinungs- und Demonstrationsfreiheit abgehalten, wenn sie Repressalien befürchten müssen. Auch der Ampel-Koalitionsvertrag betont: „Das Recht auf Anonymität sowohl im öffentlichen Raum als auch im Internet ist zu gewährleisten.“ Wir fordern Sie deshalb auf, sich für den Schutz der Menschen in Deutschland und das Recht auf ein Leben frei von Massenüberwachung und Kontrolle einzusetzen…“ Beitrag von Markus Reuter mit Wiedergabe des Offenen Briefes vom 13. März 2024 bei Netzpolitik.org , siehe auch:
- djb fordert ein Verbot automatischer Gesichtserkennung im öffentlichen Raum
  „Anlässlich des heutigen Beschlusses eines weltweit ersten Gesetzes zur Regulierung Künstlicher Intelligenz (KI) – der KI-Verordnung durch das Europäische Parlament – fordert der Deutsche Juristinnenbund e.V. (djb) ein Verbot biometrischer Überwachung in der Öffentlichkeit durch staatliche Akteure.
  Biometrische Überwachung des öffentlichen Raums bedeutet eine automatische permanente heimliche Personenüberwachung mit Gesichtserkennung. „Qualitativ schlechte Trainingsdatensätze führen dabei zur Diskriminierung von Frauen und marginalisierten Personen,“ sagt die djb-Präsidentin Ursula Matthiessen-Kreuder, „die Falscherkennungsrate ist bei Frauen und People of Color signifikant höher als bei weißen Männern“. Betroffene sind Ermittlungsverfahren und Grundrechtseingriffen ausgesetzt. Frauen und marginalisierte Personen werden damit in ihren Freiheiten eingeschränkt, ihre politische Teilhabe ist durch Überwachungsdruck gefährdet, die Wahrnehmung z.B. des Rechts auf Abtreibung oder die Stellung eines Asylantrags heute kann schon morgen zu Repressionen führen.
  Auch der Europäische Gerichtshof für Menschenrechte hat im Einsatz von Gesichtserkennungssoftware einen Eingriff in das Recht auf Privatsphäre gesehen und vor einer abschreckenden Wirkung auf die Meinungs- und Versammlungsfreiheit gewarnt. (…) Die KI-Verordnung verbietet biometrische Überwachung grundsätzlich, lässt auf nationaler Ebene aber Ausnahmen für Zwecke der Strafverfolgung und -prävention zu. Der djb erinnert die Regierungsparteien an die Vereinbarung im Koalitionsvertrag zum Verbot biometrischer Überwachung und fordert die Bundesregierung auf, die Möglichkeit nationaler Verschärfung europäischer Regeln für ein nationales Verbot zu nutzen…“ Pressemitteilung vom 13.03.2024 beim Deutschen Juristinnenbund
- Patrick Breyer meldet am 14.3.24 auf mastodon : „Befürworter versuchen den Eindruck zu erwecken, das neue KI-Gesetz der EU (#AIAct) verbiete Gesichtserkennung im öffentlichen Raum. Im ARTE-Abendjournal konnte ich erklären, dass das Gegenteil der Fall ist.“ – siehe das Video von ARTE Journal vom 13.3.
- Siehe zum Hintergrund „EU-Parlament macht Weg frei für weltweit erstes KI-Gesetz, aber auch für biometrische Gesichtserkennung und weitere große Schlupflöcher für Behörden und Unternehmen“ im Dossier: [Vom ADM-Manifest zum KI-Gesetz] Was entscheiden Algorithmen – und wer kontrolliert das? mit grundsätzlichen Infos zum KI-Gesetz
Das Nummernschild im Gesicht kommt: Parlament, Rat und Kommission haben sich auf die KI-Verordnung geeinigt. Das ist schlecht für die Demokratie
„Automatische Gesichtserkennung ist im Prinzip so, als würden wir alle ein gut erkennbares Nummernschild im Gesicht tragen. Ob wir einkaufen, in einen Zug steigen oder auf eine Demonstration gehen – ist die biometrische Technik einmal ausgerollt, sind wir überall über unsere Körperdaten erkennbar und mit Klarnamen unterwegs. Dieser düsteren Dystopie einer Zukunft ohne jegliche Anonymität im öffentlichen Raum sind wir mit der Einigung bei der europäischen KI-Verordnung einen gewaltigen Schritt näher gekommen. Auch wenn noch schlimmere Forderungen abgewehrt wurden, gibt es nichts zu feiern: Das neue Regulierungswerk erlaubt es Staaten prinzipiell, zur Abwehr eines Terroranschlages oder in bestimmten Fällen zur Suche von vermissten Menschen und Tatverdächtigen Überwachungsvideos in Echtzeit mit Gesichtsdatenbanken abzugleichen. In Echtzeit können mit dieser Technik alle Menschen gesucht, gescannt und identifiziert werden, von denen der Staat die Aufnahme von einer Überwachungskamera und ein hinterlegtes biometrisches Foto hat. Die biometrischen Gesichtsdatenbanken haben die meisten europäischen Staaten im Rahmen von Reisepass- oder Einreisegesetzen bereits seit Jahren angelegt und aufgefüllt. Die Bilder sind vorhanden und ihre automatisierte Nutzung haben in Deutschland vergangene Bundesregierungen immer weiter vorangetrieben. Von hier aus ist die Nutzung für die Gesichtserkennung auch außerhalb von Flughäfen und Passkontrollen nur noch ein kleiner Schritt. Manche Kritiker der KI-Verordnung sagen, dass die Echtzeit-Überwachung ja strenge Kriterien habe. Doch das ist Augenwischerei: Das Gesetzeswerk erlaubt auch eine Hinterher-Gesichtserkennung mit deutlich weniger Einschränkungen – nämlich für die Suche nach Tatverdächtigen von „schweren Straftaten“ nach Richterbeschluss. Die Liste dieser Straftaten ist lang und wie wenig ein Richtervorbehalt wert ist, weiß jeder Bürgerrechtler. Und was „Hinterher“ im Vergleich zu „Echtzeit“ eigentlich bedeutet, ist auch nicht klar. Die Grenzen werden verschwimmen. Erfahrungen mit anderen Überwachungstechniken wie der Vorratsdatenspeicherung zeigen, dass am Anfang immer von Terror und schweren Straftaten die Rede war, am Ende die Überwachung aber auch für den kleinen Gras-Dealer und sogar dessen Kund:innen eingesetzt wird. (…) Das Gefühl, dass wir permanent beobachtet werden, wirkt sich auch auf andere sensible Grundrechte wie die Versammlungsfreiheit aus. Die Technik wird Menschen Angst machen, gegen Regierungen zu protestieren, wenn klar ist, dass es theoretisch technisch möglich ist, per Knopfdruck Teilnehmer:innen-Listen solcher Proteste zu erstellen. Das Ende der Anonymität im öffentlichen Raum ist ein herber Schlag für Europas angeknackste Demokratien, die zudem von autoritären und rechtsradikalen Parteien massiv unter Druck stehen. Letztere werden sich freuen, diese neuen Befugnisse gegen alles einzusetzen, was nicht bei drei den rechten Arm oder ähnliches hebt.„ Kommentar von Markus Reuter vom 11. Dezember 2023 bei Netzpolitik.org
- Ernüchterndes Ergebnis: Gesetz zu biometrischer Überwachung
  „Bekommen wir einen Schutz vor biometrischer Massenüberwachung oder wurden Grundrechte hinter verschlossenen Türen verramscht? Wir ordnen die politische Einigung zum „KI“-Gesetz ein…“ Einschätzung von Konstantin Macher am 15.12.2023 in Digitalcourage
- Siehe zum Hintergrund unser Dossier: [ADM-Manifest] Was entscheiden Algorithmen – und wer kontrolliert das?
Biometrische Ausweisbilder: Bundesregierung plant schnelleren Zugriff für Sicherheitsbehörden
„… In der vergangenen Woche hat das Bundeskabinett den Gesetzesentwurf „zur Modernisierung des Pass-, des Ausweis- und des ausländerrechtlichen Dokumentenwesens“ beschlossen. Vorgelegt hatte ihn Bundesinnenministerin Nancy Faeser (SPD). In dem Entwurf sind aus digitalpolitischer Sicht besonders zwei Aspekte interessant. Zum einen sieht das Gesetzesvorhaben vor, das Mindestalter für die Nutzung des Online-Ausweises von derzeit 16 auf künftig 13 Jahre zu senken. Zum anderen sollen Sicherheitsbehörden fortan Lichtbilder aller Bürger:innen automatisiert und zu jeder Zeit bei Pass- und Personalausweisbehörden abrufen können. (…) Alterskontrollen lassen sich auf unterschiedliche Arten durchführen. Das Verfahren mit dem elektronischen Personalausweis gilt als eine vergleichsweise datenschutzfreundliche Form. Damit lässt sich übermitteln, ob eine Person ein bestimmtes Alter hat, ohne sonstige Daten wie Namen oder Adresse zu offenbaren. Dennoch haben die Pläne gleich mehrere Haken. (…) Denn eine strengere Prüfung des Alters könnte dazu führen, dass sich selbst Chatdienste nicht mehr ohne vorherige Ausweiskontrolle nutzen lassen. Dabei könnten es viele Anbieter nicht bei der reinen Altersverifikation belassen, sondern stattdessen die Gelegenheit nutzen, um weitere persönliche Angaben der Jugendlichen abzufragen. Solche Daten – das lehren etliche Hacks und Leaks der Vergangenheit – gelangen immer wieder ungewollt an die Öffentlichkeit und werden von Kriminellen missbraucht. (…) Darüber hinaus soll das geplante Passgesetz ein „Umsetzungsdefizit“ beim automatisierten Lichtbildabruf für bestimmte Sicherheitsbehörden beseitigen. Zwar gibt es die entsprechende Befugnis seit bereits knapp sechs Jahren. Allerdings scheitere der Abruf laut BMI noch immer allzu oft an der technischen Umsetzung. Die Bundesregierung will daher die rund 4.300 kommunalen Meldeämter hierzulande dazu verpflichten, „den automatisierten Lichtbildabruf für die hierzu berechtigten Behörden zu jeder Zeit zu ermöglichen“. Dazu werde es laut Gesetzentwurf „vermutlich eine Spiegeldatenbank auf Länderebene geben, in welcher die einzelnen Pass- und Ausweisbehörden ihre Informationen hochladen bzw. abrufen können“. Im Mai 2017 hatte die Große Koalition den Geheimdiensten das Recht eingeräumt, Biometriedaten aus Ausweisen und Pässen automatisiert abrufen zu dürfen – ohne diese Datenweitergabe an nennenswerte Bedingungen zu knüpfen. Ausschlaggebend ist nach § 25 Personalausweisgesetz (PAuswG) allein, dass die Geheimdienste damit der „Erfüllung ihrer Aufgaben“ nachkommen. Gegen diese weitgehend unbeschränkte Abrufbefugnis hat die Gesellschaft für Freiheitsrechte (GFF) im Jahr 2018 Verfassungsbeschwerde eingelegt, entschieden wurde darüber jedoch noch nicht. Die Klageschrift kritisiert, dass angesichts „der heute sehr weit vorangeschrittenen Vernetzung der Behörden untereinander […] funktional eine bundesweite Datenbank für biometrische Merkmale errichtet“ werde. Eine solche Datenbank schließt das Personalausweisgesetz eigentlich aus. Dort heißt es: „Eine bundesweite Datenbank der biometrischen Merkmale wird nicht errichtet.“ Klageführer sind unter anderem Markus Beckedahl und Andre Meister von netzpolitik.org. (…) Den Ausbau einer biometrischen Schattendankbank will die Bundesregierung mit ihrem aktuellen Gesetzesentwurf offenkundig weiter vorantreiben. Die darin enthaltenen Daten könnten die Sicherheitsbehörden auch für retrograde biometrische Identifizierung bei Videoüberwachungssystemen einsetzen, also für eine nachträgliche Auswertung von Bild- und Videomaterial. Für diese Form der Überwachung spricht sich die Bundesregierung offen aus. So hat sie in den aktuellen Verhandlungen zum europäischen AI Act zwar die Echtzeitauswertung mit Gesichtserkennungsverfahren ausgeschlossen. Allerdings befürwortet sie es, dass Videoaufnahmen oder andere Überwachungsmaterialien quasi auf Vorrat vorgehalten werden, damit diese im Nachgang mit Hilfe biometrischer Verfahren analysiert werden können. Dass die geplante Modernisierung des Passwesens „den Kreis zur Positionierung der Bundesregierung im AI Act“ schließt, befürchtet auch Elina Eickstädt vom CCC. Damit aber würde die Ampel-Regierung gegen den eigenen Koalitionsvertrag verstoßen…“ Beitrag von Daniel Leisegang vom 3. April 2023 in Netzpolitik.org
Kampagne von Amnesty International: #UnscanMyFace – Behalte dein Gesicht. 5 Gründe für ein Verbot von Gesichtserkennungstechnologie
„Mit der Kampagne #UnscanMyFace setzt sich Amnesty International für ein Verbot der Herstellung, des Einsatzes und Exports von Gesichtserkennungstechnologie in Deutschland, der EU und weltweit ein. 5 Gründe für ein Verbot von Gesichtserkennungstechnologie:
Massenüberwachung im öffentlichen Raum wird ermöglicht
Gesichtserkennungstechnologie kann die Handlungen von allen im öffentlichen Raum ganz genau nachverfolgen, z. B. wo, wann und mit wem sich eine Person aufhält. So verschwindet einer der letzten, anonymen Rückzugsorte. Eine Massenüberwachung aller Menschen ist weder angemessen noch verhältnismäßig.
Recht auf Privatsphäre und die Menschenwürde werden verletzt
In mehr und mehr Ländern werden die Gesichter von Menschen in öffentlichen Räumen identifiziert und ihre Bewegungen verfolgt. Unternehmen sammeln ohne Erlaubnis tausende Fotos aus sozialen Netzwerken oder nutzen Gesichtserkennung für Werbezwecke. Handlungen werden im Detail erfasst und Menschen auf Datenpunkte reduziert.
Recht auf Protest und freie Meinungsäußerung werden verletzt
Wer befürchten muss, auf einer Demonstration identifiziert zu werden, nimmt möglicherweise nicht daran teil. Durch das Wissen, ständig überwacht zu werden, scheuen sich viele Menschen davor, ihre Menschenrechte auszuüben. Das gilt verstärkt für Menschen, die ohnehin von Ausgrenzung und Diskriminierung betroffen sind.
Diskriminierungen werden verstärkt
Bei Schwarzen Menschen und People of Colour sowie Frauen und Kindern ist Gesichtserkennung besonders fehlerhaft. Negative Folgen wie Falschverdächtigungen treffen also Menschen besonders hart, die ohnehin Benachteiligungen erfahren. Selbst wenn die Technologie fehlerfrei funktionieren würde: Gesichtserkennung wird verstärkt für die Überwachung bereits marginalisierter Gruppen eingesetzt und verschärft so bestehende Ungerechtigkeiten und Diskriminierungsformen wie Rassismus, Sexismus und Klassismus.
Es gibt keinen demokratischen Rückhalt für Gesichtserkennungstechnologien
Der Einsatz von Gesichtserkennungstechnologie ist nicht demokratisch legitimiert und wird trotzdem stückchenweise eingeführt. Datenschutzbehörden und Expert*innen aus ganz Europa warnen: Der derzeitige Einsatz ist sogar illegal.
In Deutschland ist kaum bekannt, welche Probleme mit Gesichtserkennungstechnologie verbunden sind. Dabei gibt es zahlreiche Organisationen und Initiativen wie „Gesichtserkennung stoppen“ , die schon lange auf die Gefahren hinweisen…“ Kampagnen-Seite bei ai mit weiteren Informationen
EU verbietet automatisierte Gesichtserkennung an öffentlichen Orten – „mit wenigen Ausnahmen“
„… Die Europäische Kommission hat einen Gesetzesvorschlag zur Regulierung von automatisierten Entscheidungssystemen vorgelegt. Hochriskante Anwendungen sollen genehmigungspflichtig werden, bestimmte Formen solcher Systeme möchte die Kommission gänzlich verbieten. Besonderes Augenmerk legt der Vorschlag auf biometrische Videoüberwachung an öffentlichen Orten. Diese soll wegen ihrer Risiken für den Grundrechteschutz grundsätzlich verboten werden, allerdings bleibt der Einsatz solche Technologie in „wenigen, eng definierten Ausnahmefällen“ erlaubt. Der neue Gesetzesvorschlag ist Teil eines Bündels an Maßnahmen , die einen sicheren, ethischen und grundrechtekonformen Einsatz von sogenannter Künstlicher Intelligenz (KI) sicherstellen sollen. Darunter versteht die EU-Kommission nicht nur Software, die maschinelles Lernen und neuronale Netzwerke einsetzt, sondern im Grunde alle Arten algorithmischer Entscheidungs- und Empfehlungssysteme. (…) Durchgesetzt werden sollen die neuen Regeln von nationalen Behörden in den EU-Staaten, als Vorbild dafür dienen sollen bestehende Aufsichtsstrukturen für die Produktsicherheit. Auch die nationalen Datenschutzbehörden dürften bei der Aufsicht eine Rolle spielen. (…) Bei Verstößen gegen das neue Gesetz drohen gesalzene Strafen. (…) Der Gesetzesvorschlag der Kommission geht nun an den Rat der EU-Staaten und an das EU-Parlament…“ Beitrag von Alexander Fanta vom 21. April 2021 bei Netzpolitik.org , siehe dazu:
- Gesichtserkennung & Co: Europäisches Parlament stellt sich gegen biometrische Massenüberwachung
  „Die Bewegung gegen automatisierte Gesichtserkennung und biometrische Überwachung bekommt Rückenwind aus dem Europaparlament. (…) Das EU-Parlament hat sich am gestrigen Dienstag mit deutlicher Mehrheit gegen biometrische Massenüberwachung in der Europäischen Union ausgesprochen. Von den deutschen Abgeordneten stimmten die Abgeordneten von SPD, Grünen, Linken, FDP, Die Partei und Piraten gegen die biometrische Massenüberwachung, die AfD enthielt sich, die Abgeordneten der Union stimmten dafür. Die Resolution des Parlamentes ist rechtlich nicht bindend. Eine Symbolwirkung hat sie dennoch, denn das ungewöhnlich deutliche Abstimmungsergebnis zeigt, wie das Parlament in dieser Frage steht. Das macht es für den Chefverhandler Brando Benifei einfacher, in den bevorstehenden Verhandlungen um die Verordnung zur Regulierung von künstlicher Intelligenz, dem sogenannten Artificial Intelligence Act, Druck in diese Richtung auszuüben. Bislang sieht die EU-Kommission in ihrem Entwurf vor, den Einsatz von Gesichtserkennung und weiteren biometrischen Identifikationssystemen für Behörden nicht zu verbieten, sondern lediglich einzuschränken. Auch die EU-Ratspräsidentschaft hatte sich gegen Verbote der Überwachungstechnologien ausgesprochen. (…) Auf zivilgesellschaftlicher Ebene kämpft die Initiative „Reclaim Your Face“ für ein Verbot von biometrischer Massenüberwachung. Die Initiative versucht auf ihrer Kampagnenwebseite eine Million Unterschriften zu sammeln, um damit das Quorum einer „Europäischen Bürger:innen-Iniative“ zu erreichen. Dafür hat sie noch einige Monate Zeit, braucht aber noch deutlich mehr Unterschriften. Erreicht die Initiative das Quorum, muss sich die EU-Kommission auch formell damit befassen. Reclaim your Face wird von einem breiten Bündnis von digitalen Bürgerrechtsorganisationen aus ganz Europa getragen, unter ihnen EDRi, Amnesty International und der Chaos Computer Club…“ Beitrag von Markus Reuter vom 6. Oktober 2021 bei Netzpolitik.org
Forschungsbericht: Schockierendes Ausmaß von biometrischer Überwachung in Europa
„Ein Netzwerk von Bürgerrechtsorganisationen hat biometrische Überwachungssysteme in Deutschland, den Niederlanden und in Polen untersucht. Die Studie kommt zum Schluss, dass die Systeme vielfach unrechtmäßig genutzt werden. Das europäische Netzwerk von digitalen Bürgerrechtsorganisationen EDRi hat zusammen mit der Edinburgh International Justice Initiative (EIJI) biometrische Überwachungsmethoden in Deutschland, den Niederlanden und Polen untersucht. Der 150-seitige Bericht mit dem Titel „The Rise and Rise of Biometric Mass Surveillance in the EU“ , beweist laut EDRi, dass Gesichtserkennung und andere Formen der biometrischen Massenüberwachung missbräuchlich in der gesamten Europäischen Union angewendet werden. Die Untersuchung zeige, dass biometrische Massenüberwachungspraktiken von Strafverfolgungsbehörden, anderen öffentlichen Stellen und privaten Unternehmen in Deutschland und den Niederlanden in besorgniserregender Weise normalisiert worden seien. Polen beginne aufzuholen. In allen drei Ländern setzen Regierungen und Unternehmen biometrische Massenüberwachungssysteme auf eine Weise ein, die mit dem EU-Datenschutzrecht unvereinbar ist, heißt es in der Pressemitteilung von EDRi . Unschuldige Menschen würden durch die Aufnahme ihrer sensiblen Daten in riesige biometrische Datenbanken wie Verdächtige behandelt. Für Deutschland beschreibt der Bericht nicht nur den Gesichtserkennungsversuch am Berliner Südkreuz , sondern auch die Anschaffung von Software und Hardware zur Gesichtserkennung durch Sicherheitsbehörden und deren Nutzung beispielsweise im Nachgang zu den Protesten zum G20-Gipfel in Hamburg. Kritisiert wird auch die Praxis, dass in Deutschland Reisepässe und künftig Personalausweise mit einem verpflichtenden Fingerabdruck und einem biometrischen Passbild verbunden sind…“ Artikel von Markus Reuter vom 07.07.2021 bei Netzpolitik – siehe auch:
- Biometrie wie in China – und Chatkontrolle in Echtzeit
  „Die EU-Kommission will keine chinesischen Verhältnisse in Europa. Deshalb schlägt sie vor, flächendeckende biometrische Massenüberwachung zu verbieten. Doch in Deutschland wird sie weiter praktiziert. Darauf weisen die Datenschutz-Experten von EDRI und CCC in einer neuen Studie hin. Demnach gibt es systematische Massenüberwachung – sowohl im öffentlichen als auch im privaten Sektor…“ Meldung vom 6. Juli 2021 in Lost in EU
Künstliche Intelligenz: EU-Datenschützer fordern Verbot von Gesichtserkennung im öffentlichen Raum
„Automatisierte Entscheidungssysteme, die mit menschlichen Merkmalen arbeiten, können diskriminieren und Grundrechte einschränken. Deshalb fordern zwei EU-Datenschutzinstitutionen nun ein Verbot bestimmter Anwendungen. Die Pläne der EU-Kommission zur Regulierung von Künstlicher Intelligenz gehen ihnen nicht weit genug. In einer gemeinsamen Stellungnahme fordern der Europäische Datenschutzbeauftragte (EDPS) und der Europäische Datenschutzausschuss (EDPB) ein generelles Verbot des Einsatzes von künstlicher Intelligenz für die automatisierte Erkennung menschlicher Merkmale in öffentlich zugänglichen Räumen. Zu den Überwachungstechnologien zählt die Erkennung von Gesichtern, des menschlichen Gangs, von Fingerabdrücken, der DNA, der Stimme, des Tastenanschlags und anderer biometrischer oder verhaltensbezogener Signale. Der EDPS und der EDPB fordern eine Verschärfung des EU-Gesetzentwurfs zur Regulierung Künstlicher Intelligenz (KI). In der Stellungnahme nennen die beiden Institutionen auf Ebene der Europäischen Union gleich mehrere Fälle, für die sie ein ausdrückliches Verbot der automatisierten Entscheidungssysteme fordern. Neben der KI-gestützten Erfassung menschlicher Merkmale im öffentlichen Raum sollen KI-Systeme, die Menschen mittels biometrischer Daten in Gruppen einteilen und so nach ethnischer Zugehörigkeit, Geschlecht, politischer oder sexueller Orientierung einteilen, ebenfalls grundsätzlich verboten werden. Auch künstliche Intelligenz, die Social Scoring ermöglicht, haben die Datenschützer:innen im Visier. Mit Ausnahme von einzelnen Anwendungen im medizinischen Bereich fordern EDPS und der EDPB außerdem ein Verbot von KI zur Gefühlserkennung. (…) Die EU-Kommission hatte im April einen ersten Gesetzentwurf zur Regulierung von KI-Anwendungen vorgelegt. Den Bereich der internationalen Zusammenarbeit in der Strafverfolgung hatte der Entwurf explizit ausgeklammert. Darüber sind EDPS und EDPB „besorgt“, heißt es in der Stellungnahme…“ Beitrag von Pia Stenner vom 21.06.2021 bei Netzpolitik
[EU-weite Kampagne und Petition] #ReclaimYourFace! Nein zu Biometrischer Massenüberwachung!
Campaign “Reclaim Your Face” calls for a Ban on Biometric Mass Surveillance: „Civil society across Europe launches the “Reclaim Your Face” campaign, demanding that local and national authorities listen to their communities about the serious risks of using facial recognition and other biometric technologies in public spaces. The newly formed coalition calls to ban biometric mass surveillance, in reaction to the rapid and secretive roll out of invasive and unlawful technologies by police forces and local authorities in many European countries…“ Meldung vom 12.11.2020 bei European Digital Rights (EDRi) mit allen Informationen zur Unterschriftensammlung „Ban Biometric Mass Surveillance!“ und dazu:
- Start der Europäischen Bürgerinitiative für eine Zukunft ohne biometrische Massenüberwachung – Bürger.innen-Initiative unterzeichnen!
  „Heute, am 17. Februar 2021, startet das Bündnis Reclaim Your Face eine offizielle Europäische Bürgerinitiative (EBI) zum Verbot biometrischer Massenüberwachung. Mehr als 40 europäische Organisationen rufen dazu auf, diese Initiative zu unterstützen: https://reclaimyourface.eu/de/
  In Deutschland unterstützen bisher der Chaos Computer Club, D64, Digitalcourage, Digitale Freiheit, die Gesellschaft für Informatik und kameras-stoppen.org die Bürgerinitiative und fordern Bürger:innen zum Unterschreiben auf…“ Pressemitteilung vom 17.2.2021 bei Digitalcourage , siehe auch:
- ReclaimYourFace: EU-Initiative für Verbot von biometrischer Überwachung
  „Eine neue Bewegung will biometrische Überwachungstechniken verbieten lassen und setzt dabei auf große Unterstützung der Bevölkerung. Ab heute startet die Europäische Bürger:innen-Initiative von „ReclaimYourFace“…“ Artikel von Vincent Först vom 17.02.2021 bei Netzpolitik
- Siehe den vollen Text der EBI auf Deutsch
- und die rechtliche Analyse von EDRi
- auf Twitter: @ReclaimYourFace
EU-Bürgerinitiative gegen biometrische Massenüberwachung kommt
„… Die im November gegründete Allianz „Reclaim Your Face“, die ein Verbot von biometrischer Gesichtserkennung und anderer Formen der automatisierten Massenüberwachung anhand von Köpermerkmalen fordert, kann als offizielle Europäische Bürgerinitiative (EBI) an den Start gehen. Die EU-Kommission hat dafür am Donnerstag grünes Licht gegeben und die zivilgesellschaftliche Aktion als EBI registriert. Damit können die Organisatoren innerhalb der nächsten sechs Monate damit beginnen, Unterschriften zur Unterstützung ihres Vorschlags zu sammeln. (…) Die Bürgerinitiative soll von Mitte Februar an fürs Unterzeichnen offen stehen. Wird sie innerhalb eines Jahres von einer Million EU-Bürgern aus mindestens sieben verschiedenen Mitgliedstaaten unterschrieben, muss die Kommission innerhalb von sechs Monaten darauf reagieren. Die Brüsseler Regierungsinstitution kann dabei frei entscheiden, ob sie der Aufforderung nachkommen will oder nicht. In jedem Fall muss sie ihren Beschluss aber öffentlich begründen. (…) „Reclaim Your Face“ haben die Bürgerrechtsorganisationen Hermes Center (Italien), Homo Digitalis (Griechenland), Bits of Freedom (Niederlande), Iuridicum Remedium (Tschechien), Share Foundation (Serbien), Access Now und die Dachvereinigung European Digital Rights (EDRi) ins Leben gerufen. Insgesamt unterstützen bislang 22 zivilgesellschaftliche Gruppen den Appell. Sie wollen vor allem öffentliche Plätze als Orte der freien Meinungsäußerung für alle Bürger schützen und bewahren…“ Meldung von Stefan Krempl vom 8. Januar 2021 bei heise online
#BanFacialRecognitionEU: Petition für das Verbot der Gesichtserkennung in Europa
„Mit dieser Petition wird die Kampagne für ein dauerhaftes Verbot der Gesichtserkennung eingeführt, welche in ganz Europa zur Identifizierung und Profilerstellung verwendet wird. Die Technologie zur automatisierten Gesichtserkennung wurde in den EU-Mitgliedstaaten bereits ohne öffentliche Konsultation eingeführt. Wir fordern die Mitglieder des Europäischen Parlaments und der Europäischen Kommission auf, diese enorme Bedrohung der Menschenrechte und unserer Zivilgesellschaft ernst zu nehmen und Gesetze für das sofortige und dauerhafte Verbot der Identifizierung und Profilerstellung mittels Gesichtserkennungstechnologie in ganz Europa zu erlassen. Die Gesichtserkennung ist eine besonders invasive Technologie. Es geht nicht nur um die Überwachung von Aktivisten, Verdächtigen und Minderheiten, sondern auch um eine Verletzung der Privatsphäre für alle. Heute wird die Gesichtserkennung in Europa ohne Transparenz oder öffentliche Debatte eingesetzt und außerhalb eines koordinierten und kohärenten Rechtsrahmens eingesetzt. Mehrere europäische Mitgliedstaaten nutzen die Gesichtserkennung bereits für Sicherheit, soziale Kontrolle und öffentliche Dienste. (…) Schließen Sie sich dem Kampf gegen die Gesichtserkennungstechnologie an: Unterschreiben Sie die Petition, nehmen Sie an der Kampagne teil, ergreifen Sie Maßnahmen, bleiben Sie informiert und teilen Sie diesen Anruf…“Petition der Kampagne #BanFacialRecognitionEU vom September 2020 mit weiteren Informationen, siehe auch einen Beitrag dazu:
- Gesichtserkennung: Kampagne für ein dauerhaftes europaweites Verbot
  „Automatisierte Gesichtserkennung in öffentlichen Räumen, in Schulen oder auf Flughäfen gehört verboten: Das ist die Forderung einer heute europaweit gestarteten Kampagne mitsamt einer Petition. Bei den biometrischen Erkennungsverfahren sei heute noch nicht abzusehen, welche gesellschaftlichen Langzeitfolgen sie haben werden. Heute geht eine neue Kampagne europaweit an den Start, die sich dafür starkmacht, die biometrische Gesichtserkennung einzudämmen. Flankiert von einer Petition fordert die Initiative „Verbot der Gesichtserkennung in Europa!“ eben das und möchte bis Mitte 2021 eine möglichst große Zahl an Unterstützern sammeln. Dass biometrische Verfahren, die Gesichter von Menschen unbemerkt im Vorbeigehen scannen, nach und nach wie selbstverständlich daherkommen, soll mit einem Verbot verhindert werden. Bereits vor einigen Tagen hat die französisch-italienische Initiative ihre Website gestartet und sie unterdessen in mehrere Sprachen übersetzt, darunter auch in Deutsch. Die französische Version konnte bereits mehrere tausend Unterschriften sammeln. (…) Gerade in den letzten beiden Jahren hätten in den europäischen Staaten immer mehr Projekte zur Gesichtserkennung begonnen, erklärt Paolo Cirio, Künstler und Hacktivist aus Italien und einer der Initiatoren der Kampagne, gegenüber netzpolitik.org. (…) Der Kampagnentext vergleicht Gesichtserkennungstechnologien mit gefährlicher Waffentechnik und fordert nicht nur ein Verbot in der Europäischen Union, sondern auch weltweit. Das solle über die Vereinten Nationen (UNO) geschehen. Cirio erklärt gegenüber netzpolitik.org, dass die UNO tätig werden müsse, denn Gesichtserkennung eigne sich zur massenhaften Überwachung und „verletzt die Menschenwürde“. (…) Partner der Kampagne für ein dauerhaftes europaweites Verbot von Gesichtserkennungstechnologie sind bisher FutureEverything aus Großbritannien, wo die automatisierte Gesichtserkennung jüngst einen derben gerichtlichen Rückschlag erlitten hatte, die Share Foundation aus Serbien, außerdem mit European Digital Rights (EDRi) die Dachorganisation der digitalen Bürgerrechtler aus Brüssel sowie die französischen Digitalaktivisten von La Quadrature du Net, die aktuell auch versuchen, mit rechtlichen Schritte gegen die polizeiliche Gesichtserkennung in Frankreich und gegen die dazugehörige Biometriedatenbank mit acht Millionen gespeicherten Bildern vorzugehen. Die Petition kann von jedermann gezeichnet werden, Unterstützer-Organisationen sind nach Angaben Cirios sehr gern gesehen.“ Beitrag von Constanze Kurz vom 22. September 2020 bei Netzpolitik.org
Edit Policy: PimEyes & Gesichtserkennung in Europa – wo bleibt der Aufschrei?
Überwachung per Gesichtserkennung: Ende der Privatsphäre?
„… Stellen Sie sich mal vor, dass Ihre privatesten Facebook-Fotos, intime Details, sich plötzlich auf den Computern US-amerikanischer Polizeibehörden wiederfinden. Falls Sie das für ein völlig ausgeschlossenes Horrorszenario halten, liegen Sie allerdings falsch. Denn genau das ist passiert. Das US-Unternehmen Clearview hat Milliarden an Fotos aus dem Internet in einer Datenbank gesammelt und diese an Polizeibehörden verkauft; darunter auch Fotos aus Europa und Deutschland. Ein Skandal, der bei uns völlig undenkbar wäre? (…) Wie groß der Hunger werden kann, zeigt ein Blick nach Hamburg. 2017 kam es beim G20-Gipfel zu heftigen Krawallen. Bis heute laufen Verfahren gegen Randalierer. Um Straftaten nachweisen zu können, haben die Behörden gigantische Mengen an Videomaterial gesammelt. Es wurde sogar ein Portal eingerichtet, wo jeder Privataufnahmen hochladen kann. Das Material wird nun mit Gesichtserkennungssoftware nach Verdächtigen durchforstet. Aber auf den Bildern sind auch viele Unbeteiligte, die rein zufällig in der Nähe waren – oder auf den vielen friedlichen Demos. Die Gesichter tausender unbescholtener Demonstranten seien biometrisch erfasst und gespeichert worden, kritisiert der Hamburger Datenschutzbeauftragte Johannes Caspar. (…) Lukas Theune, Rechtsanwalt: „Das ist der Weg in einen polizeilichen Überwachungsstaat. Ja, das muss man einfach so sehen. Das führt auch letztlich dazu, dass sich die Einzelne oder der Einzelne ganz genau überlegen muss, gehe ich denn überhaupt noch auf eine Versammlung? Das mache ich doch im Zweifel lieber nicht, wenn danach noch jahrelang computergestützt auswertbar ist, auf welcher Demo ich denn war.“ (…) Johannes Caspar, Datenschutzbeauftragter Hamburg: „Der Rechtsstaat kann es nicht, darf es auch nicht verhindern, dass Kriminalität verfolgt wird. Er muss aber auch gleichzeitig verhindern, dass diese Verfolgung von Kriminalität ausufert und in eine … in einen Bereich der Unkontrollierbarkeit absinkt. Und wenn es dann … wenn das nicht gelingt, dann verlieren wir sozusagen die Bindung, die wir im Rechtsstaat eben gegenüber einem Willkürstaat haben, wo die Polizei machen kann, was sie will.“ Es sind Gesetze, die genau davor schützen, die Grenzen setzen müssen. Aber die Hürden für polizeiliche Maßnahmen sind in den letzten Jahren immer weiter gesenkt worden. In mehreren Ländern darf die Polizei nicht mehr nur bei realen Gefahrensituationen eingreifen – sondern bereits, wenn eine Gefahr nur droht. Aber ab wann „droht” Gefahr? Wird es nicht irgendwann willkürlich? Überlassen wir es Algorithmen, anhand von Annahmen und Erfahrungswerten zu berechnen, wer einmal gefährlich werden könnte? Und wer will das noch rechtsstaatlich kontrollieren?…“ Bericht von Jochen Taßler und Niklas Schenk vom 30. Januar 2020 bei Monitor (Videolänge: ca. 9 Min., in der ARD-Mediathek verfügbar bis zum 30. Dezember 2099)
- Siehe dazu auch unser Dossier: Bundespolizeigesetz: Bundesinnenministerium will u.a. Gesichtserkennungssysteme an Bahnhöfen und Flughäfen
EU erwägt Verbot von Gesichtserkennung (?)
Bündnis fordert Verbot automatisierter Gesichtserkennung – Pläne zur Gesichtserkennung müssen gestoppt werden!
„Ein Bündnis aus zivilgesellschaftlichen Organisationen wendet sich gegen den Vorstoß des Innenministeriums, an 135 Bahnhöfen und 14 Flughäfen automatisierte Gesichtserkennung einsetzen zu wollen. Stattdessen fordert das Bündnis „Gesichtserkennung stoppen“ ein Verbot dieser hochproblematischen Technologie in Deutschland. Auch wenn eine Verbesserung der Sicherheit etwa an Bahnhöfen grundsätzlich sinnvoll erscheint, ist automatisierte Gesichtserkennung als Mittel dafür nicht nur ungeeignet, sondern hat immense negative Folgen für Millionen Passanten und Reisende. Automatisierte Gesichtserkennung bedeutet eine permanente heimliche Personenüberwachung in öffentlichen Räumen wie Bahnhöfen oder Flughäfen. Die Körperdaten aller Vorbeilaufenden werden dabei erfasst und automatisiert mit Datenbanken abgeglichen, ohne dass die Betroffenen dies bemerken müssen. Damit greift die automatisierte Gesichtserkennung tief in die Rechte und Freiheiten von Menschen ein, wenn biometrische Körperdaten quasi im Vorbeigehen und anlasslos analysiert werden. „Automatische Gesichtserkennung ist eine Hochrisikotechnologie“, erklärt Viktor Schlüter von der Organisation Digitale Freiheit: „Hohe Falscherkennungsraten, die Diskriminierung von Frauen und People of Color und das enorme Missbrauchspotential stellen eine Gefahr für die Demokratie dar.“…“ Aufruf vom 09.01.2020 bei Digitalcourage , siehe auch:
- Bündnis von digitalen Bürgerrechtsorganisationen fordert Verbot automatisierter Gesichtserkennung – Bundesinnenministerium will Gesichtserkennung an zahlreichen Bahnhöfen und Flughäfen installieren
  „In den USA haben einige Städte wie San Francisco Gesichtserkennung verboten. US-Abgeordnete wollen deren Einsatz zumindest begrenzen, um Entwicklungen wie in China zu verhindern (In den USA gibt es relativ zur Bevölkerung mehr Überwachungskameras als in China). China ist „Vorbild“ auch für den Westen, was den Einsatz von anlassloser Überwachung und Verfolgung durch Gesichtserkennung betrifft (Chinesische Roboter mit Gesichtserkennung). Das hat, wie Hongkong zeigt, unmittelbar Auswirkungen auf die Wahrnehmung von fundamentalen Bürgerrechten und dem Aufenthalt im öffentlichen Raum (Demonstranten versuchen Überwachung auszuschalten). Bevor Gesichtserkennung punktuell und dann flächendeckend auch bei uns eingeführt wird und dann kaum mehr rückgängig gemacht werden kann, ist jetzt höchste Zeit, vor einer massiven Einführung die Folgen zu diskutieren und danach überlegt und in Ruhe eine Entscheidung zu treffen, ob ein Verzicht nicht einen gesellschaftlichen Fortschritt bedeuten könnte. Weil Telepolis die Einführung der Gesichtserkennung für einen weiteren entscheidenden und gefährlichen Schritt in Richtung einer Überwachungs- und Kontrollgesellschaft erachtet, veröffentlichen wir den Aufruf für ein Verbot automatisierter Gesichtserkennung von Bürgerrechtsorganisationen…“ Artikel von Florian Rötzer vom 9. Januar 2020 bei telepolis

Siehe auch:

unser Dossier: [Gesichtserkennung] Modellversuch am Bahnhof Südkreuz in Berlin: „Das Gesicht kennen wir doch. Irgendwoher“

Kurzlink: https://www.labournet.de/?p=159974 nach oben