Gesichtserkennung: Stellungnahme der SI-Fachgruppe „Informatik & Gesellschaft“

Als Fachgruppe «Informatik und Gesellschaft» der SI empfehlen wir, Gesichtserkennung mit dem Potential zur Massenüberwachung im öffentlichen Raum zu verbieten. Nicht nur wegen der bekannten und vielerorts beschriebenen Mängel der Technologie (Diskriminierung, Falscherkennung), sondern vor allem wegen der hemmenden Effekte auf die demokratischen Prozesse (z.B. öffentliche Kundgebungen) und die Diversität unserer Gesellschaft (Kreativität, Selbstausdruck) halten wir den Schaden, der durch solche biometrische Massenüberwachung entsteht, für grösser als den möglichen Nutzen. Das Gleiche gilt für den Einsatz von Gesichtserkennung im quasi-öffentlichen Kontext (zu diesem zählen u.a. Fussballstadien, Bahnhöfe, Einkaufszentren) solange die Gesetze bezüglich der Datenspeicherung und -weiterverwendung nicht festgelegt sind.

Gesichtserkennung ist eine Form der biometrischen Datenverarbeitung. Dabei wird ein Bild von einem Gesicht mit einem oder mehreren anderen Bildern verglichen. Für jedes Referenz-bild wird ein Ähnlichkeitsmass berechnet. Übersteigt dieser Wert einen vorgegebenen Schwell-wert, werden die Bilder als zur gleichen Person gehörig betrachtet.

Massenüberwachung mittels biometrischer Technologien

Daten, die mit oder ohne unser Einverständnis über uns gesammelt werden, führen bereits dazu, dass das Verhalten von uns – meistens als Konsumentinnen und Konsumenten – vorhergesagt und manipuliert werden kann. Mittels biometrischem Tracking wissen die Betreiber der Gesichtserkennung, wer sich wann wo (und mit wem) aufgehalten hat. Dadurch wird die Macht, welche private oder öffentliche Organisationen erlangen, um ein Vielfaches vergrössert. Gesichtserkennungsanwendungen sind besonders problematisch, weil sie unbemerkt stattfinden. Die Möglichkeit für ‹opt-in› oder ‹opt-out› ist nicht gegeben.

Generell lassen sich drei breite Anwendungsarten der Gesichtserkennung unterscheiden. Bei der Verifikation wird das aktuelle Bild mit genau einem anderen verglichen (1:1 Match). Ein typisches Beispiel ist Authentisierung (Smartphone- Entsperrung, Zugangskontrolle) und Identitätsüberprüfung. Bei der Identifikation wird ein Bild einer zunächst unbekannten Person mit Aufnahmen von mehreren Personen, deren Identität bekannt ist, verglichen mit dem Ziel, die Identität der Person im aktuellen Bild zu bestimmen (1:n Match). Die Identifikation hat das grösste Missbrauchspotential und ist darum hier im Fokus. Die Klassifikation reicht von der Bestimmung, ob auf einem Bild überhaupt eine Person enthalten ist (z.B. Zählung von Personen), bis hin zur (wissenschaftlich fragwürdigen) Gefühlserkennung.

Verbot versus Moratorium

Nicht nur die Mängel der gegenwärtigen Technologie, welche zu Diskriminierung, falscher Verdächtigung bis hin zu ungerechten Entscheidungen führen können, sprechen für das Verbannen der Gesichtserkennung zur Massenüberwachung im öffentlichen Raum. Wir schätzen das grundsätzliche Schadenspotential als so gross ein, dass auch verbesserte Technologie das Problem des Datenhandlings nicht lösen können wird. Deshalb ist die Gesichtserkennung mit dem Potential zur Massenüberwachung dauerhaft zu verbieten.

Demokratischer Prozess und Evolution

Eine dauernde flächendeckende Observierung hemmt die Bereitschaft für die Teilnahme an gesellschaftlichen und meinungsbildenden Prozessen und führt zu einem konformen, angepassten Verhalten. Dies widerspricht unserer Demokratie und unseren Werten und stellt einen Angriff auf freie Meinungsäusserung und Menschenwürde dar. Zudem beeinträchtigt Massenüberwachung die Diversität, die Kreativität und unsere Entwicklungsmöglichkeiten.

Missbrauch und unbefugte Nutzung von biometrischen Daten

Ohne Verbot oder zumindest Regulierung der Gesichtserkennung wird dem Missbrauch von biometrischen Daten Tür und Tor geöffnet. Polizisten und andere Staatsangestellte können z.B. politisch Andersdenkende mittels Gesichtserkennung identifizieren und anschliessend stalken oder mobben (s. z.B. NSU 2.0 in Deutschland).

Anfällig für Missbrauch sind ausserdem Bilddatenbanken bei privaten Firmen wie ClearView und PimEyes, die es erlauben, Personen anhand eines Bildes zu identifizieren bzw. eine Rückwärtssuche mit Gesichtsaufnahmen durchzuführen.

Was können SI-Mitglieder tun? – Sich in der Fachgruppe „Informatik und Gesellschaft“ engagieren; – Petitionen zum Verbot von Gesichtserkennung zur Massenüberwachung unterschreiben (z.B. ReclaimYourFace.eu, s.u.); – Uns Anwendungsbeispiele von Gesichts-erkennung in der Schweiz zur Kenntnis bringen!

Literaturhinweise und weiterführende Informationen

Eine Stellungnahme zur Gesichtserkennung unserer amerikanischen Schwestergesellschaft:
Statement on Principles And Prerequisites for the Development, Evaluation and Use of Unbiased Facial Recognition Technologies. ACM U.S. Technology Policy Committee, June 2020 (https://www.acm.org/binaries/content/assets/public-policy/ustpc-facial-recognition-tech-statement.pdf)
San Francisco war eine der ersten (von mittlerweile mehreren) Städten, die Gesichtserkennung verboten haben:
Conger, R. Fausset, S.F. Kovaleski: San Francisco Bans Facial Recognition Technology. The New York Times, 14.5.2019 (https://www.nytimes.com/2019/05/14/us/facial-recognition-ban-san-francisco.html, besucht am 27.1.2020)
Der Chaos Computer Club analysiert die Ergebnisse des deutschen Versuchs am Bahnhof Südkreuz in Berlin:
erdgeist: Biometrische Videoüberwachung: Der Südkreuz-Versuch war kein Erfolg. CCC, 18.10.2018 (https://www.ccc.de/de/updates/2018/debakel-am-suedkreuz, besucht am 16.02.2020).
Eine tiefgehende Analyse, welche Grund- und Menschenrechte durch Gesichtserkennung eingeschränkt werden:
Facial recognition technology: fundamental rights considerations in the context of law enforcement. Europan Union Agency for Fundamental Rights, November 2019 (https://fra.europa.eu/en/news/2019/facial-recognition-technology-fundamental-rights-considerations-law-enforcement)
In den USA sind viele Bürger*innen bereits in Gesichtserkennungsdatenbanken gespeichert, was einer permanenten Gegenüberstellung und Verdächtigung gleichkommt:
Garvie, A. M. Bedoya, J. Frankle, M. Daugherty, K. Evans, E. J. George, S. McCubbin, H. Rudolph, I. Ullman, S. Ainsworth, D. Houck, M. Iorio, M. Kahn, E. Olson, J. Petenko, K. Singleton: The Perpetual Line-up. Unregulated Police Face Recognition in America. Georgetown Law Center on Privacy & Technology, October 2016
Stellungnahme unserer deutschen Schwestergesellschaft:
GI lehnt Gesichtserkennung im öffentlichen Raum ab. Gesellschaft für Informatik, 19.2.2020 (https://gi.de/meldung/gi-lehnt-gesichtserkennung-im-oeffentlichen-raum-ab)
Bericht in der New York Times über die Firma ClearView:
Hill: The Secretive Company That Might End Privacy as We Know It. New York Times, 18.1.2020 (https://www.nytimes.com/2020/01/18/technology/clearview-privacy-facial-recognition.html, besucht am 27.1.2020)
Eines von inzwischen vielen Beispielen, welche konkreten Auswirkungen Gesichtserkennung auf unschuldige Individuen haben kann:
Hill: Flawed Facial Recognition Leads To Arrest and Jail for New Jersey Man. New York Times 29.12.2020 (https://www.nytimes.com/2020/12/29/technology/facial-recognition-misidentify-jail.html, besucht am 11.1.2021)
Aufruf von EDRi (einem internationalen Netzwerk von zivilgesellschaftlichen Organisationen), Gesichtserkennung in der EU zu verbieten:
Jakubowska, D. Naranjo: Ban Biometric Mass Surveillance. A set of fundamental rights demands for the European Commission and EU Member States. EDRi, May 2020 (https://edri.org/wp-content/uploads/2020/05/Paper-Ban-Biometric-Mass-Surveillance.pdf)
Diskriminierung und Massenüberwachung durch Gesichtserkennung in China:
Mozur: One Month, 500,000 Face Scans: How China Is Using A.I. to Profile a Minority. The New York Times, 14.4.2019 (https://www.nytimes.com/2019/04/14/technology/china-surveillance-artificial-intelligence-racial-profiling.html)
Einführung in die Gesichtserkennung:
Bringing Facial Recognition Systems To Light. Partnership on AI (https://www.partnershiponai.org/facial-recognition-systems/, besucht am 10.3.2021)
Kampagne vieler internationaler Organisationen (inkl. GI), Gesichtserkennung zu verbieten:
eu
Gesichtserkennung und Massenüberwachung von Bürger*innen in USA:
Selinger a A. Cahn: Did you protest recently? Your face might be in a database. The Guardian, 17.7.2020 (https://www.theguardian.com/commentisfree/2020/jul/17/protest-black-lives-matter-database, besucht am 17.12.2020)
Aufruf des Microsoft-Präsidenten, Gesichtserkennung staatlich zu regulieren:
B. Smith: Facial recognition technology: The need for public regulation and corporate responsibility. Microsoft, 13.7.2018 (https://blogs.microsoft.com/on-the-issues/2018/07/13/facial-recognition-technology-the-need-for-public-regulation-and-corporate-responsibility/