Digital DNA Newsletter: Facial Recognition, Deep Fake & AI

• Willkommen bei der Archiv-Ausgabe des Digital DNA Newsletters.
• Wir fassen Neuigkeiten aus Technologierecht, Wirtschaftsrecht und Medienrecht zusammen.
• Verpassen Sie keine Ausgabe, hier können Sie unseren Newsletter abonnieren.

Um die Technologie zur Erkennung von Gesichtern auf Fotos oder in Videomaterial ranken sich viele Mythen. Unternehmen sind derzeit gewillt, ihre Dienste und Systeme in einem möglichst guten Licht darzustellen und als extrem leistungsfähig zu bewerben. Ein Blick in die Praxis beweist allerdings, dass z.B. in dem noch EU-Mitgliedsstaat Großbritannien die Fehlerrate bei polizeilichen Facial Recognition Systems bei 81% liegt. Auch die in Deutschland am Bahnhof Südkreuz in Berlin eingesetzten Systeme haben nur wenig effizient erwiesen und eine Vielzahl von „falschpositiven Meldungen“ ergeben. Wer angesichts der Insuffizienz der Systeme sich nun beruhigt zurücklehnt und denkt, dass diese keine Gefahr für die private Gemütsruhe bedeuten, der sollte bedenken, dass es gerade die hohe Fehlerquote ist, die Menschen in Bedrängnis bringen kann. Wessen Gesicht fälschlich im Raster hängen bleibt, der wird bei polizeilichen Systemen gegebenenfalls unmittelbarem Zwang unterworfen oder bei privat genutzten Systemen als Kunde unsanft aus dem Kaufhaus begleitet.

Sollte sich nach ein bis zwei Stunden erkennungsdienstlicher Behandlung herausstellen, dass man tatsächlich nur ein argloser Michel war, der weder terroristischen noch diebischen Aktivitäten nachging, ist die unangenehme Situation nicht aus der Welt geschafft. Aber da kann natürlich keiner etwas dafür, daran war der Algorithmus schuld.

Ist diese Technik vielleicht zu gefährlich, um auf die Bürger losgelassen zu werden? San Francisco und andere US-Städte haben Gesichtserkennungssystem für öffentliche Stellen bereits verboten.

In Deutschland forderten vor wenigen Tagen Netzaktivist*innen kluge Menschen das Verbot des Einsatzes von Gesichtserkennungssystemen durch die Polizei, während das Bundesinnenministerium der Meinung ist, man sollte Gesichtserkennungssysteme auf allen Bahnhöfen und Flughäfen einsetzen, „um Menschen zu fassen, die zur polizeilichen Beobachtung oder Fahndung ausgeschrieben sind“.

Kommt dieser Dammbruch, dann ist es natürlich ein Leichtes, neben Terroristen auch üble Parksünder, Schulschwänzer, Zechpreller und andere Ordnungsbrecher auf gleiche Weise zu jagen, zu finden und einzusperren, dann aber bitte auch auf Autobahnen, öffentlichen Plätzen, in Schulen, Fußgängerzonen sowie in Social Media.

Wie man einen solchen Staat nennt, in dem eine totale Überwachung stattfindet? Mir liegt es auf der Zunge, das Wort will mir nur nicht einfallen… China?

Leseempfehlungen zum Facial Recognition, Deep Fake & AI

Facial Recognition is the Plutonium of AI (Crossrads Magazine) 
It’s dangerous, racializing, and has few legitimate uses; facial recognition needs regulation and control on par with nuclear waste.

The Military Is Building Long-Range Facial Recognition That Works in the Dark (OneZero)
Infrared cameras recognize the heat emitted from your face

What happens When Employers Can Read Your Facial Expressions? (New York Times)
The benefits do not come close to outweight the risks.

Facial Recognition Is the Perfect Tool for Oppression (Woodrow Hartzog @ Medium)
With such a grave threat to privacy and civil liberties, measured regulation should be abandoned in favor of an outright ban.

'Deepfake' app causes fraud and privacy fears in China (BBC)
An artificial-intelligence app that allows users to insert their faces in place of film and TV characters has caused controversy in China.

Facial Recognition, Deepfakes and Biometric PII: Preparing for a Future of Faceless Threats (SecurityIntelligence)
How to Prepare for a Future of Faceless Threats: follow these steps to help businesses, government agencies, universities and research institutions get started developing, deploying and using facial recognition technology.

Sehen Sie genau hin - "Deepfake"-Manipulation von Videos (Süddeutsche Zeitung)
"Deepfake"-Videos sind täuschend echt gefälscht. Eine Herausforderung für Matt Turek von Darpa, der legendären Forschungsbehörde des US-Verteidigungsministeriums. Der Informatiker arbeitet daran, Lügenbilder zu enttarnen.

Clearview AI - The Secretive Company That Might End Privacy as We Know It (New York Times)
The facial recognition app claiming it scraped 3B+ images from sites like Facebook, YouTube, and that 600+ US law enforcement agencies use it.

What facial recognition steals from us (Vox YouTube)
There's a massive bait-and-switch at the center of facial recognition technology.

EU commission considers temporary facial recognition ban in AI ‘white paper’ (Euractiv)
The European Commission is considering measures to impose a temporary ban on facial recognition technologies used by both public and private actors, according to a draft white paper on Artificial Intelligence.

Spirit Legal Neuigkeiten