Vortrag beim 20. Datenschutzkongress in Berlin
Gemeinsam mit der Rechtsanwältin für Technologierecht Britta Hinzpeter von der Wirtschaftskanzlei Heuking Kühn Lüer Wojtek hielt Florian Schild beim 20. Datenschutzkongress in Berlin einen Vortrag über die „Bewertung des Menschen durch Künstliche Intelligenz am Beispiel von Social Credit Systemen“.
Einstieg in das Thema bildete die letztendlich amüsante Tatsache, dass Dong Mingzhu, die Chefin des Klimaanlagenherstellers Gree in China und erfolgreichste Unternehmerin Chinas, fälschlicherweise bezichtigt wurde, bei Rot eine Fußgängerampel überquert zu haben. Dabei erkannten die Videokameras, die in China an Fußgängerampeln Menschen fotografieren, die trotz roter Ampel die Straße überqueren, per Gesichtserkennung lediglich ihr auf einem vorbeifahrenden Bus als Werbung platziertes Gesicht. Die lokale Polizei hat den Fehler zeitnah aufgeklärt und eingestanden.
Davon ausgehend widmeten sich Frau Hinzpeter aus rechtlicher und Herr Schild aus technischer Perspektive Fragen zur Verarbeitung persönlicher Daten und dabei auftretenden Fehlern (wie beispielsweise die gescheiterte Gesichtserkennung im Fall von Steven Talley), deren Vermeidung und wie man verhindern kann, dass Algorithmen einen Menschen ohne dessen Wissen bewerten. Frau Hinzpeter zeigte die rechtlichen Grundlagen und Probleme des Social Scoring am Beispiel des fragwüdigen, mit Hilfe von Künstlicher Intelligenz entwickelten Lügendetektors iBorderCtrl zur effizienteren Grenzkontrolle auf.
