Vortrag beim 20. Datenschutzkongress in Berlin

Gemein­sam mit der Rechts­anwältin für Tech­no­lo­gie­recht Britta Hinzpeter von der Wirt­schafts­kanzlei Heuking Kühn Lüer Wojtek hielt Florian Schild beim 20. Daten­schutz­kongress in Berlin einen Vortrag über die „Bewer­tung des Menschen durch Künst­liche Intelli­genz am Bei­spiel von Social Credit Sys­temen“.

Einstieg in das Thema bil­dete die letzt­endlich amü­sante Tat­sache, dass Dong Mingzhu, die Chefin des Klima­anlagen­her­stellers Gree in China und erfolg­reichste Un­ter­neh­merin Chinas, fälsch­lich­er­weise be­zich­tigt wurde, bei Rot eine Fuß­gänger­ampel über­quert zu haben. Dabei er­kannten die Video­kameras, die in China an Fuß­gänger­ampeln Menschen foto­gra­fieren, die trotz roter Ampel die Straße über­queren, per Gesichts­erkennung lediglich ihr auf einem vorbei­fah­ren­den Bus als Wer­bung plat­zier­tes Gesicht. Die lo­kale Poli­zei hat den Fehler zeit­nah auf­geklärt und ein­gestanden.

Davon aus­gehend widmeten sich Frau Hinzpeter aus recht­licher und Herr Schild aus tech­nischer Per­spek­tive Fragen zur Ver­ar­beitung per­sön­licher Daten und dabei auf­tre­ten­den Feh­lern (wie bei­spiels­weise die ge­schei­terte Ge­sichts­er­ken­nung im Fall von Steven Talley), deren Ver­mei­dung und wie man ver­hindern kann, dass Al­go­rith­men einen Menschen ohne dessen Wissen be­wer­ten. Frau Hinzpeter zeigte die recht­lichen Grund­lagen und Pro­bleme des Social Scoring am Beispiel des frag­wü­digen, mit Hilfe von Künst­licher Intelli­genz ent­wickel­ten Lügen­de­tek­tors iBorderCtrl zur effi­zien­teren Grenz­kon­trolle auf.