In immer mehr Lebensbereichen werden automatisierte Systeme eingesetzt, um Entscheidungen zu treffen. Es hat sich gezeigt, dass diese Systeme dazu tendieren, Personen und Personengruppen zu benachteiligen. Dieses Phänomen wird oft als „Algorithmendiskriminierung“ diskutiert. Die Datenethikkommission der Bundesregierung hat vorgeschlagen, die Diskriminierungsverbote des Allgemeinen Gleichbehandlungsgesetzes (AGG) auszuweiten, um dem Problem zu begegnen. Doch können Algorithmen überhaupt – im rechtlichen Sinne – diskriminieren? Sind nicht viel eher ihre Schöpfer*innen und die, die den Auftrag hierzu erteilt haben, in die Pflicht zu nehmen? Und hält das Antidiskriminierungsrecht das passende Instrumentarium zur Regulierung der Risiken bereit?
Diskriminierungsverbote können den Gefahren automatisierter Entscheidungssystem nur bedingt entgegenwirken. Problematisch ist nicht erst ein benachteiligendes Ergebnis am Ende eines Entscheidungsprozesses, soweit ein solches überhaupt erkenntlich gemacht wird. Bereits die datenbasierte Kategorisierung von Personen ist gleichheits- und freiheitsrechtlich kritisch. Hierzu braucht es gar keine mehr oder weniger absichtsvolle Diskriminierung. An dieser Stelle kommt das Datenschutzrecht ins Spiel. Im Vortrag wird verdeutlicht, dass „Algorithmendiskriminierung“ vor allem ein datenschutzrechtlich zu bewältigendes Problem ist. Es werden erste Ansätze vorgestellt, wie Gleichheit und Freiheit, Antidiskriminierung und Datenschutz zusammengedacht werden können – und müssen.
Die im Vortrag aufgeworfenen Fragen können anschließend diskutiert werden.
Zur Person:
Wiebke Fröhlich, studierte Juristin, ist wissenschaftliche Mitarbeiterin am Institut für Öffentliches Recht der Goethe Universität in Frankfurt am Main. Sie forscht und promoviert zu den theoretischen Grundlagen des Datenschutz- sowie Antidiskriminierungsrechts. Ein Schwerpunkt ihrer Arbeit liegt in der rechtswissenschaftlichen Analyse statistischer Diskriminierungen im Zusammenhang mit modernen Datenverarbeitungsmethoden. Beim Deutschen Juristinnenbund (djb) engagiert sich Wiebke Fröhlich im „Arbeitsstab Digitales“ für die Fortentwicklung der Gleichberechtigung und Gleichstellung der Frau.