Algorithmic Bias - Das Verstärken von intersektionaler Diskriminierung mittels Algorithmen am Beispiel des "Arbeitsmarkt-Chancen-Modells" des AMS
Paola Lopez
Abstract
Ab 2019 wird beim Arbeitsmarktservice Österreich (AMS) unter dem Leitmotiv der Effizienz das sogenannte "Arbeitsmarkt-Chancen-Modell" eingesetzt, um Arbeitssuchende entsprechend ihrer prognostizierten Chancen auf dem Arbeitsmarkt algorithmisch in drei Gruppen mit jeweils unterschiedlichem Zugang zu AMS-Förderressourcen einzuteilen. Da die Personendaten zu Geschlecht, Alter, Kinderbetreuungspflichten, Behinderung und Staatsbürgerschaft explizit im Modell implementiert und damit an die Verfügbarkeit von Ressourcen geknüpft sind, ist dieses algorithmische System als sehr problematisch anzusehen.
Dies ist nur ein Beispiel für eine besorgniserregende Tendenz, gesellschaftspolitische Entscheidungen mit potentiell hochgradig intersektional-diskriminatorischen Auswirkungen anhand algorithmischer Technologien zu legitimieren, die mathematisch objektiv und neutral erscheinen.
Dieser Beitrag wird am Beispiel des AMS Algorithmus eine Einführung in den konzeptuellen Aufbau und die drei Grundbausteine solcher Algorithmen geben und aufzeigen, wie diese Technologien in ihrem derzeitigen Einsatz diskriminatorische Realitäten reproduzieren und verstärken können. Diesen Grundbausteinen liegen menschliche Entscheidungen zugrunde, sodass eine derartige Technologie weder objektiv, noch neutral sein kann. Schließlich wird der Frage nachgegangen werden, ob solche Technologien nicht vielleicht doch emanzipatorisches Potenzial besitzen, das man ausschöpfen könnte, wenn man wollte - und diese Frage vorsichtig bejahen.
Zur Person
Paola Lopez ist Mathematikerin und forscht interdisziplinär an den Schnittstellen von Science and Technology Studies, Rechtswissenschaften und Gender Studies zu gesellschaftspolitischen Problemfeldern von datenbasierten Technologien, wie etwa dem algorithmischen System des AMS Österreich.
Panel 21: Diskriminierung am Arbeitsmarkt
Zeit: Freitag, 08. November 2019, 14:00-16:00 Uhr
Raum: Seminarraum 2, Universitätsstraße 15, 1. Stock WEST
Veranstaltet von der Österreichischen Gesellschaft für Geschlechterforschung und der FP Center Interdisziplinäre Geschlechterforschung Innsbruck (CGI) in Kooperation mit dem Büro für Gleichstellung und Gender Studies der Universität Innsbruck.
