Zum Hauptinhalt springen

Der Begriff der Diskriminierung im Kontext von KI-Anwendungen

Dr. Adriana Pavic (Uni Saarbrücken): „Der Begriff der Diskriminierung im Kontext von KI-Anwendungen“

Website der Veranstaltung

Datum und Uhrzeit

14.07.2021, 18:00 - 19:00 Uhr
Im Kalender speichern

Beschreibung

„Diskriminierung“ ist ein Wort mit signifikanter normativer Kraft. Es wird in der Alltagssprache verwendet, zudem wird Diskriminierung durch verschiedene nationale und internationale Rechtsnormen sanktioniert. Die für seine Anwendung erforderliche genauere Klärung des Begriffs und seiner Relevanz im Kontext der Diskussion von ethischen Kriterien für die Anwendung von KI-Systemen stellt uns jedoch vor einige theoretische Herausforderungen.

Im ersten Teil des Vortrags gebe ich einen Überblick über vorgeschlagene Kriterien, anhand derer sich Fälle von Diskriminierung von anderen Formen ethisch problematischen und unproblematischen Ungleichbehandelns von Personen oder Personengruppen unterscheiden lassen und mache Hellmans (2008, 2018) Kriterium stark, demzufolge das, was Diskriminierung im Kern ausmacht, die soziale Bedeutung entsprechender Handlungen ist, die auf eine bestimmte Weise eine Abwertung („demeaning“) der Betroffenen zum Ausdruck bringen. Ich erläutere, wie genau das zu verstehen ist und inwiefern dieses Kriterium anderen überlegen ist, die auf den resultieren Nachteil für die Betroffenen (Lippert-Rasmussen 2006, 2014), die Irrelevanz der zur Ungleichbehandlung herangezogenen Eigenschaft (Halldenius 2018), den Mangel an Respekt (Eidelson 2015), den Einfluss der Betroffenen auf die herangezogene Eigenschaft oder die intentionalen Zustände der Handelnden als wesentlich für Diskriminierung abheben, zeige aber auch die Schwachstellen bzw. Grenzen von Hellmans Konzeption auf.

Im zweiten Teil des Vortrags untersuche ich, inwieweit diese Kriterien auch auf die sogenannte indirekte Diskriminierung durch algorithmische „Entscheidungen“ oder Entscheidungshilfen anwendbar sind. Gibt es eine Gemeinsamkeit, die Diskriminierung wesentlich ausmacht, oder benötigen wir hier andere Kriterien? Handelt es sich bei den relevanten Phänomenen tatsächlich um Instanzen von Diskriminierung? Zu diesen Fragen nehme ich Stellung, indem ich einerseits Gemeinsamkeiten aufzeige, die eine Rückbindung von indirekter Diskriminierung an die Kriterien für direkte Diskriminierung erlauben, andererseits aber auch begründe, warum wir bestimmte Arten von unfairen Outputs nicht unter den Begriff der Diskriminierung fassen sollten.

https://www.uni-goettingen.de/de/veranstaltungen/70423.html