Technischer Ansatz für KI-Fairness veröffentlicht
Acceptance Test-Driven Development (ATDD) und Assurance Cases bilden die Grundlage einer praxisnahen Überprüfung von KI-Systemen.
In der neusten Veröffentlichung aus dem ExamAI-Projekt „Assuring Fairness of Algorithmic Decision Making“ stellen Marc P. Hauer (TU Kaiserslautern), Rasmus Adler (Fraunhofer IESE) und Katharina Zweig (TU Kaiserslautern) einen pragmatischen Ansatz zur Sicherstellung von Fairness für vordefinierte Anwendungen vor. Eine Kombination des agilen Entwicklungsframeworks Acceptance Test-Driven Development (ATDD) und des Konzepts des Assurance Cases aus der Sicherheitstechnik soll die Fairness von Systemen mit algorithmischer Entscheidungsfindung sicherstellen.
Eine zentrale Herausforderung beim Thema ist das unterschiedliche und teilweise widersprüchliche Verständnis von Fairness. Der Ansatz von Hauer et. al. kann die Prüfung von Fairness durch Regulierungsbehörden oder sonstige Audit-Prozesse unterstützen, indem er eine strukturierte Argumentation liefert, die das erreichte Fairness-Niveau und deren Bedingungen für die Anwendung erklärt. Darüber hinaus weist der Ansatz das Potential für eine langfristige Lösung auf und bietet Schutz gegen ungewollte Änderungen.
