KI-Camp 2021 - KI an die Leine! Testen als Antwort auf KI-Risiken
Vorstellung des Projekts auf der Konferenz KI-Camp
Beschreibung
Session 2: KI an die Leine! Testen als Antwort auf KI-Risiken | 14:45-15:30 Uhr
Speaker*innen: Nikolas Becker, Leonie Beining
Beschreibung:
Insbesondere beim Einsatz von KI-Systemen im Arbeitsumfeld zeigen sich die Risiken der Technologie: Mögliche Diskriminierung in Personalentscheidungen, Sicherheitsrisiken in der Produktion oder schlicht fehlende Robustheit der Systeme. Welche Rolle können Testing- und Auditing-Verfahren spielen, um diese Risiken zu minimieren? Dieser Frage widmet sich das Forschungsprojekt "ExamAI – KI Testing und Auditing". In der Session werden wir uns einerseits die rechtlichen und ethischen Anforderungen an KI genauer ansehen und andererseits erste Forschungsergebnisse zu den Möglichkeiten aber auch Grenzen von KI-Testverfahren vorstellen.