ExamAI – KI Testing & Auditing

Im Konsortialprojekt „ExamAI – KI Testing & Auditing“ unter Leitung der Gesellschaft für Informatik e.V. untersucht ein interdisziplinäres Team aus (Sozio-)Informatiker*innen, Software-Ingenieuren sowie Rechts- und Politikwissenschaftler*innen anhand von zwei konkreten Anwendungsbereichen - (1) Mensch-Maschine-Kooperation in der Industrieproduktion sowie (2) KI-Systeme im Personal- und Talentmanagement - wie sinnvolle Kontroll- und Testverfahren für KI-Systeme aussehen können.

Die Ergebnisse des Projekts sollen einen Beitrag für die weitere Arbeit der in der KI-Strategie der Bundesregierung anvisierten Institutionen leisten. Die Studie leitet Handlungsempfehlungen für die rechtliche und technische Rolle einer solchen Institution in einem mehrstufigen Prozess aus rechtlichen und sozio-technischen Anforderungen an KI-Systeme, den geltenden und derzeit entwickelten Standards, Normen und Richtlinien sowie erfolgreichen Test-, Kontroll- und Zertifizierungspraktiken ab.