Zum Hauptinhalt springen

ExamAI – KI Testing & Auditing

Im Konsortialprojekt „ExamAI – KI Testing & Auditing“ unter Leitung der Gesellschaft für Informatik e.V. untersucht ein interdisziplinäres Team aus (Sozio-)Informatiker*innen, Software-Ingenieuren sowie Rechts- und Politikwissenschaftler*innen anhand von zwei konkreten Anwendungsbereichen - (1) Mensch-Maschine-Kooperation in der Industrieproduktion sowie (2) KI-Systeme im Personal- und Talentmanagement - wie sinnvolle Kontroll- und Testverfahren für KI-Systeme aussehen können.

Die Ergebnisse des Projekts sollen einen Beitrag für die weitere Arbeit der in der KI-Strategie der Bundesregierung anvisierten Institutionen leisten. Die Studie leitet Handlungsempfehlungen für die rechtliche und technische Rolle einer solchen Institution in einem mehrstufigen Prozess aus rechtlichen und sozio-technischen Anforderungen an KI-Systeme, den geltenden und derzeit entwickelten Standards, Normen und Richtlinien sowie erfolgreichen Test-, Kontroll- und Zertifizierungspraktiken ab.

Aktuelle Mitteilungen

Unter dem Titel „Sicherheitskritische KI in der Industrieproduktion absichern und prüfen – aber wie?“ fand am 30. Juni 2021 der erste von zwei…
weiterlesen
Einblicke in aktuelle Diskussionen und den Stand der Forschung beim SafeTRANS Industrial Day 2021
weiterlesen
Acceptance Test-Driven Development (ATDD) und Assurance Cases bilden die Grundlage einer praxisnahen Überprüfung von KI-Systemen.
weiterlesen
Meldung
Der Einsatz von KI im Personalbereich geht mit neuen Fragestellungen für den rechtlichen Diskriminierungsschutz einher. Im WebTalk sprachen wir über…
weiterlesen
Das Projekt „ExamAI – KI Testing & Auditing“ ist am 20. Mai mit einem Panel auf der KI-Konferenz der Denkfabrik Digitale Arbeitsgesellschaft des BMAS…
weiterlesen

Partner:

Gefördert durch:

Im Rahmen des: