Abschlussbericht auf Fachsymposium vorgestellt

Auf einem virtuellen Fachsymposium "Testen & Zertifizieren von KI-Systemen" stellte das ExamAI-Projektkonsortium am 30.11. vor über 320 Gästen seinen umfassenden Abschlussbericht vor. Aus interdisziplinärer Perspektive untertersuchte das Konsortium in einem zweijährigen Forschungsvorhaben, wie sinnvolle Kontroll- und Testverfahren für KI-Systeme in der Arbeitswelt aussehen sollten. Die im Projekt entstandenen Lösungsansätze und Handlungsempfehlungen wurden in zahlreichen Publikationen veröffentlicht, weitere Artikel befinden sich im Erscheinen.

Projektleiter Nikolas Becker, GI: "Unsere Ergebnisse leisten einen Beitrag zur Gestaltung effektiver Test-, Kontroll- und Zertifizierungspraktiken für den Einsatz von KI. Beim Thema Sicherheit und Fairness von KI brauchen wir eine neue Denkweise. Statt auf standardisierte Gestaltungsvorgaben zu setzen, schlagen wir mit Assurance Cases einen flexibel gestaltbaren Argumentationsprozess zum Nachweis von Sicherheit vor. Dazu müsste die Industrie mehr Wert auf Safety Engineering legen, die Arbeit in Normungsgremien muss diverser werden und auch auf Seiten der Marktüberwachung brauchen wir Kompetenzen für die Assurance-Case-Methodik."

Der gestern vorgestellte Abschlussbericht ExamAI – KI Testing und Auditing. Herausforderungen, Lösungsansätze und Handlungsempfehlungen für das Testen, Auditieren und Zertifizieren von KI fasst die zentralen Projektergebnisse und Empfehlungen übersichtlich zusammen.

Weiterhin sind die Folien und Videoaufzeichnungen der Vorträge des Fachsymposiums verfügbar:

• Nikolas Becker, Gesellschaft für Informatik: ExamAI: Ein Überblick (Download Präsentationsfolien)
• Dr. Jens Heidrich, Fraunhofer IESE: Wie Assurance Cases KI in der Industrie sicherer machen können (Download Präsentationsfolien | Video)
• Marc Hauer, TU Kaiserslautern: Assurance Cases zum Prüfen von Anforderungen im HR Bereich (Download Präsentationsfolien | Video)
• Prof. Dr. Georg Borges/Sven Hilpisch, Universität des Saarlandes: Rechtliche Implikationen für das Testen von KI-Systemen (Download Präsentationsfolien | Video)
• Dr. Stefan Heumann, Stiftung Neue Verantwortung: Empfehlungen für Politik, Industrie, Wissenschaft, Normung und Marktüberwachung (Download Präsentationsfolien | Video)

Eine Aufzeichnung der anschließenden Paneldiskussion "Der politische Imperativ für das Testen & Zertifizieren von KI-Systemen" mit Prof. Dr. Katharina Zweig, TU Kaiserslautern, Prof. Dr. Georg Borges, Universität des Saarlandes, Prof. Dr. Peter Liggesmeyer, Fraunhofer IESE, Prof. Dr. Sarah Spiekermann, WU Wien und Dr. Tarek R. Besold, DEKRA Digital finden Sie auf dem YouTube-Kanel der GI.