Dynamisches Risikomanagement als Lösungsbaustein für verlässliche KI-Systeme (Vortrag)
Einblicke in aktuelle Diskussionen und den Stand der Forschung beim SafeTRANS Industrial Day 2021
Auf dem 28. SafeTRANS Industrial Day am 4. Juni 2021 stellte ExamAI-Experte Dr. Rasmus Adler (Fraunhofer IESE) aktuelle Lösungen für verlässliche KI-Systeme bzw. autonome Systeme vor. Im Fokus des Beitrags standen dabei generelle Überlegungen zum Thema "künstliche Moral" und dem dynamischen Risikomanagement. Darüber hinaus gab der Vortrag einen Rückblick auf Lösungen des Institutes Fraunhofer IESE zum dynamischen Risikomanagement sowie deren Weiterentwicklungen im Kontext der safeTRANS Roadmap und stelle Implementierungsansätze für "künstliche Moral" vor.
Der Beitrag geht davon aus, dass durch die zunehmende Tragweite und die gesteigerte Anzahl von autonomen Entscheidungen die Bedeutung von künstlichem Risikobewusstsein in Zukunft weiter an Bedeutung gewinnen wird. Dieser gesteigerten Bedeutung und dem dadurch notwendigen dynamischen Risikomanagement kann durch eine sogenannte „on-line“ Zertifizierung gerecht werden, welche eine „künstliche Moral“ der Systeme sicherstellt. Die Werte, anhand derer die Systeme ihre moralischen Entscheidungen treffen, müssen entsprechend in Gesetzen und Nomen verankert sein und der Prozess der Normung und Zertifizierung dynamisch gestaltet werden.
Für das Projekt ExamAI – KI Testing & Auditing stellen diese Ansätze einen zentralen Baustein auf dem Weg zu einer sicheren Anwendung von KI-Systemen dar. Der gesteigerten Bedeutung der Systeme steht bisher ein nicht ausreichender regulativer Rahmen in Form von Gesetzen und Normen gegenüber. Auch fehlen geeignete Kontroll- und Testverfahren, die die Risiken beim Einsatz der Systeme minimieren können.
Der Beitrag von Dr. Rasmus Adler schlägt die Brücke zwischen diesen beiden Aspekten. Die Etablierung einer „künstlichen Moral“ in Gesetzen und Normen kann eine Voraussetzung für ein dynamisches Risikomanagement sein. Mithilfe von Kontroll- und Testverfahren, die sich an diesen Gesetzen und Normen orientieren, können die KI-Systeme auf ihre Sicherheit geprüft und entsprechend zertifiziert werden.
Die Präsentation des Vortrags steht zum Download als PDF-Datei zur Verfügung.
Informationen zur vergangenen Veranstaltung finden sich auf der Website: www.safetrans-de.org/de/Veranstaltungen/2021/06/04/28.-safetrans-industrial-day
