Wie Assurance Cases KI in der Industrie sicherer machen können
Neues Policy Paper stellt Assurance Cases als Ansatz zur Absicherung von KI in der Industrie vor
Auf Basis der aus dem Workshop zu KI in der Industrieproduktion gewonnenen Erkenntnisse hat die Stiftung Neue Verantwortung (SNV) ein Policy Paper mit dem Titel KI in der Industrie absichern & prüfen. Was leisten Assurance Cases? veröffentlicht. Die zentrale Frage, die sich im Kontext der aktuellen Regulierungsvorschläge für den Einsatz von KI in Europa stellt und um die sich auch der Workshop gedreht hat, lautet dabei: Wie kann gewährleistet werden, dass KI-gestützte Maschinen keine Gefahr für diejenigen darstellen, die mit ihnen zusammenarbeiten?
Der Einsatz von KI in der Industrieproduktion hat das Potenzial, die Abläufe in Fabriken flexibler und effizienter zu gestalten, gleichzeitig gehen damit aber auch gewisse Risiken einher. Das von ExamAI-Expertin Leonie Beining veröffentlichte Papier widmet sich der Regulierung dieser Risiken und stellt das Konzept der Assurance Cases vor. Das aus dem Safety-Bereich stammende Konzept wird als eine Methode zur Absicherung und Prüfung von sicherheitskritischer KI in der Industrie vorgeschlagen. Das Papier beleuchtet die Stärken und Schwächen des Ansatzes, bindet dabei die Perspektiven von Herstellerunternehmen, Prüforganisationen und der Marktüberwachung ein und skizziert Handlungsempfehlungen für die Weiterentwicklung und Implementierung von Assurance Cases im Bereich der KI-Forschung.
Das Papier steht hier zum Download zur Verfügung.
