Virtuelles Fachsymposium: "Testen & Zertifizieren von KI-Systemen"
Im virtuellen Fachsymposium des Projekts "ExamAI – KI Testing & Auditing" werden die zentralen Projektergebnisse vorgestellt und politische Handlungsempfehlungen präsentiert.
Beschreibung
Technologien, die Künstlicher Intelligenz (KI) zugerechnet werden, finden zunehmende Verbreitung: Das Personal- und Talentmanagement nutzt KI-basierte Vorschlagssysteme oder Persönlichkeitsbewertungen, intelligente Cobots werden in der Produktion eingesetzt oder fahrerlose Transportsysteme unterstützen die Logistik in Fabriken. Fragen nach der Zuverlässigkeit, Vertrauenswürdigkeit, Sicherheit und Fairness solcher Systeme sind auch Gegenstand der politischen Diskussion.
Die Frage nach sinnvollen Test- und Auditierungsverfahren für Künstliche Intelligenz (KI) hat mit der Veröffentlichung des KI-Regulierungsvorschlags der EU-Kommission im April 2021 eine neue Dringlichkeit erhalten. Eine effektive Regulierung kann zur Rechtssicherheit für Hersteller und Anwender von KI-Systemen beitragen. Doch zunächst müssen Test- und Auditierungsverfahren für KI auch in der Praxis erprobt werden, damit sie an die Bedarfe der unterschiedlichen Stakeholder angepasst und standardisiert werden können.
Im Rahmen eines Fachsymposiums des Projekts "ExamAI - KI Testing & Auditing" im Auftrag des KI-Observatoriums des Bundesministeriums für Arbeit und Soziales werden zentrale Projektergebnisse und politische Handlungsempfehlungen vorgestellt und mit Vertreter*innen aus Wissenschaft, Gewerkschaften, Wirtschaft und Gesellschaft diskutiert.
Nach Kurzvorträgen der Projektpartner, in denen Sie ihre Forschungsergebnisse und politischen Handlungsempfehlungen präsentieren, findet eine Paneldiskussion zum Thema „Der politische Imperativ für das Testen & Zertifizieren von KI-Systemen“ statt. Diskutieren Sie u.a. mit folgenden Fachleuten:
- Prof. Dr. Urike Lucke, Vize-Präsidentin GI
- Dr. Julia Borggräfe, BMAS
- Prof. Dr. Katharina Zweig, TU Kaiserslautern
- Prof. Dr. Georg Borges, Universität des Saarlandes
- Prof. Dr. Peter Liggesmeyer, Fraunhofer IESE
- Prof. Dr. Sarah Spiekermann, WU Wien
- Dr. Tarek R. Besold, DEKRA DIGITAL
- Dr. Stefan Heumann, Stiftung Neue Verantwortung
Die Veranstaltung findet über Zoom statt. Die Anmeldung ist hier möglich.
Programm
Moderation: Daniel Krupka, GI
09:30 - 09:45 Uhr: Eröffnung und Grußworte
- Dr. Julia Borggräfe, BMAS
- Prof. Dr. Ulrike Lucke, GI
09:45 - 09:50 Uhr: ExamAI: Ein Überblick
- Nikolas Becker, GI
09:50 - 10:00 Uhr: Wie Assurance Cases KI in der Industrie sicherer machen können
- Dr. Jens Heidrich, Fraunhofer IESE
10:00 - 10:10 Uhr: Assurance Cases zum Prüfen von Anforderungen im HR Bereich
- Marc Hauer, TU Kaiserslautern
10:10 - 10:20 Uhr: Rechtliche Implikationen für das Testen von KI-Systemen
- Prof. Dr. Georg Borges/Sven Hilpisch, Universität des Saarlandes
10:20 - 10:30 Uhr: Empfehlungen für Politik, Industrie, Wissenschaft, Normung und Marktüberwachung
- Dr. Stefan Heumann, Stiftung Neue Verantwortung
10:30 - 10:45 Uhr: Fragen aus dem Publikum
10:45 - 11:55 Uhr: Paneldiskussion "Der politische Imperativ für das Testen & Zertifizieren von KI-Systemen"
- Prof. Dr. Katharina Zweig, TU Kaiserslautern
- Prof. Dr. Georg Borges, Universität des Saarlandes
- Prof. Dr. Peter Liggesmeyer, Fraunhofer IESE
- Prof. Dr. Sarah Spiekermann, WU Wien
- Dr. Tarek R. Besold, DEKRA Digital
Moderation: Nikolas Becker, GI
11:55 - 12:00 Uhr: Abschluss und Ausblick
- Daniel Krupka, GI/Dr. Markus Dicks, BMAS
Referent*innen
Prof. Dr. Georg Borges
Inhaber des Instituts für Rechtsinformatik, Universität des Saarlandes
Prof. Dr. Georg Borges ist Inhaber des Lehrstuhls für Bürgerliches Recht, Rechtsinformatik, deutsches und internationales Wirtschaftsrecht sowie Rechtstheorie und geschäftsführender Direktor des Instituts für Rechtsinformatik an der Universität des Saarlandes. Wesentliche Forschungsschwerpunkte liegen bei Rechtsfragen autonomer Systeme, insbes. bei Haftungsfragen, und im Datenschutzrecht.
Dr. Jens Heidrich
Hauptabteilungsleiter Smart Digital Solutions, Fraunhofer IESE
Dr. Jens Heidrich leitet die Hauptabteilung „Smart Digital Solutions“ am Fraunhofer-Institut für Experimentelles Software Engineering (IESE) in Kaiserslautern. In dieser Funktion verantwortet er die Ausrichtung der Forschungsaktivitäten sowie deren Umsetzung im Rahmen nationaler und europäischer Förderprojekte. Darüber hinaus ist er als Berater und Projektleiter in industriellen Transferprojekten tätig und hält Seminare und Anwenderworkshops zu verschiedenen Themen im Bereich Software Engineering. Herr Dr. Heidrich studierte Informatik an der Universität Kaiserslautern und schloss im Jahre 2008 seine Promotion ab. Er ist Dozent im Fachbereich Informatik an der Technischen Universität Kaiserslautern, Mitglied des Vorstands der Fachgruppe „Software-Messung und -Bewertung“ der Gesellschaft für Informatik e.V. sowie in Programmkomitees diverser Workshops und Konferenzen auf nationaler und internationaler Ebene vertreten (z.B. ICSSP, PROFES, SEAA und SWQD).
Dr. Stefan Heumann
Vorstandsmitglied, Stiftung Neue Verantwortung
Dr. Stefan Heumann ist Vorstandsmitglied der Stiftung Neue Verantwortung. Er arbeitet, spricht und schreibt zu einer Vielzahl von Themen der nationalen und internationalen Digitalpolitik. Stefan Heumann ist Sachverständiger der Enquete Kommission „Künstliche Intelligenz“ des Deutschen Bundestags. Er ist Mitglied im Begleitkreis Technikfeldanalyse der acatech (Deutsche Akademie der Technikwissenschaften) und gehört darüber hinaus dem erweiterten ExpertIinnenkreis der High-Level-Group on Artificial Intelligence der EU Kommission an. Er vertritt die SNV als Mitglied des Lenkungskreis im von ihm mit initiierten und von der EU-Kommission geförderten CyberDirect Projekt zur EU-Cyber-Außenpolitik.
Tarek R. Besold
Head of Strategic AI, DEKRA DIGITAL
Dr. Tarek R. Besold ist Head of Strategic AI bei DEKRA DIGITAL. Vor seiner Tätigkeit im Führungsteam des DEKRA AI Hub war er als CTO bei einem Berliner Deep-Tech-Start-up, als Chief Science Officer von Telefonica's Digital Health Moonshot in Barcelona und als Lecturer/Assistant Professor in Data Science an der City, University of London tätig. Er ist Vorsitzender des DIN-Normungsausschusses für Künstliche Intelligenz (NA 043-01-42 AA).
Prof. Dr.-Ing. habil. Ulrike Lucke
Universität Potsdam | Vize-Präsidentin GI und Vorstand
Prof. Dr.-Ing. habil. Ulrike Lucke hat seit 2010 den Lehrstuhl für Komplexe Multimediale Anwendsarchitekturen an der Universität Potsdam inne. Sie hat an der Universität Rostock Informatik studiert und in dem Fach promoviert und habilitiert. In der GI war sie von 2008 bis 2014 als Sprecherin der Fachgruppe E-Learning, seit 2014 als Mitglied des Präsidiums sowie seit 2015 im Präsidiumsarbeitskreis E-Science aktiv. Sie war von 2010 bis 2018 CIO der Universität Potsdam und ist stellvertretende Vorsitzende des Hochschul-CIO-Vereins.
Prof. Dr. Katharina Zweig
Leiterin Algorithm Accountability Lab - Fachbereich Informatik, TU Kaiserslautern
Prof. Dr. Katharina Zweig leitet am Fachbereich Informatik der TU Kaiserslautern das Algorithm Accountability Lab. Hier schuf sie den deutschlandweit ersten Studiengang „Sozioinformatik“, der die Auswirkungen der Digitalisierung, namentlich der Algorithmen, auf Individuum, Organisationen und Gesellschaft untersucht. Der innovative Studiengang wurde 2017 mit dem Ars-legendi-Fakultätenpreis in den Ingenieurwissenschaften und der Informatik ausgezeichnet.
Dr. Andreas Sesing
Dr. Andreas Sesing ist Geschäftsführer des Instituts für Rechtsinformatik und wissenschaftlicher Mitarbeiter an der Universität des Saarlandes, zugleich Lehrbeauftragter an der Fachhochschule Südwestfalen. Seit Abschluss des Studiums der Rechtswissenschaften ist er – unterbrochen durch den juristischen Vorbereitungsdienst und zweites Staatsexamen – als wissenschaftlicher Mitarbeiter tätig, zunächst an der Ruhr-Universität Bochum, seit 2015 an der Universität des Saarlandes. Im Jahr 2021 erfolgte die Promotion zu einer urheberrechtlichen Fragestellung. Dr. Andreas Sesing ist Autor zahlreicher Veröffentlichungen auf dem Gebiet des Urheber-, IT- und Datenschutzrechts.
Prof. Dr. Peter Liggesmeyer
Leiter Fraunhofer Institut für Experimentelles Software-Engineering / Präsident a.D. Gesellschaft für Informatik
Prof. Dr.-Ing. habil. Peter Liggesmeyer ist Leiter des Fraunhofer-Instituts für Experimentelles Software Engineering IESE in Kaiserslautern und seit 2004 Inhaber des Lehrstuhls für Software Engineering: Dependability am Fachbereich Informatik der Technischen Universität Kaiserslautern. Von 2014 bis 2017 leitete er die Geschicke der Gesellschaft für Informatik (GI e.V.) als deren Präsident. Er ist Gründer der Fraunhofer-Allianz Embedded Systems, deren Sprecher er von 2010 bis 2013 war. Von 2004 bis 2014 war Prof. Liggesmeyer der wissenschaftliche Leiter des Fraunhofer IESE.
Marc Hauer
Doktorand, TU Kaiserslautern
Marc Hauer erarbeitet im Rahmen seiner Promotionsarbeit am Algorithm Accountability Lab der TU Kaiserslautern ein Konzept für Softwareentwicklungsprozesse, das dabei hilft Probleme, nicht technische Fehler oder nicht intendierte Nebeneffekte in algorithmischen Entscheidungssystemen, die moralische oder sogar gesetzliche Grenzen überschreiten, möglichst zuverlässig auszuschließen. Dieses Konzept soll zusammen mit Industriepartnern getestet und weiter verbessert werden, sowie Materialien entwickeln, welche eine effiziente Schulung des Konzeptes ermöglichen.
Dr. Julia Borggräfe
Abteilungsleiterin "Digitalisierung und Arbeitswelt", BMAS
Dr. Julia Borggräfe ist Abteilungsleiterin im Bundesministerium für Arbeit und Soziales (BMAS) und leitet dort seit Mai 2018 die neu geschaffene Abteilung „Digitalisierung und Arbeitswelt“. Ihre Ausbildung und berufliche Laufbahn vervollständigte sie nach dem Abschluss ihres Jurastudiums mit internationalen beruflichen Stationen u. a. in New York, Paris und Tel Aviv sowie mit der Veröffentlichung verschiedener Fachpublikationen zu personalrechtlichen und personalpolitischen Themen.
Sie war vor ihrer Tätigkeit im BMAS u.a. als Senior Vice President Human Resources & Corporate Governance der Messe Berlin und Senior Manager HR Western Europe Sales & Financial Services der Daimler AG Stuttgart sowie als Beraterin mit den Schwerpunkten Change Management, Organisationsentwicklung, Human Resources, Unternehmens- und Führungskultur tätig.
Prof. Dr. Sarah Spiekermann
Wirtschaftsuniversität Wien
Sarah Spiekermann lehrt und forscht an der Wirtschaftsuniversität Wien, wo sie seit 2009 dem Institut für Wirtschaftsinformatik & Gesellschaft vorsteht und 2016 das “Privacy & Sustainable Computing Lab” gründete. Sie ist eine angesehene Wissenschaftlerin, Autorin, Rednerin und Beraterin zum Thema Digital Ethik. Zu diesem Thema veröffentlichte sie u.a. das Buch “Digitale Ethik – Ein Wertesystem für das 21. Jahrhundert” (Droemer, 2019), “Ethical IT Innovation – A Value Based System Design Approach” (Taylor & Francis, New York, 2015) und “Networks of Control” (Facultas, 2016). Frau Spiekermann hat rund 100 wissenschaftliche Arbeiten rund um das Thema der digitalen Ethik und Privatsphäre verfasst und international rund 200 Reden über ihre Arbeit gehalten. Sie hat als Expertin für die OECD und die europäische Kommission gearbeitet und ist derzeit im Beirat der österreichischen Digitalisierungsagentur. Beim österreichischen Medienportal Standard.at hat sie ein Blog mit dem Titel “Die Ethische Maschine”.
Foto: CC BY-SA 4.0 Sarah Spiekermann
Sven Hilpisch
Wissenschaftlicher Mitarbeiter, Universität des Saarlandes
Sven Hilpisch ist seit Anfang 2021 wissenschaftlicher Mitarbeiter an der Universität des Saarlandes und arbeitet in dem Projekt ExamAI. Nach seinem ersten Staatsexamen nahm er den Masterstudiengang „LL.M. Informationstechnologie und Recht“ auf. Sein derzeitiger Forschungsschwerpunkt liegt im europäischen und nationalen Produktsicherheitsrecht.