Zum Hauptinhalt springen

Über das Projekt

Technologien, die Künstlicher Intelligenz (KI) zugerechnet werden, finden zunehmende Verbreitung: Das Personal- und Talentmanagement nutzt KI-basierte Vorschlagssysteme oder Persönlichkeitsbewertungen, intelligente Cobots werden in der Produktion eingesetzt oder fahrerlose Transportsysteme unterstützen die Logistik in Fabriken. Fragen nach der Zuverlässigkeit, Vertrauenswürdigkeit, Sicherheit und Fairness solcher Systeme sind auch Gegenstand der politischen Diskussion.
Das Forschungsprojekt „ExamAI - KI Testing & Auditing” (Laufzeit: März 2020 – November 2021) wurde von der Gesellschaft für Informatik e.V. geleitet und bestand aus einem interdisziplinären Team aus (Sozio-)Informatiker*innen, Software Ingenieur*innen sowie Rechts- und Politikwissenschaftler*innen. Anhand der Anwendungsbereiche „Mensch-Maschine-Kooperation in der Industrieproduktion“ und „KI-Systeme im Personal- und Talentmanagement sowie im Recruiting“ ging das Team der Frage nach, wie sinnvolle Kontroll- und Testverfahren für KI-Systeme aussehen können. Die Grundlage der Untersuchung bildeten insgesamt elf Use Cases aus den Anwendungsbereichen Industrieproduktion und Personal- und Talentmanagement, die zu Beginn des Projekts identifiziert wurden (Arbeitspaket 1). Die Use Cases behandeln beispielsweise das Fehlverhalten von intelligenten Cobots (Kollaborative Roboter) und fahrerlosen Transportfahrzeugen oder befassen sich mit KI-basierten Background-Checks von Bewerber*innen und automatisierten Bewertungen von Lebensläufen. Neben dem Hauptfokus auf Möglichkeiten des Testens, der Auditierung und der Zertifizierung von KI-Systemen (Arbeitspaket 4 und 5) lagen die weiteren Schwerpunkte des Projekts auf dem aktuellen Stand der Normung und Standardisierung im Bereich KI (Arbeitspaket 2) und auf den rechtlichen Rahmenbedingungen die für den Einsatz von KI-Systemen gelten (Arbeitspaket 3). Zum Ende des Projekts wurde insbesondere der KI-Regulierungsvorschlags der EU-Kommission vom April 2021 hinsichtlich seiner rechtlichen Vorgaben für herstellende und anwendende Unternehmen untersucht. Zum Abschluss des Projekts wurden im Rahmen von zwei Expert*innenworkshops konkrete politische Handlungsempfehlungen diskutiert und in zwei Policy Briefs veröffentlicht (Arbeitspaket 6).

Das Projekt wurde im Rahmen des Observatoriums Künstliche Intelligenz in Arbeit und Gesellschaft (KIO) der Denkfabrik Digitale Arbeitsgesellschaft gefördert. Die Denkfabrik, eine interdisziplinäre Organisationseinheit des Bundesministeriums für Arbeit und Soziales (BMAS), bündelt Projekte und Prozesse rund um die digitale Transformation innerhalb des BMAS und entwickelt daraus ein größeres Bild der Arbeitsgesellschaft der Zukunft. Mit dem KIO, einem Projekt im Rahmen der nationalen KI-Strategie, fokussiert das BMAS die Frage nach den Auswirkungen von KI auf Arbeit und Gesellschaft.