imageBugfix.png
KI Testing & Auditing
Pressemitteilung

KI in der Arbeitswelt: Forschungsprojekt zur Nachvollziehbarkeit algorithmischer Entscheidungssysteme gestartet

Das Forschungsprojekt „KI Testing & Auditing“ im Auftrag des Observatoriums „Künstliche Intelligenz in Arbeit und Gesellschaft“ des Bundesarbeitsministeriums geht der Frage nach, wie sinnvolle Kontroll- und Testverfahren für Künstliche-Intelligenz-Systeme aussehen können.

 

Berlin, 25.05.2020 – Der zunehmende Einsatz von algorithmischen Entscheidungssystemen (ADM) bringt weitreichende Veränderungen für die Arbeitswelt mit sich. Insbesondere im Personalmanagement werden Entscheidungen zur Personalauswahl und -führung zunehmend durch ADM-Systeme vorbereitet. Auch im direkten Arbeitsumfeld interagieren Arbeitnehmer*innen zunehmend mit „intelligenten“ Systemen. Wie können in diesem Rahmen Verfahren aussehen, die einen nachvollziehbaren, beherrschbaren und diskriminierungsfreien Einsatz von „Künstlicher Intelligenz“ (KI) sicherstellen? Wie lassen sich diese durchführen und welche institutionellen Anforderungen müssen dafür beachtet werden? 

Der Klärung dieser Fragen wird sich die Gesellschaft für Informatik e.V. (GI) im Auftrag des KI-Observatoriums des Bundesministeriums für Arbeit und Soziales (BMAS) in einem 20-monatigen Forschungsprojekt gemeinsam mit Fraunhofer IESE, dem Algorithm Accountability Lab an der TU Kaiserslautern, dem Institut für Rechtsinformatik an der Universität des Saarlandes und der Stiftung Neue Verantwortung widmen.

Daniel Krupka, Geschäftsführer der GI: „Mit dem Forschungsvorhaben möchten wir unseren Beitrag zu einem sicheren, verlässlichen, fairen und diskriminierungsfreien Einsatz von KI-Technologie leisten. In unserem interdisziplinär angelegten Projekt werden wir geeignete Verfahren identifizieren, damit algorithmische Entscheidungssysteme künftig transparent und rechtskonform arbeiten. Wir freuen uns daher auf die Zusammenarbeit mit unseren Partnern sowie dem KI-Observatorium des BMAS.“

Mit der Auslagerung von Entscheidungen an ADM-Systeme ist die Erwartung verbunden, dass diese präziser, objektiver und ökonomisch effizienter getroffen werden. Allerdings lassen sie die Betroffenen über die Verarbeitung ihrer Daten oft im Unklaren und sind möglicherweise mit geltendem Arbeitsrecht unvereinbar. Die 2018 veröffentlichte Studie„Technische und rechtliche Betrachtungen algorithmischer Entscheidungsverfahren“ der Fachgruppe „Rechtsinformatik“ der GI im Auftrag des Sachverständigenrats für Verbraucherfragen (SVRV) kommt daher zu dem Ergebnis, dass es geeigneter Test- und Auditierungsverfahren bedarf, um die nötige Transparenz herzustellen und den Einsatz von KI-Systemen rechtssicher auszugestalten. 

Das Forschungsvorhaben „KI Testing & Auditing“ knüpft an diesen Befund an und wird mit einem interdisziplinären Team aus (Sozio-)Informatiker*innen, Software-Ingenieuren sowie Rechts- und Politikwissenschaftler*innen Handlungsempfehlungen zu Test- und Auditierungsverfahren vorlegen. Dabei wird neben KI-Systemen im Personalmanagement und Recruiting auch das Feld der Mensch-Maschine Kooperation in der Industrieproduktion in den Fokus genommen. Weitere Informationen zum Forschungsprojekt „KI Testing & Auditing“ finden Sie unter https://testing-ai.gi.de/

Über das Observatorium Künstliche Intelligenz in Arbeit und Gesellschaft (KIO)

Das Projekt „KI Testing & Auditing“ wird im Rahmen des Observatoriums Künstliche Intelligenz in Arbeit und Gesellschaft (KIO) der Denkfabrik Digitale Arbeitsgesellschaftgefördert. Die Denkfabrik, eine agile Organisationseinheit des Bundesministeriums für Arbeit und Soziales (BMAS), bündelt Projekte und Prozesse rund um die digitale Transformation innerhalb des BMAS und entwickelt daraus ein größeres Bild der Arbeitsgesellschaft der Zukunft. Mit dem KIO, einem Projekt im Rahmen der nationalen KI-Strategie, fokussiert das BMAS die Frage nach den Auswirkungen von KI auf Arbeit und Gesellschaft.

Hier können Sie das Pressebild von Daniel Krupka hochaufgelöst herunterladen.

 

Über die Gesellschaft für Informatik e.V.
Die Gesellschaft für Informatik e.V. (GI) ist mit rund 20.000 persönlichen und 250 korporativen Mitgliedern die größte und wichtigste Fachgesellschaft für Informatik im deutschsprachigen Raum. 2019 feiert die GI ihr 50-jähriges Gründungsjubiläum. Seit 1969 vertritt sie die Interessen der Informatikerinnen und Informatiker in Wissenschaft, Wirtschaft, öffentlicher Verwaltung, Gesellschaft und Politik. Mit 14 Fachbereichen, über 30 aktiven Regionalgruppen und unzähligen Fachgruppen ist die GI Plattform und Sprachrohr für alle Disziplinen in der Informatik. Weitere Informationen finden Sie unter www.gi.de.

Die GI-Mitglieder binden sich an die Ethischen Leitlinien für Informatikerinnen und Informatiker der Gesellschaft für Informatik e.V.: https://gi.de/ethische-leitlinien

Pressekontakt:
Teodora Grosu
Gesellschaft für Informatik e.V. (GI)

Geschäftsstelle Berlin
im Spreepalais am Dom
Anna-Louisa-Karsch-Str.2,
10178 Berlin

Tel.: +49 30 7261 566-15
Fax: +49 30 7261 566-19
Mail: presse(at)gi.de
Web: www.gi.de

Daniel Krupka (c) GI-KathrinRichter-Trendsetter