Was zeichnet den KIDD-Prozess eigentlich in der Praxis aus? Aus welchen Komponenten besteht der Prozess? Und was sind die bisher wichtigsten Erkenntnisse aus den Experimentierräumen?
Karsten Höppner, CEO der inhabergeführten Managementberatung Q_PERIOR AG, gibt im Interview einen Einblick zum aktuellen Stand aus Unternehmensperspektive. Die Q_PERIOR AG ist mit einem auf Ethik und Diversität ausgerichteten IT-Einführungsprozess neue Wege gegangen und spielt im KIDD-Konsortium eine wichtige Rolle bei der Erprobung und Entwicklung des KIDD-Prozesses.Das Interview führte Katja Anclam,female.vision e.V., im KIDD-Konsortium zuständig für das Arbeitspaket Outreach & Stakeholderbeteiligung.
KIDD: Welchen Aspekt bei der Zielsetzung des BMAS-Forschungsprojektes „KIDD – Künstliche Intelligenz im Dienste der Diversität“ hältst Du aus unternehmerischer Perspektive für besonders interessant, welchen für besonders herausfordernd?
Das Konsortium rund um KIDD besteht aus Unternehmen und Organisationen, die aus völlig unterschiedlichen Bereichen der Wirtschaft und Wissenschaft stammen: Vom Großunternehmen über den spezialisierten deutschen Mittelstand bis hin zu NGOs und Universitäten ist alles vertreten. Dieses transdisziplinäre Team ermöglicht die Betrachtung des Themas aus unterschiedlichen Blickwinkeln, was völlig neue Perspektiven eröffnet und Ideen generiert. Es liegt aber auch in der Natur der Sache, dass jeder Konsortialpartner einen anderen Wissensstand in den verschiedenen Themen des Forschungsprojektes besitzt, was viel Transferleistung und Übersetzungsarbeit von allen Teilnehmenden verlangt, um eine gemeinsame Wissensbasis zu schaffen.
KIDD: Was ist das konkrete Vorhaben von Q_PERIOR als beteiligtes Unternehmen und einer der vier Experimentierräume und zudem Konsortialpartner bei KIDD?
Unser Ziel ist es, KI-Lösungen in den Bereichen Personalbetreuung und Personaleinsatzplanung mit unterschiedlichen Anforderungen an die ethischen Fragestellungen bei Q_PERIOR einzuführen. Dabei möchten wir lernen, wie der KIDD-Prozess funktioniert und inwieweit er praktisch anwendbar ist. Hierbei gehen wir in einem mehrstufigen Modell vor. In jeder Stufe werden Anwendungen implementiert, die steigende Anforderungen an die KI und ethische Fragestellungen stellen. Zu Beginn haben wir ein Buddy-Matching-Programm eingeführt, das Neueinsteigende im Unternehmen anhand verschiedener sozialer Präferenzen automatisch mit bestehenden Mitarbeitenden zusammenbringt, die dann als Mentor:in (Buddy) dabei helfen, gut im Unternehmen anzukommen. Die nächste Stufe wird ein automatisierter Vorschlag für Projektbesetzungen sein, bei dem Projektanfragen und Mitarbeitende anhand ihrer Skills automatisiert zusammengebracht werden.
KIDD: Was erwartest Du Dir vom Ansatz, ein „Panel der Vielfalt“ als Gremium ins Unternehmen einzuführen und wie habt ihr bei Q_PERIOR das „Panel der Vielfalt“ definiert?
Wir haben das Ziel, bei der Einführung unserer KI-Systeme, Transparenz und Diversität sicherzustellen.
Bevor die erste Stufe – das Buddy-Matching-Programm – eingeführt wurde, haben wir daher das „Panel der Vielfalt“ (PdV) ins Leben gerufen. Ziel dabei war es, durch eine aktive Beteiligung verschiedenster Panelmitglieder mit unterschiedlichen Perspektiven die Transparenz und Akzeptanz für das Projekt zu erhöhen und die Diskussion über die ethischen Fragestellungen bei der Einführung von menschenzentrierter KI in Unternehmen zu fördern.
KIDD: Wie seid Ihr bei der Zusammenstellung vorgegangen und wer ist da – mit welcher Qualifizierung und nach welchen Kriterien – eigentlich Mitglied?
Zu Beginn haben wir verschiedenste Diversitätsmerkmale via Fragebogen von Bewerber:innen zum Panel der Vielfalt abgefragt: Dazu gehörten neben Alter und Geschlecht auch Merkmale wie Bildungsabschluss, Migrationshintergrund und die Zugehörigkeit zu verschiedenen Abteilungen des Unternehmens. Basierend darauf wurde analysiert, welche Diversitätsmerkmale vorliegen und mit welcher Verteilung. Anschließend wurden aus dem Pool der Personen, die sich beworben haben, diejenigen Personen gewählt, die sich bei den Diversitätsmerkmalen, Funktion oder Bildung am meisten von den anderen Mitgliedern des Panels unterschieden. Dieser Schritt wird so oft iterativ ausgeführt und mit bereits vorhandenen Panelmitgliedern abgeglichen, bis das PdV voll besetzt ist, es keine Bewerber:innen mehr gibt oder die Hinzunahme einer weiteren Bewerber:in nur zu größeren Ungleichgewichten in den Merkmalsverteilungen führen würde. Wir haben das PdV so iterativ bis zu einer Größe von 17 Mitgliedern aufgefüllt.
KIDD: Wie sind Eure ersten Erfahrungen mit der praktischen Umsetzung im Unternehmen und welche Zielsetzungen verfolgt ihr?
Die Einführung des Buddy-Matching-Programms hat hervorragend funktioniert. Wir konnten seit der Implementierung mehr als 80 Matches generieren und zahlreiche wichtige Erkenntnisse aus dem gesamten Prozess ziehen. Diese fließen nun in die Stufe 2, also das automatisierte Staffing, ein. Hierzu laufen parallel auch bereits neue Diskussionen und Abstimmungsrunden im Panel der Vielfalt.
Wir sind überzeugt, dass wir mit diesem Vorgehen am Ende der dreijährigen Projektlaufzeit tatsächlich einen Prozess etablieren können, mit dem auch andere Unternehmen und Organisationen menschenzentrierte KI-Lösungen implementieren können, der reibungslos an aktuelle Softwareeinführungsprozesse anschließt und Robustheit gegenüber kommenden europäischen und deutschen Regulierungen mit sich bringt.
KIDD: Wie sieht es mit der Legitimität aus? Was darf das Panel der Vielfalt konkret machen und wer entscheidet letztlich über die Empfehlungen, die das „Panel der Vielfalt“ gibt?
Das Panel der Vielfalt wird aktuell als Stakeholder in den IT-Einführungsprozess integriert. Es formuliert Anpassungswünsche und Wünsche an Funktionalitäten des zu implementierenden KI-Systems aus ethischer Sicht, die dann mit der Projektleitung diskutiert und als Anforderungen den Softwareentwickelnden vorgestellt werden. Dieser Aushandlungs- und Anpassungsprozess iteriert immer wieder in den unterschiedlichen Phasen des IT-Einführungsprozesses und mündet in einer abschließenden Bewertung der einzuführenden Software durch das PdV. Die Aushandlungen und Abstimmungen werden unternehmensintern transparent gemacht und im sogenannten Transparency Hub dokumentiert. Neben dieser transparenzschaffenden Wirkung beruht die Legitimität des PdV letztlich auch auf seinen Mitgliedern. Mitglieder aus Betriebsrat oder mit entscheidender Funktion im Unternehmen sind durch ihre Mitarbeit im PdV über die Schwächen des KI-Systems im Bilde und können bei einer unzureichenden Erfüllung der Anforderungen des PdVs die Reißleine ziehen.
KIDD: Wie siehst Du die zeitliche Verankerung? Ist das „Panel der Vielfalt“ ein Gremium, das sich nur zum Startpunkt zusammenfindet oder ist es ein Gremium, welches eine Kontinuität im Unternehmen braucht?
Natürlich hat das Panel der Vielfalt gerade zu Beginn viel zu tun. Es bildet die Grundlage, um die richtigen Entscheidungen im Rahmen der Systemeinführung zu treffen. Doch auch im weiteren Verlauf des Projektes mussten wir das Panel bislang regelmäßig hinzuziehen. Das ist zum Beispiel immer dann der Fall, wenn Änderungen und Anpassungen beim Prozess nötig werden. Die Kontinuität ist aus meiner Sicht daher besonders wichtig.
KIDD: Daraus ergibt sich zwangsläufig auch eine Kostenkomponente – wie sieht es mit der wirtschaftlichen Dimension aus? Ist das „Panel der Vielfalt“ ein gravierender Kostenfaktor und wie lässt sich der Einsatz letztlich finanziell abbilden?
Das Panel ist ein Kostenfaktor, da Kapazitäten durch regelmäßige Meetings und Diskussionen in großer Runde gebunden werden. Ich bin aber davon überzeugt, dass der mittelfristige Nutzen überwiegt. Wir werden am Ende eine höhere Akzeptanz für die Anwendung erreichen, wodurch im Umkehrschluss langfristig Kosten gespart werden. Ich sehe das wie mit allen Investitionen: Ich muss zu Beginn bereit sein etwas zu investieren, um später einen positiven Nutzen daraus ziehen zu können.
KIDD: Was sind die bisher wichtigsten Learnings aus Eurem Experimentierraum und können sie auch auf andere Unternehmen übertragen werden?
Wir wurden darin bestätigt, dass es sinnvoll ist, den KIDD Prozess bei der Implementierung unserer Lösungen zu nutzen. Die Lösungen, die dadurch entstehen, sind menschenzentriert und haben eine deutlich höhere Akzeptanz bei allen Beteiligten. Jetzt gilt es die gesammelten Erkenntnisse daraus abzuleiten, damit der KIDD-Prozess auch auf andere Unternehmen und Organisationen übertragen werden kann. Damit ein solcher Prozess auf breiter Front Anwendung findet, müssen wir zudem den Nutzen und die Vorteile deutlich kommunizieren.
KIDD: Wie sieht Deine Vision in Hinblick auf eine positive Zukunft mit KI aus – welchen Beitrag wollen Q_PERIOR und KIDD dazu leisten?
Künstliche Intelligenz wird in Zukunft sowohl im privaten als auch beruflichen Umfeld eine immer stärkere Rolle einnehmen – ob wir das wollen oder nicht. In den meisten Fällen merken wir dabei nicht einmal, dass KI im Hintergrund beteiligt ist. Und genau hier liegt das Problem: Die Intransparenz steigt dadurch und die Gefahr der Benachteiligung nimmt zu.
Wir wollen mit KIDD einen Beitrag leisten die “Black-Box KI“ durch entsprechende Prozesse transparent zu gestalten, indem wir menschenzentrierte Aspekte bei der Implementierung von Beginn an berücksichtigen. Eine solche “gute KI“ wird unsere Zukunft besser machen.
Vielen Dank für das Gespräch!
