Die Herausforderung:
In der zunehmend digitalisierten Arbeitswelt stellen KI-Anwendungen und algorithmische Entscheidungssysteme Unternehmen vor die doppelte Herausforderung, Arbeitsprozesse effizient zu optimieren und gleichzeitig unbeabsichtigte Diskriminierung und in Technologien verankerte Vorurteile zu vermeiden. Es ist essenziell, bewusste und unbewusste Verzerrungen in Algorithmen und Daten zu erkennen und zu minimieren, um faire und diversitysensible digitale Lösungen zu gewährleisten.
Die Idee:
Betriebe sollen befähigt werden, Digitalisierungsprozesse im Unternehmen in einem sogenannten Panel der Vielfalt (PdV) aktiv mitzugestalten, indem das WIE der Digitalisierung mit unterschiedlichen Stakeholdern auf gerechte, transparente und verständliche Weise diskutiert wird. Dies kann nur gelingen, wenn die Perspektiven eines breiten Spektrums von Betroffenen und Nutzer:innen im Design- und betrieblichen Anpassungsprozess der Software berücksichtigt werden.
Dafür wurde ein eigener Prozess entwickelt: der KIDD-Prozess.
Der KIDD Ansatz steht für:
- Partizipativ und menschenzentriert: der Mensch muss im Mittelpunkt
des Systems stehen, seine Würde und Selbstbestimmtheit darf nicht verletzt
werden. Dies kann nur geschehen, wenn die Entwicklung und Überwachung
des Systems mit und durch die Betroffenen erfolgt. (Partizipation). - Transparent und verständlich: das System und sein Wirken ist für alle
Betroffenen verständlich und kann damit auch hinterfragt und diskutiert werden. - Divers und diversitäts sensitiv: das System führt nicht zu neuer Diskriminierung,
sondern mindert bzw. vermeidet. - Fair (und menschenwürdig): der Einsatz des Systems führt nicht zu neuen
Ungerechtigkeiten, sondern schützt Würde und Selbstbestimmtheit aller
Beteiligten.
Im Rahmen des KIDD-Prozesses wurden spezifische Schulungen entwickelt, die darauf abzielen, die am Prozess beteiligten Akteur:innen in die Lage zu versetzen, die Einführung von diskriminierungsfreier und diversitätssensibler KI in Unternehmen zu begleiten und zu fördern. Diese Schulungen befähigen alle Beteiligten zur kritischen Mitarbeit und qualifizieren KIDD-Moderator:innen für die Planung und Durchführung des Prozesses. Darüber hinaus wurden Qualitätskriterien formuliert, die eine erfolgreiche Implementierung des KIDD-Prozesses in verschiedenen betrieblichen Kontexten ermöglichen, basierend auf praxisrelevanten Indikatoren.
Die Rollen im KIDD-Prozess
Das Panel der Vielfalt (PdV)
Das Panel der Vielfalt ist das Herzstück von KIDD. Es ist ein primär innerbetriebliches Gremium, das in seiner Zusammensetzung möglichst diverse Perspektiven
zusammenbringt und vereinigt; übernimmt eine ethische und diversitätsbezogene Folgenabschätzung und formuliert allgemeine und spezifische Anforderungen an die KI und begleitet bzw. kontrolliert deren Umsetzung. Das PdV setzt sich aus bis zu 15 Personen zusammen. Mitglieder können sich bewerben oder werden berufen. Das PdV durchläuft die Stufen des KIDD-Prozesses und diskutiert diesen intern auf partizipative Weise, um mitzuentscheiden, wie das IT-System gestaltet wird. Dabei soll es nicht nur die technischen Aspekte des neuen Systems verstehen, sondern auch ethische Konflikte und potenzielle Diskriminierung aufdecken, die durch systemimmanente kognitive Verzerrungen entstehen können.
Die KIDD-Schulungen
Für die erfolgreiche Durchführung des KIDD-Prozesses wurden im Rahmen des Projekts zwei Arten von Schulungen entwickelt:
1. Basisschulungen für das Panel der Vielfalt (PdV):
- Partizipation & Mitbestimmung
- Diversität, Recht & Ethik
- Stellschrauben der KI (Daten, Regeln & Architektur)
2. Schulung zum/zur KIDD-Moderator:in:
Zur Anleitung und Moderation des Panels der Vielfalt (PdV), bedarf es Facilitatoren des KIDD-Prozesses im Unternehmen, die den Prozess managen, das PdV zusammenbringen, beraten, unterstützen und moderieren und das ganze für eine potenzielle Auditierung dokumentieren. Dafür wurde im Projekt die Rolle der KIDD-Moderator:innen (KIM) sowie die entsprechende Schulung zu dieser Rolle entworfen.
Das KIDD-Handbuch
Das KIDD-Handbuch enthält:
- Einführung in die KIDD-Themen (KI, Diversität und Ethik)
- Qualitätskriterien
- Checklisten zur Vorbereitung
- Erklärung zu den Rollen im KIDD-Prozess
- Schulungen: Panel der Vielfalt, KIDD Moderator:in
Prozessübersicht
Der KIDD-Prozess beruht auf der Prämisse, dass die Entwicklung von Softwareanwendungen mit weitreichenden Auswirkungen nicht allein in den Händen von Entwickler:innen oder Entscheidungsträger:innen innerhalb des Unternehmens liegen sollte. Vielmehr ist es wichtig, Nutzer:innen und Betroffene umfassend in die Gestaltung dieser digitalen Systeme einzubeziehen.
Diese Einbindung erfolgt durch das “Panel der Vielfalt” (PdV), ein Gremium, das ein breites Spektrum an Perspektiven verschiedener Akteur:innen abbildet und kontinuierlich in den Softwareentwicklungs- und Einführungsprozess integriert ist.
Der Prozess umfasst mehrere Phasen, darunter die Sensibilisierung für rechtliche, ethische und diversitätsbezogene Aspekte, partizipative Folgenabschätzungen, die Formulierung allgemeiner Anforderungen sowie die iterative Aushandlung von Gestaltungsoptionen mit den Softwareentwickelnden. Dieser Prozess wird durch einen Transparenzkatalog unterstützt, der zentrale Fragen zu den verwendeten Daten, Regeln und der Architektur der KI-Anwendung klärt.
Durch den KIDD-Prozess werden Unternehmen nicht nur befähigt, KI-Technologien ethisch verantwortungsvoll einzusetzen, sondern es wird auch sichergestellt, dass die Stimmen aller Betroffenen berücksichtigt und potenzielle Verzerrungen in der Entwicklung und Einführung von KI-Anwendungen und AES minimiert werden.
