Wie sinnvoll ist so ein Diversity-Gremium wie das Panel der Vielfalt bei der Einführung von menschenzentrierter KI? Was ist seine Rolle gegenüber dem Betriebsrat? Und was hat es mit dem KI-Lagom-Konzept auf sich?
Diesen und anderen spannenden Fragen gehen wir in einem Interview mit Lothar Schröder, Mitglied des KIDD-Adivsory Boards, auf den Grund. Lothar Schröder ist Mitglied des Aufsichtsrats und Vorsitzender des Innovationsausschusses der deutschen Telekom und gehört zu den renommiertesten Experten bei Fragestellungen im Bereich der innerbetrieblichen Demokratie und KI. Er war langjähriges Mitglied des Bundesvorstands von ver.di sowie Mitglied der Enquete-Kommission “Künstliche Intelligenz” des Deutschen Bundestages.
Das Interview wurde geführt von Katja Anclam, female.vision e.V., im KIDD-Konsortium zuständig für das Arbeitspaket Outreach & Stakeholderbeteiligung.
KIDD: Welchen Aspekt bei der Zielsetzung des BMAS-Forschungsprojektes KIDD – Künstliche Intelligenz im Dienste der Diversität halten Sie aus Ihrer persönlichen Perspektive heraus für besonders interessant, welchen für besonders herausfordernd?
LS: Ich halte es im Projekt KIDD für sehr anspruchsvoll, in der Tiefe Qualität für Diversifikationsprozesse zu entwickeln, die mit dem Einsatz von KI-Systemen in Betrieben in Verbindung stehen. Sowohl von den Auswertungen als auch von der Nutzerseite. Ich sehe die Betroffenenseite. Jeder sagt in unserer Gesellschaft: KI darf nicht diskriminieren. Aber wenige machen sich auf, im Betrieb danach zu schauen, was genau das eigentlich heißt. Und dem geht KIDD nach und das finde ich sehr anspruchsvoll und interessant und das verknüpft mich auch mit dem Projekt.
KIDD: Was halten Sie generell von der Idee ein Panel der Vielfalt einzuführen und wo sehen Sie mögliche Problemfelder?
LS: Ich halte den Begriff „Panel der Vielfalt“ nicht für selbsterklärungsfähig. Ich halte die Intention, die da darin steckt, allerdings für sehr nützlich. Wenn man systematisch mal erhebt: Was gibt es denn für unterschiedliche Akteursgruppen, die bei der Einführung von KI-Systemen mitarbeiten oder mitarbeiten sollen? Dann ist der Begriff „Vielfalt“ schon richtig gesetzt. Es kommt nur in der Bezeichnung dieses Gremiums nicht richtig zum Ausdruck. Sie haben die Nutzer, Sie haben die Betroffenen – wenn sie sich dem Thema Vielfalt, Diversifikation widmen, haben Sie in vielen Betrieben Menschen, die sich um solche Fragen kümmern von Frauenbeauftragten, Betriebsräten bis hin zu Jugendvertretungen. Wenn Sie dann die Fachseiten, die meistens KI-Systeme anschieben und in die Entscheidungsreife bringen, dazu zählen, dann haben Sie in vielen deutschen Betrieben, glücklicherweise mehr und mehr Managementintentionen, die sich in den Führungsprinzipien und Zielsetzungen niedergeschlagen haben, bei denen es um Diversifikationen und Vielfalt geht. Und wenn derartiges passiert ist, dann haben Sie auch Fürsprecher für eine derartige Intention. Und die müssen Sie jetzt mit den technisch Verantwortlichen zusammenbringen. Es drückt die Vielfalt von Personen aus, die man an den Tisch bringt. Das finde ich nützlich. Wir dürfen jetzt, um dem ganzen Drive zu geben, nur nicht dieses Gremium, dieses Panel neben die vorhandenen Strukturen stellen, sondern sollten Wert darauf legen, dass es mit und in den vorhandenen Strukturen stattfindet. Wird es nicht als Konkurrenzveranstaltung begriffen, dann kann solch ein Panel eine gute Basis sein, da etwas nach vorne zu entwickeln, nach vorne zu bringen.
“Jeder sagt in unserer Gesellschaft: KI darf nicht diskriminieren. Aber wenige machen sich auf, im Betrieb danach zu schauen, was genau das eigentlich heißt. Und dem geht KIDD nach und das finde ich sehr anspruchsvoll und interessant und das verknüpft mich auch mit dem Projekt.”
KIDD: Was sollte das Panel der Vielfalt können – welche Kompetenzen werden aus Ihrer Sicht gebraucht?
LS: So ein Panel kann unterschiedliche Intentionen zusammenbringen, den Dialog auch für unterschiedliche Meinungen eröffnen. Das halte ich für ganz, ganz wesentlich. Und es kann Schlussfolgerungen daraus empfehlen. Was solch ein Panel allerdings braucht, ist ein Ordnungsmuster von KI Systemen. Was macht eigentlich ein gutes KI-System aus? Auch da ist Vielfalt gefragt. Es geht nicht alleine um maschinelle Leistungs- oder Verhaltenskontrolle. Es geht um die Elemente, die die europäische Grundrechtscharta adressiert. Ja zu Diskriminierungsfreiheit. Ja zu würdigen, geschützten Arbeitsbedingungen. Es geht darum, Menschen aufgrund ihrer Glaubensrichtung, ihrer Einstellung, ihres Alters, ihres Geschlechts nicht zu benachteiligen. Es geht um Gewissens- und Vereinigungsfreiheit. Das sagt uns alles die europäische Grundrechtscharta. Es gibt aber Dutzende von Normen, die derartige Ansprüche, in konkrete Vorgaben zu IT-Systemen übersetzen. Und jetzt sollten wir den Akteuren, die in einem Panel der Vielfalt sitzen, vermitteln, welche Qualitätsindikatoren sich daraus ableiten, dann wiederum können die für sich sagen: Okay, und bei uns ist dieses oder jenes Element besonders wichtig und wir suchen für dieses oder jenes Element nach Lösungssträngen, beispielsweise in der Frage der Diversifikation. Also dieses Panel der Vielfalt kann eine gute Funktion erfüllen, aber es ist nicht voraussetzungsfrei. Es muss getragen werden im Betrieb und es braucht einen Boden an Erkenntnis zu den Gestaltungsmöglichkeiten. Wenn es zu einem Gremium wird, bei dem man die meisten Empfehlungen am Ende mit der Überschrift: “Man müsste. Man sollte.“, überschreiben kann, dann verfehlt es den betrieblichen Bedarf. Also, es besteht Bedarf dieses Gremium ins Konkrete zu führen.
KIDD: Wie kann Diversität im Panel der Vielfalt aus Ihrer Sicht möglichst gut erfasst und dann abgebildet werden – auch wenn einzelne Aspekte im Unternehmen selbst vielleicht gar nicht vorhanden sind?
LS: Ohne, dass sie diversifizieren sind Gremien heute gar nicht mehr wählbar, weil die Menschen innerhalb der Betriebe diesen Grundansatz mit tragen. Und die wollen sich in der Vielfalt, die sich in der Belegschaft ausdrückt, natürlich auch in ihren Gremien wiederfinden. Das heißt, wenn Sie heute einen Betriebsrat wählen lassen, machen Sie sich im Vorfeld sehr intensiv Gedanken: Wie soll sich Diversifikation darin ausdrücken, beispielsweise in Hinblick auf die Altersgruppen. Ich gebe Ihnen noch ein Beispiel: In dem Bereich, den ich bei Verdi verantwortet habe, hatten wir eine Vorgabe an unsere Kolleg:innen in den Ländern an der Aufstellung von Betriebsratslisten mitzuarbeiten, dass sich beispielsweise der Anteil der Frauen in der Belegschaft auch in der Zusammensetzung des Gremiums wiederfinden muss. Dass ein Gremium ein Miteinander zwischen Jung und Alt und zwischen Deutschen und Menschen anderer Herkunft sein muss. Hat man sich da immer daran gehalten? Nein, man beugt sich im Betrieb auch manchmal der Realität. Wenn Sie niemanden finden, der da bereit ist zu kandidieren, okay. Aber Sie haben von vornherein erstmal den Anspruch, der sich zumindest in meinem Bereich, dann auch expliziert hat, indem wir dazu so etwas wie ein Vorgehensmodell entwickelt haben, wie man Diversifikation ausdrückt. Dann haben Sie innerhalb der Betriebe heute Frauenbeauftragte, Sie haben Vertreter der Schwerbehinderten in die Gremien integriert. Das machen wir in vielen Betriebsräten so, dass man diese Gruppen dann integriert und in die Sitzungen mit einlädt und dort miteinander gemeinsam redet.
KIDD: Welches Spannungsfeld könnte sich zwischen Betriebsrat und Panel der Vielfalt ergeben – und wie könnte dies im Sinne von transparenten Entscheidungen gut aufgelöst werden?
LS: In vielen Unternehmen ist der Betriebsrat schon jetzt das Gremium, in dem, wenn es gut läuft, ein derartiger Diversifikationsgedanke mit Leben erfüllt wird. Deswegen habe ich auch vorher davor gewarnt, wenn Sie jetzt auf die Idee kommen daneben noch andere Gremien zu setzen. Dann fürchte ich, dann wird man Ihnen sagen: Na hören Sie mal, wollen sie uns jetzt irgendwie unsere Aufgabe nehmen, die wir haben? Vor allem haben Sie einen Nachteil: Dort wo Sie bereits mitbestimmte Strukturen vorfinden, haben Sie Mitbestimmungsrechte bei der Einführung von IT auch bei KI -Systemen nach BetrVG § 87.1.(6). Rechte sind hart. Ein Panel der Vielfalt hat nicht das Recht eine Einigungsstelle anzurufen oder einen Arbeitsrichter um Schlichtung zu bemühen. Das heißt, Betriebsräte werden nicht bereit sein, derartige Rechte an irgendjemand anderes abzugeben, weil diese Rechte so markant sind und sie mit denen in der Vergangenheit auch viel erreichen konnten.
KIDD: Was sollte das Panel der Vielfalt dann vielleicht als Ergänzung abbilden? Und braucht es ein Panel der Vielfalt aus Ihrer Sicht überhaupt da, wo es bereits einen Betriebsrat gibt?
LS: Ich finde schon, weil KI-Systeme auf eine größere Anzahl von Persönlichkeitsrechten abzielen können, als die, die man im Betrieb bisher adressiert hat. Also bisher war, das muss man zugeben, im absolutem Mittelpunkt aller IT- Gestaltungsarbeit die Reglementierung maschineller Leistungs- und Verhaltenskontrolle. Heute gibt es KI-Systeme, die Emotionen steuern. Die Emotionen erfassen können. Sie haben KI-Systeme, die Personalauswahl machen können und damit stellt sich die Frage der Verzerrung und der Diskriminierung sehr hart. Systeme, die Arbeit steuern und die sich im Zweifel nicht dafür interessieren, ob ich unterschiedliche Leistungsfähigkeit mitbringe oder aufgrund meiner Herkunft oder meiner körperlichen Unzulänglichkeit eingeschränkt bin. Da wird nüchtern und rational entschieden. Hier gibt es eine Vielzahl von Größen, die da eine Rolle spielen. Die Frage ist jetzt, wie man es zusammenbringt.
KIDD: Ihrem Buch: „Eine warme Stimme schleicht sich in dein Ohr. Fluch und Segen von Künstlicher Intelligenz. Gewerkschaftliche Antworten“ , das Sie 2019 zusammen mit dem Journalisten Markus Franz veröffentlicht haben, ist zu entnehmen, dass gerade von Arbeitgeberseite immer wieder die Forderung nach der Beschleunigung von Mitbestimmungsverfahren kommt. Denken Sie, dass das Panel der Vielfalt die Wichtigkeit von solchen Mitbestimmungsverfahren zusätzlich steigern könnte?
LS: Ja, wenn das Panel der Vielfalt Grundprinzipien entwickelt, etwas wie ein „Manifest zur Einführung von KI-Systemen“, man muss ja keine Betriebsvereinbarung machen. Aber man kann im Vorfeld ein paar Prinzipien entwickeln, die übergreifend von allen getragen werden. Das halte ich für sehr wesentlich. Das hilft im Übrigen auch dabei Mitbestimmungsrechte wahrzunehmen. Wenn man so etwas wie eine Grundcharta KI oder ein Manifest oder irgendetwas ähnliches hat, weil man dann eine Maßstäblichkeit setzt, in dem man im Einzelnen diskutieren kann. So etwas könnte ein Panel ganz gut entwickeln. So ein Panel hat natürlich Funktion, dort wo es noch gar keine Betriebsräte gibt oder Betriebe noch nicht gewerkschaftlich organisiert sind. Ich habe aber aus der Alltagserfahrung noch eine ganz andere Aufgabenzuordnung: Nehmen wir mal einen Großbetrieb und wer im Großbetrieb alles mitredet, wenn Sie es mit einem KI-System zu tun haben. Gibt es eine Ethikleitlinie innerhalb des Konzerns, dann haben Sie mit den Menschen zu tun, die diese vertreten. Wenn Sie über Nachhaltigkeitsaspekte sprechen und es dafür Verantwortung gibt, dann reden diese Leute mit. Sie müssen mit den Menschen reden, die für IT-Sicherheit zuständig sind. Sie müssen mit jenen reden, die die maschinellen Schlussfolgerungen verantworten. Sie müssen mit jenen reden, die das IT-System steuern und evaluieren. Sie müssen mit den Vertretern der Beschäftigten reden. Sie sollten mit den Schwerbehindertenvertretern reden. Sie sollten mit den Frauenbeauftragten reden und jetzt habe ich bestimmt noch ein paar Funktionsgruppen vergessen. Und jetzt haben sie ein Problem: Kriegen sie die mal an einen Tisch. Das ist schwierig. Und deswegen sage ich, wenn es jetzt nicht für jedes einzelne KI-System, sondern um überhaupt mal Prinzipien zu entwickeln, so ein Panel gibt, dann kann das Funktion haben.
KIDD: Meinen Sie das auch im Hinblick auf das Thema Qualifikation? Wie ich Ihrem Buch entnommen habe, spielt dieses Thema aus Ihrer Sicht eine ganz zentrale Rolle – gerade, weil unterschiedliche Fachabteilungen zusammengebracht werden müssen, die ja mitunter auch eine sehr unterschiedliche Sprache sprechen. Sollten die Mitarbeiter daher so geschult und weiterqualifiziert werden, dass sie überhaupt in der Lage sind solche Abwägungsprozesse vorzunehmen?
LS: Das meinte ich vorher mit Qualifizierung. Sie brauchen ein Basis-Set an Qualifikationen. Sie müssen die Möglichkeiten der Beeinflussbarkeit von KI kennenlernen. Sie müssen sich auf Dialog verstehen und Sie müssen sich darauf verstehen, einen Ausgleich zu finden. Wissen Sie, wenn Sie eine Seite haben, die mit verschränkten Armen alles blockiert und sagt: Ihr könnt ja diskutieren was ihr wollt – aber wir sind zuständig. Dann können Sie sich im Grunde die Wirkung eines derartigen Panels von der Backe putzen. Es braucht gerade am Anfang in den Betrieben einen Machtpromotor, der dahinter steht und pusht, dass dieser Dialog stattfindet.
“Sie brauchen ein Basis-Set an Qualifikationen. Sie müssen die Möglichkeiten der Beeinflussbarkeit von KI kennenlernen. Sie müssen sich auf Dialog verstehen und Sie müssen sich darauf verstehen, einen Ausgleich zu finden. (…) Es braucht gerade am Anfang in den Betrieben einen Machtpromotor, der dahiner steht und pusht, dass dieser Dialog stattfindet.”
KIDD: Wie sehen Sie die Zeitdauer? Ist das Panel der Vielfalt ein Gremium, das sich nur zum Startpunkt zusammenfindet oder ist es ein Gremium, was eine Kontinuität im Unternehmen braucht?
LS: Das kann ich nicht beurteilen, weil ich das überhaupt nicht weiß. Da würde ich mal aus der Alltagserfahrung derartiger Panels Schlussfolgerungen ziehen. Aber eine Prognose wage ich da noch nicht.
KIDD: Sie sind in Bezug auf KI auch ein Befürworter des Lagom-Konzeptes, um was geht es da genau und für was steht es?
LS: Für Balance.
KIDD: Eine Balance, um die, doch auch ein bisschen heiß gelaufene, Diskussion herunterzufahren und quasi einen konstruktiven Prozess zu entwickeln? Wie lässt sich das von Ihnen mitentwickelte KI-Lagom-Konzept auf das Panel der Vielfalt übertragen, welche Möglichkeiten sehen Sie?
LS: Ich glaube, dass sich die Lagom-Prinzipien eignen, über den KIDD-Prozess gelegt zu werden. Im Grunde sagt dieses Konzept: Ihr könnt jetzt noch auf keine Erfahrungen in der Gestaltung von KI-Systemen zurückgreifen, weil die noch zu jung sind. Die herkömmlichen Erfahrungen mit IT-Systemen lassen sich zum Teil aber nicht in jeder Hinsicht übertragen. Dafür sind die Wirkungsweisen und Funktionsmechanismen anders. Und wenn wir jetzt anfangen, innerhalb der Betriebe so strittig auf KI-Systeme Einfluss zu nehmen, glaube ich, werden wir Jahrzehnte brauchen, bis wir in unserer Wirtschaft einen Standard haben, der Vertrauen schafft. KI-Lagom zielt darauf ab, einen Dialog zu initiieren, der auf Balance ausgerichtet wird. Und dieses Konzept sagt bewusst, es ist ein Suchprozess. Es ist kein Prozess, der von vornherein bereits endgültige Wahrheiten irgendwie für sich in Anspruch nehmen kann. Er gibt allerdings einen Ordnungsrahmen für die Suche als Angebote heraus und sagt: Überlegt euch mal, was ist euch da wie wichtig und versucht, verschiedene Lösungsmöglichkeiten anzubieten. Das kennen wir ja alle. Gegenüber KI-Systemen haben Menschen in Abhängigkeit von der Nützlichkeit derartiger Systeme unterschiedliche Auffassungen. Wenn wir etwas Vertrauenswürdiges machen wollen, dann müssen wir die Beteiligten, wenn wir etwas aufbauen – und auch ihre Interessen ernst nehmen. Das macht Lagom und das macht KIDD. Also insofern sind beide Grundideen dicht beieinander.
KIDD: Sie haben mehrfach darauf hingewiesen, dass es letztlich auf Vertrauen ankommt und es letztlich auch darum geht, so etwas wie eine „Trusted KI“ zu schaffen. Also eine KI, bei der man weiß, was drin ist. Nun soll es demnächst eine geänderte europäische Gesetzgebung geben, die eventuell auch unmittelbare Auswirkungen auf KIDD hat. Gibt es da konkrete Punkte, an die Sie denken?
LS: Ja, sicher. Es gibt zwischenzeitig ein ungefähr 120 Seiten starkes Papier. Das ist der erste Entwurf einer europäischen Regulation, die die europäische Kommission herausgegeben hat und mit dem sie jetzt in Verhandlung mit dem Europäischem Parlament eintreten wird. Das sind Regulierungsansätze, bei denen es auch darum geht, welche KI-Anwendungen man in Europa verbieten will. Welche Ansätze als Anwendungen mit hohem Risiko ausgewiesen werden. Und diese Unterlage, die jetzt als Entwurf verabschiedet ist und die noch keine Gesetzeskraft hat, sagt zweierlei. Sie sagt zum ersten: Wir werden nicht eine Richtlinie herausgeben, die jedes Land interpretieren kann. Sondern wir machen eine Verordnung, die unmittelbare Rechtskraft umsetzt und die in Europa dann überall eine Rechtsgrundlage hat. Und der Entwurf ist gespickt miz Qualitätsansprüchen gegenüber KI- Systemen. Bei Hochrisikobereichen werden Empfehlungen gegeben, wie man damit umgehen muss in einer Art und Weise, dass ich gestaunt habe. Der Entwurf ist seit kurzem zugänglich. Man kann ihn sich von den Seiten der Europäischen Kommission herunterladen.
KIDD: Insbesondere KI-gestützte Matchingverfahren wurden als besonders risikobehaftet bewertet – da mindestens ein Experimentierraum mit genau so einem Verfahren arbeitet – was gilt es aus Ihrer Sicht zu beachten?
LS: Das würde ich mir an Ihrer Stelle gründlich anschauen. (Ich kann mal nebenher versuchen, während wir miteinander reden, in einer Anlage zu blättern. Warten sie mal, dann lese ich Ihnen mal vor was dazu drinsteht. Allerdings habe ich keine formale Übersetzung. Die ist auf Deutsch noch nicht verfügbar.) „KI-Systeme, die für die Einstellung oder Auswahl natürlicher Personen verwendet werden sollen insbesondere für die Ausschreibung freier Stellen, das Screening und die Bewertung von Bewerbungen im Rahmen von Vorstellungsgesprächen und Tests gehören zum Hochrisikobereich.“ Dazu sind 50 Seiten Verhaltensregularien in diesem Entwurf. Es ist so, dass diese Anwendungen dem Hochrisikobereich zugeordnet wird.
KIDD: Wie wäre Ihre Vision in Hinblick auf eine positive Zukunft mit KI – welchen Beitrag kann KIDD dazu leisten?
LS: Ich stelle mir eine Welt vor, in der KI-Systeme unsere Verkehrssituation deutlich verbessern. Indem wir integrative Planeinsätze haben, die alle Verkehrteilnehmer nebeneinander herfahren lassen, bis hin zu Bussen, die im Zweifel auf Abruf zur Verfügung stehen. Der Fahrplan verliert tendenziell seine Bedeutung, wenn ich App gesteuert und KI gestützt, disponieren kann. Dann sind viele Leerfahrten vermeidbar. Ich stelle mir eine Medizin vor, die uns hilft mit der KI als Assistenzfunktion, Krankheiten zu erkennen und zu behandeln in einer Art und Weise wie wir das bisher nicht konnten. Ich stelle mir eine Arbeitswelt vor, bei der einfache Routine- und schwere Arbeiten, die wir eigentlich nicht machen wollen, von einer Maschine gemacht werden. Und ich stelle mir eine Arbeitswelt vor, bei der die Produktivitätspotentiale, die wir dadurch erschließen, in sozialen Fortschritt fließen. Warum können wir nicht kürzer arbeiten, wenn Maschinen Funktionen übernehmen. Da glaube ich, liegt schon eine Menge Möglichkeiten darin, was KI für uns leisten kann. Ich will nicht von vornherein immer nur die Risiken benennen. Wir können mit KI-Systemen auch etwas sehr Fortschrittliches tun. Und ich glaube, um den Aspekt der Beschäftigung zu adressieren, KI kann auch neue Geschäftsfelder erschließen, die Beschäftigung bietet. Sie wird natürlich zur Umverteilung von Beschäftigung führen. Aber auch da bieten sich wiederum KI gestütze Vorhersagen über die Zukunft der Beruflichkeit, die in der Zukunft erforderlichen Fähigkeiten und Fertigkeiten an. Also, wenn ich als junger Mensch aus der Schule komme und mich beraten lasse und mir ein KI-System sagen kann: „Du, mit einer 75-prozentigen Wahrscheinlichkeit sind in 15 Jahren die und die Fähigkeiten ganz markant auf dem Markt”, dann nützt mir das. Das heißt, wir können mit KI klüger werden und belastbarere Entscheidungen treffen und das finde ich sehr sympathisch.
KIDD: Das klingt nach einem perfektem Schlusswort. Vielen Dank, Herr Schröder, für dieses Interview.
Literatur:
Schröder, Lothar/ Franz, Markus (2019). Eine warme Stimme schleicht sich in dein Ohr. Fluch und Segen von Künstlicher Intelligenz. Gewerkschaftliche Antworten. VSA: Verlag Hamburg.
KIDD-Beteiligte in diesem Beitrag
Lothar Schröder
Katja Anclam
Stellvertretende Vorständin, Medienwissenschaftlerin, TV Producerin
female.vision e.V.
