Das diesjährige KIDD-Forum hat sich thematisch mit dem EU-AI-Act, welcher am 13. März vom EU-Parlament erlassen wurde, auseinandergesetzt. Eine Kernfrage war, welche Auswirkungen die Verordnung auf die Praxis in Unternehmen hat und wie der KIDD-Prozess zukünftig Unterstützung bieten kann.
Nach den Impulsen zum Thema EU-AI-ACT von Dr. Marco Wedel und Tabea Rößner gab es eine anregende Diskussion im Panel mit den Teilnehmer: innen: Tabea Rößner (MdB), Dr. Marco Wedel (TU Berlin), Victoria Tamm (CHEMISTREE), Dr. Daniel Guagnin (nexus). Die Moderation des Panels übernahm die Diversity-Expertin Annette von Wedel (female.vision).
Der Umsetzung des EU-AI-Acts steht nichts mehr im Wege, nun stellt sich die Frage: Wie lange dauert es, bis der AI-Act in das deutsche Recht umgesetzt ist und welche Regulierungen gelten in der Übergangszeit? Die praktische Umsetzung braucht manchmal mehr Zeit, wie beispielsweise beim Digital Services Act, welcher seit Februar in ganz Europa gilt. Der Fokus liegt hier auf einer guten Qualität und Beteiligung aller wichtigen Akteure.
“Wir müssen jetzt die Weichen stellen und es gibt bereits Gremien, die sich damit befassen, zum Beispiel die Standardisierungsgremien, die schon dabei sind in den unterschiedlichen Bereichen.“ Tabea Rößner (MdB)
Bis der EU-AI-Act in Kraft tritt, haben die Unternehmen die Möglichkeiten die Richtlinien zu reflektieren und für die eignen Prozesse umzusetzen. Ein Beispiel hierfür ist CHEMISTREE, KMU und Teil des KIDD-Konsortiums.
“Wir sind mit unserer Lösung unter anderem Teil des Hochrisikobereichs, sehen das Ganze aber auch als Chance da natürlich eine Entscheidung über Menschen getroffen wird, anhand des Jobmatchings.“ Victoria Tamm (CHEMISTREE)
Das Produkt von CHEMISTREE ist eine Matchingpattform, unter anderem das Jobmatching, laut Punkt vier des AI-Acts (Employment), Teil des Hochrisikobereichs, da eine Entscheidung über Menschen getroffen wird. Für das Jobmatching stellt sich beispielsweise die Frage hinsichtlich Diskriminierung:
Sollte nicht der gleiche Job für eine Person vorgeschlagen werden, wenn der Name und das Geschlecht weggelassen wird?
Der AI-Act gibt CHEMISTREE die Möglichkeit an ihrem Produkt zu arbeiten und die einzelnen technischen Schritte im Hinblick auf Transparenz, Kontrollierbarkeit und Fairness für die End User:innen und Kund: innen zu hinterfragen, teilte Victoria Tamm auf dem Panel.
Weiterhin betonte Dr. Daniel Guagnin (nexus Institut) eine klare Erwartungshaltung an die KI-Anwendungen:
“Es ist wichtig, die Technik zu entzaubern und auch ein Stückweit zu verstehen, was sie kann und was sie nicht kann und was sie vielleicht auch gar nicht können braucht und können soll.“
Dies wird durch den Teil „KI verstehen und bewerten“, im KIDD-Prozess abgedeckt, wo es Fokus auf der Kompetenzvermittlung und Partizipation im Unternehmen liegt. An vielen Stellen im Unternehmen ist es jedoch noch Digitalisierung Pioniersarbeit und es stellt sich die Frage: Welche Prozesse eignen sich dazu digitalisiert zu werden? Der tatsächliche Einsatz von KI steht dort an zweiter Stelle, so Dr. Daniel Guagnin.
Weitere Insights aus dem KIDD-Forum 2024 folgen in den kommenden Tagen. Wir freuen uns über ihre Rückmeldungen und Fragen zu dem Thema.
**Save the Date**Sie können sich an dieser Stelle bereits den 07. Juni für die KIDD-Abschlusskonferenz vormerken.
