Anfang Dezember haben sich die Unterhändler von Europaparlament und der EU Staaten nach mehr als zwei Jahren Verhandlung auf die Vorlage des AI Acts geeinigt. Anfang 2024 soll auf dieser Grundlage ein Gesetz erlassen werden, dass erstmals die Nutzung von KI in der EU regelt und in dieser Form weltweit einmalig ist. Bis zuletzt war unklar, ob eine Einigung dazu zustande kommt. Katja Anclam hat bei Politikwissenschaftler Dr. Marco Wedel von der TU Berlin und Mitglied im KIDD Konsortium nachgefragt, was das Ergebnis der Verhandlungen ist und was der AI Act für den KIDD Prozess bedeutet.
Warum brauchen wir überhaupt eine Regulierung für künstliche Intelligenz? Welche Anforderungen muss eine KI in Zukunft, gemäß AI-Act in der EU, erfüllen? Und was bedeutet der AI Act für den KIDD Prozess?
Diesen Fragen gehen wir im Interview mit Dr. Marco Wedel, Politikwissenschaftler und Mitglied im KIDD-Konsortium, nach. Dr. Marco Wedel forscht insbesondere zu den Themen Digitalisierung, Künstliche Intelligenz und Medienkompetenz sowie zu den Themenfeldern Europäische Integration, Demokratiekompetenz und Nachhaltige Entwicklung. Im Forschungsprojekt KIDD – Künstliche Intelligenz im Dienste der Diversität hat er sich intensiv mit den Verhandlungen rund um den AI Act beschäftigt. Das Interview wurde geführt von Katja Anclam, female.vision e.V., im KIDD-Konsortium zuständig für das Arbeitspaket Outreach & Stakeholderbeteiligung.
KIDD: Was ist der AI Act überhaupt und warum ist er so wichtig?
Der AI Act ist das erste weitreichende Gesetz in der Welt – obwohl es auch andere Regulierungsansätze gibt – das versucht KI zu regulieren und eine gesellschaftliche Haltung unserer westlichen Demokratie gegenüber KI in ein Gesetz zu fassen. Die ersten Erlassungen dazu gab es bereits 2016 vom Europäischen Wirtschafts- und Sozialausschuss. Die einzelnen EU-Institutionen haben sich dann angeschlossen. Das Europäische Parlament zum Beispiel, hat gesagt, wir müssen uns positionieren, weil wir ein Interesse daran haben, dass unsere Demokratie in der EU eine menschenzentrierte bleibt. Damals war vor allem von Robotern die Rede. Und dann kam künstliche Intelligenz, die Sorge vor Dystopien, z.B. auf Frankensteins Monster wurden verwiesen, und das Ziel ausgegeben, dass wir in einer selbstbestimmten Welt leben wollen, wo Menschen Maschinen und nicht Maschinen Menschen kontrollieren. Das ist unser demokratisches Ideal. Wir sind die Souverän*innen in unserer Gesellschaft und so soll es auch bleiben in einer von Digitalisierung geprägten Welt. Da waren sich die EU-Institutionen weitgehend einig. Die Kommission hat dann eine hochrangige Expertengruppe eingesetzt, um herauszufinden, wie kann das eigentlich aussehen? Die Expert*innen kamen, stark verkürzt, zu dem Ergebnis, dass wir so etwas wie eine vertrauenswürdige KI brauchen. Vertrauen als Kriterium: Das ist ja so in unserer Welt, dass wir alle ohne große Ängste in Aufzüge steigen, in Flugzeuge steigen, uns in medizinische Behandlungen begeben, weil wir einfach wissen, dass da Mechanismen dahinterstehen, die es vertrauenswürdig machen.
„Der AI Act ist das erste weitreichende Gesetz in der Welt (…)“
Wir vertrauen den Menschen, dass sie die Kompetenzen haben und wir vertrauen der Technologie, dass sie robust und belastbar ist. Und so muss das auch mit KI sein. Das war die Idee. Die Kommission hat dann im April 2021 einen ersten Gesetzentwurf präsentiert. Weil es schwer ist, eine Technologie zu regulieren, von der man noch gar nicht weiß, in welche Richtung sie sich entwickelt, wurde ein risikobasierter Ansatz gewählt, also die Schadensverhütung. Es sollen nicht Technologien verboten werden, sondern Anwendungsszenarien, die mit unserem Werteverständnis nicht in Einklang zu bringen sind. In diesem Zusammenhang ist die berühmte Risikopyramide entstanden, die festlegt, dass es verbotene Anwendungen gibt und Anwendungen im Hoch-Risikobereich, wo man unterstellt, dass es auch besondere Potenziale gibt, Chancen von KI, aber deswegen auch höhere Risiken. Weiterhin Anwendungen mit kleinerem Risiko und Anwendungen ohne Risiko. Das ist der Ansatz des AI-Act.
Dieser wurde als Teil des europäischen Gesetzgebungsverfahrens in den letzten Wochen sehr intensiv verhandelt. Es gab eine Seite, die sich stärker auf den Schutz der Menschenrechte oder des Sozialgesellschaftlichen konzentrierte, eher von zivilgesellschaftlichen Organisationen vertreten und eine andere, eher wirtschaftsgetriebene Position, die eher die Angst und die Sorge umtrieb, dass eine Regulierung die Innovationspotenziale einschränken könnte. So weit, so normal. Zum Schluss gab es dann sehr starken Lobbyismus, insbesondere aus den USA, von den großen bekannten Tech-Firmen, aber auch aus Deutschland, der daraufhin wirken wollte, gewisse KI-Systeme weitestgehend aus der Regulierung herausgenommen werden. Und für einen Moment schien es so, als hätten sich Frankreich, Deutschland und Italien auf die Seite der großen Tech-Firmen gestellt. Wäre das passiert, dann wäre die große Frage gewesen, ob aus diesem hehren großen Ansatz der KI-Regulierung als menschenzentrierte, menschenwürdige, vertrauenswürdige Regulierung, ob dann davon überhaupt noch etwas übrig geblieben wäre
Jetzt scheint man sich Trilog zwischen den drei EU-Institutionen auf einen Entwurf geeinigt zu haben, der als guter demokratischer Kompromiss doch ein wenig den ursprünglichen Geist dieser Verordnung atmet, nämlich, dass er die Menschen nicht ganz aus dem Blick verliert und dass der Schutz des Einzelnen und die Schadensverhütung des Menschen auch im Mittelpunkt dieser Verordnung stehen kann, während den Wirtschaftsinteressen auch Rechnung getragen wurde.
KIDD: Hört sich ja eigentlich sehr gut an. Also so, als ob Europa da auf einem ganz guten Weg wäre.
Nun schwanken die Reaktionen auf den Beschluss zwischen „historische Einigung und wegweisend für die Welt“, wie es EU-Binnenmarkt-Kommissar Thierry Breton formuliert hat – und Journalisten wie Alexander Armbruster von der FAZ, der die „EU in der Defensive“ sieht. Was ist Deine Meinung dazu?
Also ich sehe einerseits auch die historische Komponente, weil wenn man den Prozess in der Analyse zurückverfolgen kann auf das Jahr 2016, wo es die ersten Einlassungen gab, 2021 gab es den ersten Entwurf, dann hat man doch sehr früh angefangen, sich mit dem Thema auseinanderzusetzen zu einer Zeit, wo das bei vielen noch gar nicht so sehr auf der Agenda war. Und doch nicht zu früh. Denn während des Entwicklungsprozesses kam zum Beispiel die sogenannte General Purpose AI auf, die im Ursprungsentwurf noch gar nicht berücksichtigt werden konnte. Darauf konnte man nun reagieren und man braucht es ja genau jetzt. Dass man den Gesetzesentwurf in 2023 abschließend beraten konnte, das ist schon ein gutes Timing und kann durchaus als proaktiv und historisch bewertet werden. Deswegen würde ich uns da gar nicht in der Defensive sehen in Europa, weil es die Aufgabe von Politik ist, die Würde des Menschen zu schützen. Es heißt doch, die Würde des Menschen ist unantastbar und nicht die Wettbewerbsfähigkeit der deutschen oder europäischen Wirtschaft.
In diesem Sinne müssen Politiker*innen als Mandatsträger*innen auch einen Eid schwören, dass sie Schaden abwenden von den Menschen. Genau in diesem Sinne ist es proaktiv und im Geiste des staatlichen und demokratischen Schutzversprechens gegenüber den Bürgerinnen und Bürgern. Wenn Defensive unterstellt wird, dann natürlich eher im wirtschaftlichen Nexus, weil man die Sorge hat, dass in Europa kein gutes innovatives Produkt der amerikanischen oder chinesischen Marktmacht gegenübersteht. Das ist ein anderes Thema und natürlich ist Überregulierung ein Problem. Die sehe ich hier aber nicht.
Innovation hingehen, so ist das in einer freien Marktwirtschaft, muss schlussendlich aus der Wirtschaft selbst kommen. Es ist nicht Aufgabe des Staates die Wirtschaftsakteur*innen zum Jagen zu tragen. Trotzdem glaube ich, dass bei den Wirtschaftsakteur*innen die Chance begriffen wird, dass jetzt mit dieser Regulierung auch eine KI Made in Europe, also eine vertrauenswürdige KI durchaus gelingen kann. Und vielleicht gibt es jetzt noch einmal Rückenwind, weil das Thema KI so stark auf die Agenda gehoben wurde, dass auch innerhalb der europäischen Wirtschaft und Zivilgesellschaft vor allem bei den Bürgerinnen und Bürgern eine Art Kapazitätsaufbau und Kompetenzaufbau für und mit KI gelingen kann. Da bin ich grundsätzlich optimistisch.
„Und ich glaube, dass bei den Wirtschaftsakteur*innen die Chance begriffen wird, dass jetzt mit dieser Regulierung auch eine KI Made in Europe, also eine vertrauenswürdige KI durchaus gelingen kann.“
KIDD: Es gab nach dem 8. Dezember, also an dem Tag, an dem, die Schlussfassung verabschiedet worden ist, wirklich einen riesigen Wirbel in ganz Europa zum Thema AI-Akt. Aber was ganz genau drinsteht, weiß so richtig niemand. Weißt Du mehr?
Es ist natürlich viel kommunikativer Wirbel. Es gibt den einen oder anderen, der aus dem Hinterzimmer vielleicht bereits mehr erfahren hat. Da gibt es auch einige Journalistinnen im europäischen Kontext, die regelrecht Berühmtheit erlangt haben dafür, dass die Berichterstattung so gut war. Aber am Ende müssen wir jetzt abwarten, was wirklich drinsteht im Gesetz. Da wird es sicherlich noch zu Überraschungen kommen. Es wird Schlupflöcher geben, wenn man das im Detail analysiert. Wir wissen ja ohnehin, dass vieles nachher auch bei der Standardisierung liegen wird, also die Interpretation dessen, wie das was im Gesetz steht in der Praxis umgesetzt werden soll.Und am Ende – das war ja schon abzusehen, ist es aus unserer Sicht auch so, dass die Kritik bleibt, zum Beispiel bei partizipativen Verfahren. Also das wurde Verhaltenskodex genannt, und alle waren der Meinung, dass das eher so etwas Freiwilliges hat. Das haben wir vorher schon bemängelt, dass sozusagen die Beteiligung von einem möglichst breiten Spektrum von Akteur*innen bei der Entwicklung von KI-Systemen eigentlich verpflichtend sein müsste.Ich glaube nicht, dass unserem Wunsch entsprochen wurde. Da ist also sicherlich noch Luft nach oben. Aber ich glaube, zum jetzigen Zeitpunkt sollten wir zunächst einmal verhalten optimistisch sein.
KIDD: Wenn wir auf der zeitlichen Achse schauen – Was denkst Du, bis wann werden wir erfahren, was eigentlich ganz genau drinsteht?
Das weiß ich auch nicht genau. Das müsste eigentlich Anfang nächsten Jahres (2024) geschehen. Es wird dann eine zweijährige Übergangsfrist geben und einzelne Bestandteile sollen schon schneller in Kraft treten. Aber zunächst muss der Prozess als ordentliches Gesetzgebungsverfahren abgeschlossen werden und das Gesetz veröffentlicht werden. Jetzt finden ja noch die Lesungen statt.
KIDD: Du beobachtest für uns die Lage hoffentlich weiter. Wir können dann Anfang 2024 weiter ins Detail gehen. Der KIDD-Prozess ist parallel zu den Verhandlungen des AI-Acts in der EU entwickelt worden. Welche Auswirkungen erwartest Du durch das Verhandlungsergebnis auf den KIDD-Prozess?
Für KIDD wird es in erster Linie Rückenwind geben und Konkretisierung. Wenn sich die Gesetzesentwürfe nicht ständig verändern, sondern wenn wir wissen, worauf wir genau eigentlich Bezug nehmen können, dann können wir auch verlässlich referenzieren.
Natürlich haben wir schon jetzt in der Praxis erproben können über mehrere Jahre hinweg, was andere jetzt noch vor sich haben. Wir (KIDD) haben einen Erfahrungs- und einen Entwicklungsvorsprung in eben genau dieser menschenzentrierten und partizipativen Entwicklung von KI-Systemen und auch Erfahrung, was das Thema Kompetenzaufbau angeht, auch als AI-Literacy, und wie man einen solchen Prozess im Unternehmen aufsetzen kann. Wir können jetzt damit beginnen, Unternehmen aber auch zivilgesellschaftlichen Institutionen bei der Umsetzung direkt zu helfen.
„Wir (KIDD) haben sozusagen einen Erfahrungs- und einen Entwicklungsvorsprung in genau dieser menschenzentrierten und partizipativen Entwicklung von KI-Systemen und (…) Kompetenzaufbau, AI-Literacy und wie man einen solchen Prozess aufsetzt.“
Denn was ja auch wichtig ist, die Idee des Gesetzes ist eine vertrauenswürdige KI zu schaffen, ein vertrauenswürdiges Ökosystem. Und Vertrauen kann man natürlich nicht per Verordnung einfordern. Das Gesetz schafft nicht Vertrauen, sondern es ist die soziale Praxis, die am Ende vertrauen schafft. Die entsprechenden Regulierungen gibt hier nur den rechtlichen Rahmen. Wenn die Standards da sind und die Regulierung konkret ist, dann bedarf es eben dieser sozialen Praxis, Vertrauen herzustellen bei den Akteur*innen. Da kommen dann wieder wir ins Spiel, weil die Methoden für die soziale Praxis, die haben wir.
„Die Idee des Gesetzes ist, eine vertrauenswürdige KI zu schaffen, ein vertrauenswürdiges Ökosystem, (…) Vertrauen kann man natürlich nicht per Verordnung einfordern.“
KIDD: Das hört sich sehr optimistisch und positiv an. Jetzt steht erst einmal Weihnachten kurz vor der Tür. Und wenn Du Dir etwas wünschen dürftest für 2024, gerade im Hinblick auf den AI-Act, gibt es etwas, was auf Deiner Wunschliste steht?
Ich wünsche mir möglichst wenig Schlupflöcher zu finden im KI-Gesetz und dass die nun folgende Standardisierung nicht nur die Bedürfnisse der Wirtschaft in den Fokus rückt. Wir brauchen Innovationen und wir brauchen Wirtschaftswachstum. Aber wir alle tragen immer auch eine demokratische Verantwortung für unsere Gemeinschaft, auch als Betriebs- und Volkswirt*innen. In diesem Sinne sollte es auch das Ziel der Standardisierung sein, mit Hilfe dieser unsere Gesellschaft in einer von KI geprägten Welt zu einer guten und lebenswerten Gesellschaft werden zu lassen. Und genau da wünsche ich mir eine gehörige Portion Idealismus und Demokratiefestigkeit bei allen nun beteiligten Akteur*innen.
KIDD: Lieber Marco, vielen Dank, dass Du Deinen Wunsch gleich für die ganze Gesellschaft verwendet hast. Vielen Dank für dieses Interview.
Interview vom 19.12.2023
