KI-Verordnung in Europa auf der Zielgeraden?

Eine KI-Verordnung für Europa – was soll sie bewirken?

Künstliche Intelligenz ist spätestens seit dem durchschlagenden Erfolg von ChatGPT viel und brandheiß diskutiert – thematisch zählt hierzu nicht zuletzt die Rechtsprechung. Welcher Schranken bedarf KI und wie sollten wir die Technologie regulieren, um einen sicheren Einsatz von KI zu gewährleisten? Mit diesen und vielen weiteren Fragen beschäftigt sich seit rund zwei Jahren die europäische Kommission, der EU-Ministerrat und zuletzt das europäische Parlament. Die neue KI-Verordnung – im englischen Sprachgebrauch AI Act genannt – soll nun die erste europaweite Regelung für den Gebrauch Künstlicher Intelligenz in den Mitgliedstaaten verkörpern. Tatsächlich stellt sie das weltweit erste, umfassende KI-Gesetz dar.

Neue Regeln für ChatGPT & Co.

Die kommende KI-Verordnung der EU legt einen Grundstein für die Regulierung Künstlicher Intelligenz in der EU. Sie zielt konkret darauf ab, ein Regelwerk für die Entwicklung, den Einsatz sowie die Nutzung von KI-basierten Systemen in Europa zu schaffen. Hierfür will sie einen einheitlichen Rahmen kreieren und für Transparenz und Rechtssicherheit bei der KI-Technologie sorgen. Federführend bei der Ausgestaltung des Gesetzestextes sind der Ausschuss für Binnenmarkt und Verbraucherschutz (IMCO) sowie der Ausschuss für bürgerliche Freiheiten, Justiz und Inneres (LIBE) des europäischen Parlaments. In seiner ursprünglichen Fassung behandelte der 120-Seiten-starke Verordnungsvorschlag unter anderem folgende Aspekte:

• Gründe und Maßnahmen für die KI-Regulierung in Europa
• Einteilung von KI-Systemen nach Risikoklassen
• Mindestanforderungen für KI-Systeme
• Zertifizierungsbestimmungen für besonders riskante KI-Systeme
• Regelungen zur behördlichen Überwachung und Aufsicht von KI in Europa
• Festlegung von Geldbußen bei Gesetzesverstößen

Fakten zur KI-Verordnung: Der Stand und was bald kommt

• Bereits im Jahr 2019 kündigte die Präsidentin der europäische Kommission Ursula von der Leyen die KI-Verordnung an.
• Am 21. April 2021 legte die Europäische Kommission ihren Entwurf der KI-Verordnung – namentlich: Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (Gesetz über Künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union – als Vorschlag vor.
• Am 6. Dezember 2022 veröffentlichte der EU-Ministerrat seinen eigenen, in einigen Punkten abgeschwächten Entwurf der Verordnung.
• Am 11. Mai 2023 stimmten die zuständigen Ausschüsse im europäischen Parlament über einen Kompromissvorschlag ab.
• Der Kompromissvorschlag bildet nun die Grundlage einer weiteren Parlamentsabstimmung, die voraussichtlich noch im Juni stattfinden soll.
• Danach beginnt der offizielle Trilog: Bei dem Gesetzgebungsverfahren stimmen die drei EU-Gesetzgeberorgane – die europäische Kommission, der Rat der Europäischen Union sowie das Europäisches Parlament – gemeinsam über die finale Verordnung ab.
• Und wann tritt die KI-Verordnung in Kraft? Eine Einigung auf EU-Ebene erwarten Expert:innen frühestens Ende 2023 oder Anfang 2024. Vermutlich findet der finale Entwurf der Verordnung dann zwei Jahre später Anwendung.

Der Vorschlag zur KI-Verordnung des europäischen Parlaments sorgte tatsächlich für Furore: Über 3.300 Änderungsanträge sind als Antwort auf den ersten Entwurf eingegangen. Der im Mai vorgestellte Kompromissvorschlag enthält zahlreiche Änderungen an der Verordnung – teilweise zu technologischen Sachverhalten, die es zum Zeitpunkt der Veröffentlichung des ersten Gesetzesentwurf noch gar nicht gab. Zu den Änderungen zählt unter anderem ein Verbot von KI zur biometrischen Überwachung, Emotionserkennung oder vorausschauenden Polizeiarbeit. Ebenso brachten die zuständigen Ausschüsse ein Verbot des wahllosen Auslesens biometrischer Daten aus sozialen Medien oder Videoüberwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken ein.

Lob und Kritik an der politischen Arbeit

Die neue Abstimmung ist laut Dirk Freytag ein wichtiger Meilenstein für den Umgang mit Künstlicher Intelligenz. Der Präsident vom Bundesverband Digitale Wirtschaft (BVDW) e. V. machte dazu unlängst deutlich: „Die über 3.300 Änderungsanträge zeigen, wie stark die disruptive Kraft dieser Technologie ist und wie Gesetzgebung noch während ihrer Erarbeitung von der Realität überholt wird.“ Dem Digitalexperten zufolge birgt dies Sprengstoff für das Vorhaben der Europäischen Union, mit der neuen KI-Verordnung globale Standards zu setzen. Nach Freytag benötigen technologische Entwicklungen zwar eine rechtliche Regulierung, jedoch keinen kleinteiligen Rahmen, der die Richtung diktiert. Gerade deshalb sei es wichtig, ein übergeordnetes Framework zu definieren, das eine sektorspezifische Betrachtung ermöglicht und es erlaubt nachzujustieren, so Freytag.

Ziehen sich KI-Entwickler jetzt womöglich aus Europa zurück?

Den AI Act kann man in der Wirtschaft durchaus gespalten sehen – zumindest wenn es nach vielen Entwicklern von KI-Systemen geht. OpenAI-Chef Sam Altman – der Kopf hinter ChatGPT – etwa drohte kürzlich mit einem Rückzug aus Europa, sollte es zur geplanten Regulierung kommen. Er hält laut einer späteren Aussage die Ansätze in Europa zwar für recht gut, wünscht sich jedoch mehr Klarheit.

Kleine und mittelgroße Innovatoren könnten das Nachsehen haben

Jonas Andrulis, Gründer und Geschäftsführer des KI-Start-ups Aleph Alpha, warf zum Thema in einer schriftlichen Stellungnahme für den Deutschen Bundestag auf, dass die laufenden Regulierungsbemühungen die operationelle Unabhängigkeit und den Erhalt der Wertschöpfung der KI-Technologie in mehrere Richtungen erschwerten. Hierzu zähle, dass der derzeitige Fokus auf die Regulierung die kreative Energie von Expert:innen und Leader:innen absorbiert. Aktuell fehle die Zeit und Energie, neue KI-basierte Geschäftsmodelle zu entwickeln oder um sich mit Stakeholdern abzustimmen. Der KI-Experte, der zum Thema erst kürzlich im Deutschen Bundestag als Sachverständiger geladen war, kommentierte: „In diesem Zusammenhang ist es nicht verwunderlich, dass sehr gut finanzierte außereuropäische Konzerne mit dem Ziel, ihre Geschäftsmodelle um KI zu erweitern, nach starker Regulierung rufen. Sie können mit Heerscharen von Juristen staatlichen Anforderungen an Dokumentation, Transparenz, Risikofolgenabschätzung genügen und diese Positionen im Zweifel durch Gerichtsinstanzen treiben. Start-ups und KMU können das nicht.“

KI-Verordnung: Großartige Sache, ein Kompromiss, Überregulierung – was ist es nun?

Wir finden: Wenn neue Technologien unsere Gesellschaft fundamental verändern – beziehungsweise dies mit großer Sicherheit tun werden –, müssen dafür rechtliche Rahmen geschaffen werden. Ob und wie sich die neue KI-Verordnung gesellschaftlich und wirtschaftlich auswirken wird, lässt sich allerdings noch nicht absehen.

Das Statement von Jonas Andrulis verdeutlicht jedenfalls umso mehr die klaffende Lücke in den Möglichkeiten großer Unternehmen und kleinen Innovatoren. In jedem Fall wäre ein Abzug von KI-Anbietern aus Europa fatal.

Fakt ist: Künstliche Intelligenz stellt eine bahnbrechende Technologie mit enormem Innovationspotenzial dar. Wenn allerdings junge Technologieanbieter ihr Wissen zur KI-Entwicklung andernorts einsetzen, könnte Europa an Wettbewerbsfähigkeit verlieren. Die Diskussion rund um die EU-Regulierung zur KI bleibt also höchst spannend, richtig und wichtig. Aktuell heißt es aber erstmal, im Blick zu behalten, was rund um den Kompromissvorschlag im Juni 2023 geschieht. Und auch bei der Data Economy ist mit dem EU Data Act einiges in Bewegung.