Zurück Zurück

KI-Regulierung – geschickter Schachzug oder regelrechte Herausforderung?

KI-Regulierung im Fokus
Bild: © M. Dörr & M. Frommherz / Adobe Stock

Ethik und KI in Europa

KI-Technologien sind auf dem Vormarsch und die Europäische Union will Spitzenreiter in der Entwicklung und Anwendung von Künstlichen Intelligenzen werden. Hierzu hat die EU-Kommission unlängst einen umfangreichen Rechtsrahmen vorgelegt. Es geht insbesondere um Exzellenz und Vertrauen. Doch was bedeutet das? Wir haben Katharina Rieke, Bereichsleiterin Politik und Gesellschaft im Bundesverband Digitale Wirtschaft e.V. (BVDW), gefragt:

Katharina Rieke über KI-Regulierung
Katharina Rieke sprach mit uns über KI-Regulierung.

Was ist unter dem Begriff „ethische KI“ zu verstehen?

Katharina Rieke: Ethik ist schon immer ein wichtiges Thema unserer Gesellschaft gewesen. Heute stellen Datafizierung und Vernetzung der Welt diese alten Fragen neu. Gerade im Zusammenhang mit KI kommen diese Fragen natürlich verstärkt auf. Das heißt aber nicht, dass wir alte Maßstäbe über Bord werfen und ganz neue erfinden müssten. Im Gegenteil, wir müssen vielmehr bewährte ethische Maßstäbe für das digitale Zeitalter übersetzen – und manche ethische Debatte neu führen, die wir bislang vielleicht als wenig relevant empfunden haben.

So ist es auch im Rahmen von KI-Systemen so, dass verantwortungsvoll und transparent sowie unter Berücksichtigung rechtlicher und gesellschaftlicher Rahmenbedingungen gehandelt werden muss. Dabei müssen die KI-Systeme so gestaltet werden, dass die Handlungsoptionen von Menschen unter Wahrung ihrer Rechte, Autonomie und Selbstbestimmung wertebasiert erweitert werden.

Warum bedarf Künstliche Intelligenz einer rechtlichen Regulierung? In welchen (Lebens-)Bereichen spielt dies eine Rolle?

Katharina Rieke: Digitalisierung geht mit Chancen, aber auch mit Risiken einher. Gerade im Bereich KI sind diese beiden Seiten sehr ausgeprägt. Wir können unglaublichen Nutzen aus KI für unsere Wirtschaft und Gesellschaft ziehen. Nicht nur innovative Geschäftsmodelle können dadurch etabliert und verbessert werden, sondern es können auch neue Möglichkeiten, beispielsweise in der Diagnose durch KI getriebene Gesundheitsdienstleistungen, geschaffen werden. Die Möglichkeiten von KI ziehen sich praktisch durch alle Lebensbereiche.

Neben der vielen innovativen Möglichkeiten gehen aber natürlich auch einige Gefahren von dieser Technologie aus, wenn sie falsch eingesetzt wird. Genau das ist der Grund für den Wunsch und die Notwendigkeit einer Regulierung. Es geht konkret darum, dafür Sorge zu tragen, dass bei allem Handeln die Grundwerte der Europäischen Union und die Grundrechte der Nutzerinnen und Nutzer geachtet werden. Nur so können wir die Technologie gewinnbringend für alle einsetzen.

Die Europäische Kommission hat unlängst ein Rahmenwerk für den Umgang mit künstlicher Intelligenz vorgelegt. Worum geht es dabei und was bringen die Vorschriften?

Katharina Rieke: Seit 2018 setzt sich die EU-Kommission bereits intensiver mit dem Thema KI auseinander und daraus resultierte der am 21. April 2021 vorgelegte Regulierungsvorschlag für ein europäisches Konzept für KI, welches als Rechtsrahmen für Künstliche Intelligenz auf EU-Ebene zu verstehen ist. Der Vorschlag beinhaltet unter anderem Verbote bestimmter Praktiken im Bereich der KI, besondere Anforderungen an sogenannte „Hochrisiko-KI-Systeme“ sowie Verpflichtungen für die Betreiber solcher Systeme. Darüber hinaus werden harmonisierte Transparenzvorschriften für KI-Systeme und Vorschriften für die Marktbeobachtung und Marktüberwachung festgelegt.

Der BVDW begrüßt zwar diesen europäischen Ansatz und sieht auch die Notwendigkeit einer Regulierung, allerdings sind wir der Meinung, dass die Vorschriften in dieser Form ihrem Ziel nicht gerecht werden. Insbesondere möchten wir drei Aspekte hervorheben:

  • Eine zu weit gefasste Definition von KI
  • Vorhandene Rechtsunsicherheiten, insbesondere in Bezug auf Hochrisiko-KI
  • Teils unverhältnismäßige Anforderungen und Bürokratie, die im Vorschlag mit einem hohen Bußgeld einhergehen

Um den Chancen und Risiken von KI bereits jetzt Rechnung zu tragen, wäre es aus

Sicht des BVDW zudem sinnvoller, einen sektoral differenzierten Ansatz der Regulierung zu wählen, da KI in jeder Branche unterschiedlich eingesetzt wird und daher unterschiedliche Risiken mit sich bringt.

Bereits Anfang 2019 hat der BVDW ein eigenes KI-Leitlinienpaket veröffentlicht. Inwiefern unterscheiden sich diese Leitlinien von den neuen EU-Vorschriften?

Katharina Rieke: Prinzipiell ergänzen sich die Leitlinien des BVDW mit den Maßnahmen der EU-Kommission gut. Der BVDW regt in seinen insgesamt acht Leitlinien an, dass beispielsweise Wirtschaft, Gesellschaft und Wissenschaft in den Diskurs zu Künstlicher Intelligenz miteinbezogen werden sollten, dass die Europäische Union gemeinsam agieren muss und wir KI mit einer europäischen Brille betrachten sollten. Darüber hinaus ist es für den BVDW oberstes Ziel, Vertrauen zu schaffen und ethische Fragestellungen in Bezug auf KI zu klären.

In einigen Punkten unterschieden wir uns aber auch: Wie bereits angesprochen wählt die EU-Kommission einen horizontalen, globalen Ansatz in ihrer KI-Regulierung. Der BVDW sieht einen sektoralen Ansatz mit konkreten Anwendungsfeldern für KI als sinnvoller an. Zudem sehen wir auch noch andere Themen, die derzeit noch nicht diskutiert werden. Dabei geht es um die Veränderungen des Arbeitsmarktes durch KI und auch den weiteren Aufbau qualifizierter KI-Fachkräfte in Europa.

Welchen Nutzen haben die BVDW-Leitlinien für Unternehmen?

Katharina Rieke: Die KI-Leitlinien waren ein erster Vorstoß, damit sich Unternehmen mit allen großen Aspekten Künstlicher Intelligenz auseinandersetzen, ihren Blick auf das Thema schärfen und eben nicht nur aus ihrer Unternehmenssicht auf das Thema schauen. Diese Leitlinien haben wir dann weiterentwickelt und uns als BVDW noch intensiver mit dem Thema Künstliche Intelligenz auseinandergesetzt. Daraus ist der KI-Monitor entstanden, der vom BVDW zusammen mit dem Institut der Deutschen Wirtschaft (IW) seit 2020 jährlich herausgegeben wird. Mit diesem KI-Monitor können wir die Entwicklungen Künstlicher Intelligenz in Deutschland messen – sowohl die Rahmenbedingungen als auch die Entwicklungen in der Wirtschaft und Gesellschaft. Damit können wir allen eine Selbstreflexion ermöglichen und mit unseren Handlungsempfehlungen Maßnahmen auf allen Ebenen anstoßen.

Europa soll laut EU-Kommission ja eine Vorreiterrolle in puncto vertrauenswürdiger KI-Systeme einnehmen. Was meinen Sie, wie wird uns dies gelingen?

Katharina Rieke: Aus unserer Sicht können wir das nur schaffen, wenn wir die richtige Balance in Europa zwischen Innovation und Sicherheit finden. Wir müssen den Unternehmen klare Grundwerte an die Hand geben und einen Rahmen setzen, in dem sie sich bewegen können. Nur so können wir das gewünschte Vertrauen in Dienste schaffen. Dieser Rahmen muss aber gleichzeitig flexibel genug sein, um Unternehmen nicht ihrer Innovationskraft zu berauben und sie nicht mit Anforderungen und Bürokratie zu überlasten, die sie ersticken. Dies ist eine Gratwanderung. Daher ist der BVDW der Meinung, dass ein branchen- bzw. anwendungsbezogener Umgang mit KI sinnvoller ist, da diese Abwägung konkreter und passgenauer gemacht werden kann.