KI: Experten fordern Tests und Digital-Agentur des Bundes

Verpflichtende Tests von ADM-Systemen (Algorithmic Decision Making) und Zertifizierungen als Verbraucherschutz, eine Digital-Agentur für den staatlichen Kompetenz-Aufbau und Regulierung, weitere intensive Forschung. Das sind die Vorschläge und Forderungen einer interdisziplinären Expertengruppe aus Juristen und Informatikern der Gesellschaft für Informatik e.V. (GI). Sie hat im Auftrag des Sachverständigenrats für Verbraucherfragen (SVRV) eine Studie zum Thema algorithmischer Entscheidungsverfahren erstellt. Die Untersuchung mit dem Titel „Technische und rechtliche Betrachtungen algorithmischer Entscheidungsverfahren“ wurde der Bundesministerin der Justiz und für Verbraucherschutz (BMJV) Dr. Katarina Barley übergeben.

Die Studie befasst sich mit der Frage, wie Diskriminierung in einer zunehmend durch ADM-Verfahren geprägten Wirtschaft verhindert werden kann, in der viele Entscheidungen nicht mehr von Menschen sondern durch Computerprogramme getroffen werden. So werden algorithmische Entscheidungsverfahren unter anderem bei der Bewertung der Kreditwürdigkeit von Personen (Kreditscoring) sowie bei der Preisermittlung im Online-Handel (Dynamic Pricing) eingesetzt. “Der Verbraucherschutz im digitalen Bereich nimmt eine immer größere Rolle ein”, sagt Daniel Krupka, Geschäftsführer der Gesellschaft für Informatik e.V..

Eine Herausforderung war, so Krupka, die unterschiedlichen Welten von Informatikern und Juristen zusammen zu bringen. Gleichwohl musste sich die Expertengruppe zunächst mal auf eine gemeinsame Nomenklatur einigen. “Der Jurist definiert den Begriff “Fehler” anders als der Informatiker”, so Krupka. Gleichwohl sei es eine zentrale Frage, ob in vielen Fällen eine Sonderregulierung erforderlich ist. “Viele Gesetze sind dafür schon vorhanden, müssen in Einzelfällen vielleicht angepasst werden”, erläutert er. Beim Überblick für den Rechtsvergleich habe man aus guten Gründen und der mangelnden Einsehbarkeit Asien ausgelassen. “Alle anderen Länder sind in unterschiedlichen Geschwindigkeiten auch schon an dem Thema dran”, weiß Krupka. Zumal nicht alle vergleichbar seien, weil die Rechtssysteme in einigen Fällen zu unterschiedlich sind.

Prof. Dr. Dr. Erich Schweighofer von der Universität Wien und Sprecher der Fachgruppe „Rechtsinformatik“ weist jedoch auf den langen Weg hin, der bis zu einer umfassenden Regulierung noch zu gehen ist: „Es ist wichtig, dass wir algorithmische Entscheidungsverfahren rechtlich regulieren, jedoch stehen wir hier noch am Anfang. Zum einen ist das Gefahrenpotenzial dieser sogenannten ADM-Verfahren noch nicht umfassend bekannt. Zum anderen bedürfen entscheidende Rechtsfragen der Klärung, um rechtsverletzende Diskriminierung wirkungsvoll zu adressieren. Das Gutachten zeigt jedoch, dass es mit Test-, Auditierungs- und Zertifizierungsverfahren wirkungsvolle Werkzeuge gibt, um eine stärkere Transparenz und letztlich einen besseren Schutz für Verbraucherinnen und Verbraucher zu schaffen.“

Insbesondere in Testverfahren sieht Erich Schweighofer großes Potential für den Verbraucherschutz: „Tests von ADM-Systemen sind ein wesentliches Element des Schutzes gegen fehlerhafte algorithmische Entscheidungen. Dafür brauchen wir juristische Rahmen, die sowohl die Durchführung als auch die Bewertung dieser Tests rechtlich absichern. Sobald der rechtliche Rahmen für geeignete Testverfahren gelegt ist, sollte eine gesetzliche Pflicht zur Durchführung hinreichender Tests eingeführt werden. Denn es ist wichtig, dass ADM-Systeme vor ihrem Einsatz auf Fehler, insbesondere Diskriminierung, geprüft werden.“

Zur Einhaltung von Transparenz und Informationspflichten sowie zur Implementierung effizienter und effektiver Test- und Auditierungsverfahren wird seitens der Experten ein staatlicher Kompetenzaufbau für algorithmische Entscheidungen empfohlen. Wesentliche Aufgabe einer möglichen „Digitalagentur“ muss zudem die Steigerung der Transparenz durch Beratung und Information von Entscheidungsträgern in Unternehmen, Verwaltung und Politik sowie der gesellschaftlichen Aufklärung sein.

“Dabei ist die größte Herausforderung gerade, die entsprechenden Personen zu finden, die sich mit den Themen wirklich auskennen”, erläutert Geschäftsführer Daniel Krupka. “Es gibt derzeit zu wenig Menschen mit der notwendigen Expertise.” Und während er insbesondere den Sonderbereichen Sensorik und Aktorik sehr gute Chancen in Sachen Forschungsstand einräumt, sieht er gerade Deutschland eher weit hinten. “Da haben wir mittlerweile den Anschluss verloren”, so der Sprecher der Gesellschaft für Informatik e.V..

Zudem bedarf es laut der Studie weiterer, vor allem internationaler und interdisziplinärer Forschungsanstrengungen an den Schnittstellen zwischen Informatik und den Rechtswissenschaften (aber auch darüber hinaus), um die vielfältigen offenen Fragen zu adressieren. Spezifische Fragestellungen müssen durch wohldefinierte und konkrete Forschungsprojekte und -initiativen, etwa durch Stipendien, Promotionen oder weitere Gutachten, untersucht und für den Diskurs aufbereitet werden.

Fazit:

Der Sachverständigenrat für Verbraucherfragen hat Recht getan, diese Expertengruppe für eine erste Einordnung zum Thema ADM und KI für diese Studie einzuberufen. Die Zeit drängt, denn die Geschwindigkeit der technologischen Entwicklung nimmt immer weiter zu. Spannend wird nun sein, wie sich etwa die Bundesregierung und somit auch die darin vertretenen Parteien weiterhin künftig diesem Thema stellen werden. Schon jetzt zeichnet sich ab, dass es in vielen Fällen noch mal auf eine sehr wichtige Diskussion zum Thema “Privatsphäre” hinauslaufen wird. Die Gesellschaft und damit die Politik als ihr Vertreter sind aktiv aufgefordert, sich dem Diskurs zu stellen. Dies gilt auch für die Unternehmen: Sie sollten schon von Beginn an etwa die ethischen Leitlinien ihrer Anwendung überprüfen, sich transparent dem Markt stellen. Die Verbraucher werden es honorieren.