KI-Verordnung: EU-Ministerrat verständigt sich auf KI-Regulierung

Künstliche Intelligenz (KI) ist in der Zeit der Digitalisierung nicht mehr wegzudenken. Bislang waren der Einsatz und die Haftung von KI wegen fehlender gesetzlicher Regelungen rechtlich unbestimmt. Der EU-Ministerrat hat nun erstmals Regelungen für den Einsatz von KI beschlossen. Durch die Verordnung will der Gesetzgeber sicherstellen, dass KI-Systeme sicher sind und die Grundrechte einhalten.

Was ist künstliche Intelligenz?

In Art. 3 Nr. 1 des Verordnungsentwurfes ist ein KI-System definiert als

„ein System, das so konzipiert ist, dass es mit Elementen der Autonomie arbeitet, und das auf der Grundlage maschineller und/oder vom Menschen erzeugter Daten und Eingaben durch maschinelles Lernen und/oder logik-wissensgestützten Konzepte ableitet, wie eine Reihe von Zielen erreicht wird, und systemgenerierte Ergebnisse wie Inhalte (generative KI-Systeme), Vorhersagen, Empfehlungen oder Entscheidungen hervorbringt, die das Umfeld beeinflussen, mit dem die KI-Systeme interagieren“

Die Begriffsbestimmungen wurde bewusst auf Systeme eingegrenzt, deren Entwicklung auf Konzepten des maschinellen Lernens sowie logik- und wissensgestützten Konzepten basieren. Somit will man sicherstellen, dass die Definition eines KI-Systems ausreichend klare Kriterien für die Abgrenzung der KI von einfacheren Software-Systemen bietet.

KI ist bereits jetzt schon ein wichtiger Bestandteil unserer Gesellschaft und bereits in unserem Alltag präsent. Wir verwenden KI, ohne uns darüber bewusst zu sein.

So bedienen wir uns im Alltag oft an Übersetzungstools, oder erzeugen mittels KI automatische Untertitel von Videoinhalten oder TV-Sendungen.

Autohersteller nutzen ebenfalls KI-Systeme für selbstfahrende Fahrzeuge, auch wenn diese noch nicht zum Standard gehören.

Verbotene Praktiken im Bereich der Künstlichen Intelligenz: Verhaltensmanipulationen und „Social Scoring“

Art. 5 des Verordnungsentwurfes regelt, welche Praktiken im Bereich der KI verboten sind.

Gemäß Art. 5 Abs. 1 lit. a und lit b sind bestimmte Verhaltensmanipulationen beim Einsatz von KI verboten. Dieses Verbot betrifft auch private Akteure.

Verboten sind demnach:

• „das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das Techniken der unterschwelligen Beeinflussung außerhalb des Bewusstseins einer Person mit dem Ziel oder der Wirkung einsetzt, das Verhalten einer Person in einer Weise wesentlich zu beeinflussen, die dieser Person oder einer anderen Person einen physischen oder psychischen Schaden zufügt oder mit hinreichender Wahrscheinlichkeit zufügen wird“ (lit. a)
• „das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das eine Schwäche oder Schutzbedürftigkeit einer bestimmten Gruppe von Personen aufgrund ihres Alters, einer Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation mit dem Ziel oder der Wirkung ausnutzt, das Verhalten einer dieser Gruppe angehörenden Person in einer Weise wesentlich zu beeinflussen, die dieser Person oder einer anderen Person einen physischen oder psychischen Schaden zufügt oder mit hinreichender Wahrscheinlichkeit zufügen wird“ (lit. b)

Art. 5 Abs. 1 lit. c verbietet den Einsatz von KI zu Zwecken des sogenannten „Social Scoring“. Solche Systeme werden zur Bewertung des sozialen Verhaltens verwendet. Dieses Verbot wurde nun auch auf private Akteure ausgeweitet.

Danach ist verboten:

„das Inverkehrbringen, die Inbetriebnahme oder die Verwendung von KI-Systemen zur Bewertung oder Klassifizierung natürlicher Personen über einen bestimmten Zeitraum auf der Grundlage ihres sozialen Verhaltens oder bekannter oder vorhergesagter persönlicher Eigenschaften oder Persönlichkeitsmerkmale, wobei die soziale Bewertung zu einem oder beiden der folgenden Ergebnisse führt:

• i) Schlechterstellung oder Benachteiligung bestimmter natürlicher Personen oder Gruppen natürlicher Personen in sozialen Zusammenhängen, die in keinem Zusammenhang zu den Umständen stehen, unter denen die Daten ursprünglich erzeugt oder erfasst wurden;
• ii) Schlechterstellung oder Benachteiligung bestimmter natürlicher Personen oder Gruppen natürlicher Personen, in einer Weise, die im Hinblick auf ihr soziales Verhalten oder dessen Tragweite ungerechtfertigt oder unverhältnismäßig ist;“

Ein Beispiel hierfür ist das in China existierende Sozialkreditsystem. Durch den Einsatz von KI  überwachen die Behörden das Verhalten der Bürger in sämtlichen Lebensbereichen. Dazu sammeln diese  die Daten um dann eine entsprechende „soziale Bewertung“ zuzuteilen. Somit hat beispielsweise das Überqueren einer Straße trotz  einer roten Ampel die Herabstufung der Kreditwürdigkeit einer Person zur Folge. Dadurch kommt es zu einer Benachteiligung in sozialen Zusammenhängen, obwohl diese keinen Zusammenhang zu den Umständen aufweisen, unter denen die Datenerfassung erfolgte.  

Biometrische Echtzeit-Fernidentifizierung zu Strafverfolgungszwecken

Gem. Art. 5 Abs. 1 lit. d soll der Einsatz von KI zu biometrischen Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken grundsätzlich verboten sein. Grundsätzlich wäre damit die Videoüberwachung mit automatischer Gesichtserkennung verboten.  Hier soll anders als bei vorangehenden Verboten lediglich staatliches Handeln betroffen sein.

Gem. Art. 5 Abs. 1 lit. d ist verboten:

„die Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken, außer wenn und insoweit dies im Hinblick auf eines der folgenden Ziele unbedingt erforderlich ist:

• i) gezielte Suche nach bestimmten potenziellen Opfern von Straftaten oder nach vermissten Kindern;
• ii) Abwenden einer konkreten, erheblichen und unmittelbaren Gefahr für das Leben oder die körperliche Unversehrtheit natürlicher Personen oder eines Terroranschlags;
• iii) Erkennen, Aufspüren, Identifizieren oder Verfolgen eines Täters oder Verdächtigen einer Straftat im Sinne des Artikels 2 Absatz 2 des Rahmenbeschlusses 2002/584/JI des Rates 62 , der in dem betreffenden Mitgliedstaat nach dessen Recht mit einer Freiheitsstrafe oder einer freiheitsentziehenden Maßregel der Sicherung im Höchstmaß von mindestens drei Jahren bedroht ist.“

Ausnahmen für das Verbot gem. Art. 5 Abs. 1 lit. d

Der Ministerrat stellte nun in Art. 5 Abs. 1 lit. d der Verordnung klar, dass zu bestimmten Zwecken eine Nutzung von KI für Strafverfolgungszwecken „unbedingt erforderlich“ ist und daher erlaubt sein könnte, so z.B. das Suchen nach vermissten Personen.

Der Verordnungsentwurf würde jedoch bedeuten, dass nach jedem Straftäter (z.B. Drogendealer, Einbrecher) per Gesichtserkennung gesucht werden könnte. Art. 5 Abs. 1 lit. d) iii) verweist hierbei auf den Straftatenkatalog des EU-Rahmenbeschlusses 2002/584/JI des Rates 62. Voraussetzung hierfür ist, dass die Freiheitsstrafe einen Höchstmaß von mindestens drei Jahren aufweist. Es wird kritisiert, dass das Verbot nur für „Echtzeit-Fernidentifizierungssysteme“ gelte und nicht für Systeme, bei denen der „Abgleich und die Identifizierung zeitgleich oder nahezu zeitgleich erfolgen“. Auch gelte das Verbot nur für Strafverfolgungsbehörden oder deren Auftragnehmer, nicht jedoch für andere Behörden oder private Anbieter.

Der Rat der europäischen Union verlangt eine Erweiterung des Ausnahmekatalogs. Demnach sollen Strafverfolgungs-, Grenzkontroll-, Einwanderungs- oder Asylbehörden im Einklang mit dem EU-Recht und nationalen Gesetze solche Systeme nutzen dürfen, um eine Person auch gegen ihren Willen zu erkennen, „die sich bei einer Identitätskontrolle entweder weigert, oder die nicht in der Lage ist, ihre Identität anzugeben oder nachzuweisen“.

Fazit

Wir begrüßen es, dass der Einsatz von KI reguliert werden soll. Die Pläne der EU-Kommission und Mitgliedstaaten müssen jedoch noch mit dem Europaparlament abgestimmt werden. Hätten die Verhandlungen zwischen der Europäischen Kommission, dem EU-Rat sowie dem Europäischen Parlament Ende 2022 stattgefunden, wäre die KI-Verordnung Anfang 2023 in Kraft getreten. Aktuell sieht es jedoch so aus, als würde die Verordnung noch auf sich warten lassen. Ob der Verordnungsentwurf so beschlossen wird oder weitere Änderungen vorgenommen werden, bleibt abzuwarten.

Den vollständigen (aktuellen) Verordnungsentwurf können Sie hier einsehen: https://data.consilium.europa.eu/doc/document/ST-14954-2022-INIT/de/pdf

Co-Autor: Wissenschaftliche Mitarbeiterin - Stud.jur. Natalie De Agazio

Bildquelle: Bild von Gerd Altmann auf Pixabay