Über die vielen Möglichkeiten und Chancen, die künstliche Intelligenz mit sich bringt, haben wir schon einige Male berichtet. Doch jetzt haben die Abgeordneten der Europäischen Parlaments eine Einigung zum Entwurf zur Regulation von künstlicher Intelligenz erzielt, der bereits 2021 vorgelegt wurde. Was in dem KI-Gesetz steht, wie es weitergeht und vieles mehr erfahrt ihr hier von der Hybridpolitologin.

Hintergrund und Prozess zur Regulation

Ziel der Regulierung ist es, die einzelnen Vorschriften der Mitgliedstaaten zu harmonisieren und sich somit auf einen einheitlichen, eu-weiten, gesetzlichen Rahmen zu verständigen. Dies begann mit der Veröffentlichung des Weißbuchs zur KI im Februar 2020, in welchem politische Optionen dargelegt werden, um eine risikofreie Nutzung der KI und somit zu einem größeren Wohlbefinden der EU-Bürgerinnen und EU-Bürger beizutragen. Am 14. Juni 2023 haben sich die Abgeordneten des Europäischen Parlaments auf ihre Verhandlungsposition zum neuen Gesetz verständigt. Nun beginnen die Gespräche mit den EU-Mitgliedstaaten im Rat über die endgültige Ausgestaltung des Entwurfs.

Das KI-Gesetz und der risikobasierte Ansatz

Grundlage des Gesetzes ist die Einordnung der verschiedenen Arten von KI-Systemen in Risikogruppen, die wiederum verschiedenen Bestimmungen unterliegen. So gibt es die Anwendungen, in denen die KI als „unannehmbares Risiko“ bewertet wird und als Bedrohung für Menschen gilt. Darunter gehören KI-Funktionen, die beispielsweise Social Scoring, also KI als Klassifizierungssystem, biometrische Fernidentifizierung oder auch kognitive Verhaltensmanipulation vulnerabler Gruppen, beispielsweise Kinderspielzeug, umfassen. Diese KI-Systeme sollen (mit einigen besonderen Ausnahmen) verboten werden.

Die nächste Kategorie ist die Hochrisiko-KI. Diese Art der künstlichen Intelligenz birgt ein hohe Risiko für Gesundheit und Sicherheit von Menschen. Diese werden in zwei Bereiche eingeteilt: Zum einen in die Verwendung von künstlicher Intelligenz in Produkten (Fahrzeuge, Spielzeuge etc.), zum anderen KI-Systeme, die unter eines der acht Kriterien fallen, wie Infrastruktur, Bildung, Identitätsfeststellung, Verwaltung, Strafverfolgung und mehr. Hier bedarf das Launchen und Betreiben der KI einer ständigen Risikoüberprüfung.

In die dritte Kategorie fallen bekannte Anwendungen generativer künstlicher Intelligenz wie ChatGPT. Hier geht es hauptsächlich um Transparenz: Inhalte, die KI-generiert sind, müssen als solche gekennzeichnet werden und auch die Daten, die zur Schulung der KI verwendet wurden und unter das Urheberrecht fallen, müssen veröffentlicht werden. Ähnliches gilt für die letzte Katergorie – KIs mit begrenztem Risiko: auch hier müssen die Betreiber die Nutzerinnen und Nutzer mit genug Informationen versorgen, um sich zu überlegen, ob sie KI-erzeugte Inhalte konsumieren möchten oder nicht. Dies gilt auch für Video-, Bild- und Audio-KIs, wie beispielsweise Deepfakes wie Milla Sofia, die in ihrem Online-Auftritt deutlich macht, dass sie keine reale Person ist.

Welche Aspekte fehlen im KI-Gesetz?

Das KI-Gesetz soll den EU-Bürgerinnen und Bürgern das Recht garantieren eine bewusste Entscheidung für oder gegen die Verwendung von KI zu treffen, indem offen dargelegt wird, wann sie mit einer KI zu tun haben. Die Endnutzerinnen erfahren dadurch einen besonderen Schutz, der eine ethische Nutzung der Technologie sicherstellen soll.

Jedoch möchte ich die Aufmerksamkeit zum Ende des Artikels auf zwei weitere Bereiche lenken:

Erstens auf die Nutzung von KI im Staatsdienst und zweitens auf den Schutz derjenigen, die für die Erstellung der KI zuständig sind. Dass KI bei der Eindämmung von Kriminalität Anwendung finden kann, zeigt der Einsatz von KI gestützten Kameras in Mannheim und in Hamburg. Hier wird KI verwendet um Situationen frühzeitig zu erfassen und die Polizei zu alarmieren. Dies wird zum Problem, sobald dies beispielsweise eine Identitätserfassung beinhalten könnte. Zwar ist im neuen KI-Gesetz festgelegt worden, dass KI, die zur Identifizierung von Personen eingesetzt wird, bei der EU registriert sein muss, aber dies kann eine Regierung durchaus bewerkstelligen. Aus diesem Grund wäre eine Regulierung zur Überwachung und Identitätsfestellung durch KI – vor allem an öffentlichen Plätzen – wünschenswert.

Zweitens möchte ich an dieser Stelle auf diejenigen aufmerksam machen, die in dieser Diskussion häufig außen vor bleiben: die Menschen, die häufig auf dem afrikanischen Kontinent leben und zu widrigen Bedingung für die Schulung der KI und ihren Lernprozess zuständig sind. Es mehren sich Reportagen über die schlechten Arbeitsbedingungen der Personen, die für die Filtrierung von Inhalten zuständig sind. Oft arbeiten diese Menschen an der dunklen Seite des Internets, ohne wirkliche psychologische Betreuung und mit wenigen Arbeitsrechten. Aus diesem Grund ist es an der Zeit zu diskutieren, ob diese immaterielle Arbeit, bei der am Ende kein haptisches Produkt in einem deutschen Supermarkt steht, nicht auch unter das Lieferkettengesetz fallen sollte. Alternativ könnte eine derartige Ergänzung in einer EU-Richtlinie niedergeschrieben werden.

Wie geht es weiter?

Alles in allem ist das neue KI-Gesetz ein guter Schritt in die Richtung der Regulation dieser neuen Technologie. Wie bei allem ist KI ein zweischneidiges Schwert: einerseits bringt die Technik viele Vorteile und kann das Leben der EU-Bürgerinnen und -Bürger bereichern. Andererseits ist es wichtig darauf zu achten, dass die Persönlichkeitsrechte dennoch gelten und sich alle Nutzerinnen und Nutzer im Klaren darüber sind, ob und wann sie mit einer KI interagieren. Ich bin gespannt auf die endgültige Entscheidung am Ende des Jahres.

Viele Grüße,

Eure Hybridpolitologin

Beitragsbild von Steve Johnson auf Unsplash.com

Bild 1 von Christian Lue Unsplash.com

Bild 2 von Cash Macanya auf Unsplash.com

Bild 3 von Lianhao Qu auf Unsplash.com