Mit dem EU AI Act bringt die Europäische Union erstmals ein umfassendes Gesetz zur Regulierung von Künstlicher Intelligenz auf den Weg. Es definiert nicht nur, was unter KI zu verstehen ist, sondern verpflichtet Unternehmen auch zu konkreten Maßnahmen – insbesondere im Hinblick auf Transparenz, Risikobewertung und Schulung. Doch was genau meint der Gesetzgeber eigentlich, wenn er von „KI-Systemen“ spricht?
Im Frühjahr 2024 ist mit dem EU AI Act die weltweit erste umfassende gesetzliche Regelung für den Umgang mit Künstlicher Intelligenz verabschiedet worden. Ein Meilenstein – vergleichbar mit der Einführung der Datenschutz-Grundverordnung DSGVO. Wie schon bei der DSGVO wirft auch diese neue Regulierung viele Fragen auf. Eine davon: Was genau versteht das Rechtssystem eigentlich unter Künstlicher Intelligenz?
Die Antwort ist weniger trivial, als man denkt. Denn KI ist kein fest umrissenes technisches System, sondern ein Sammelbegriff für eine Vielzahl unterschiedlicher Technologien und Anwendungsformen. Entsprechend differenziert ist auch der juristische Blick auf das Thema.
KI als Rechtsbegriff – keine Definition wie im Lexikon
Laut der EU KI-Verordnung beschreibt Künstliche Intelligenz Systeme, die mit Hilfe algorithmischer Prozesse Aufgaben ausführen, bei denen normalerweise menschliches Urteilsvermögen erforderlich wäre. Dazu zählen das Erkennen von Mustern, das Verstehen von Sprache, das Lernen aus Daten und das autonome Treffen von Entscheidungen. Zentral hier: Diese Systeme handeln nicht „intuitiv“, sondern auf Basis statistischer Modelle, Regeln oder maschinellem Lernen.
Juristisch betrachtet bedeutet das: Ein KI-System liegt dann vor, wenn eine Maschine Entscheidungs- oder Analyseprozesse übernimmt, die im Ergebnis menschliches Denken simulieren – und das in einem Maße, das Auswirkungen auf Menschen oder Institutionen haben kann. Typische Beispiele dafür sind Sprachassistenten, automatische Kreditprüfungen oder auch Anwendungen zur Betrugserkennung im Finanzbereich.
Fokus auf Risikobewertung
Die EU unterscheidet vier Risikokategorien von KI-Systemen – von „minimalem Risiko“ bis „unannehmbares Risiko“. Je nach Einstufung gelten unterschiedliche Anforderungen an Entwicklung, Einsatz und Kontrolle. KI-Systeme mit unannehmbarem Risiko (z. B. manipulative Technologien oder soziale Bewertungssysteme à la China) sind grundsätzlich verboten. Systeme mit hohem Risiko – wie beispielsweise in der Personalrekrutierung, der Strafverfolgung oder im Gesundheitswesen – unterliegen strengen Auflagen. Unternehmen müssen hier Transparenz schaffen, ob sie überhaupt ein KI-System einsetzen. Auch ist relevant zu dokumentieren, wie diese Systeme klassifiziert sind und welche juristischen Pflichten damit verbunden sind.
KI – Definitionen und Auswirkungen
Pflicht Mitarbeiterkompetenz
Ein besonders praxisrelevanter Aspekt der Verordnung betrifft die Anforderungen an die Menschen, die mit KI-Systemen arbeiten. Artikel 4 der EU-KI-Verordnung verpflichtet Unternehmen dazu, sicherzustellen, dass alle beteiligten Mitarbeiter über angemessene Kompetenzen im Umgang mit Künstlicher Intelligenz verfügen. Es geht also nicht nur um Technik, sondern auch um Schulung, Sensibilisierung und ethisches Bewusstsein. Mitarbeiter müssen wissen, wie ein KI-System funktioniert, wo seine Grenzen liegen und welche rechtlichen Implikationen sein Einsatz mit sich bringt. Dazu zählen Themen wie Diskriminierungsrisiken, Datenschutz, Rechenschaftspflichten und die Fähigkeit, Entscheidungen nachvollziehbar zu begründen.
Wo KI schon heute juristisch relevant ist
Besonders weit verbreitet ist Künstliche Intelligenz bereits im Finanzsektor – und dort treffen technologische Potenziale auf besonders hohe regulatorische Anforderungen. KI analysiert dort im Rahmen des algorithmischen Trading Marktentwicklungen, erkennt Betrugsversuche durch Mustererkennung, automatisiert KYC-Prozesse und hilft bei der Bewertung von Kreditrisiken. Was nach Effizienz klingt, mutet juristisch wie ein kleines Minenfeld an. Um nur zentrale Fragen zu stellen: Wer trägt die Verantwortung bei Fehlentscheidungen? Wie lässt sich Diskriminierung vermeiden? Und wie wird Transparenz gegenüber Kunden gewährleistet? Ähnlich anspruchsvoll sind die Anforderungen im medizinischen Bereich oder in Kommunen / öffentlichen Verwaltungen. Auch hier steht die Rechtssicherheit im Vordergrund: Wenn Maschinen Entscheidungen treffen, muss klar sein, wer letztlich haftet – und ob Betroffene sich rechtlich dagegen wehren können.
Künstliche Intelligenz ist nicht gleich künstliche Intelligenz
Ein Chatbot, der Fragen zu Hotelbuchungen beantwortet, ist nicht mit einem System vergleichbar, das Kreditentscheidungen trifft oder Bewerbungen vorsortiert. Dennoch werden beide juristisch als KI betrachtet. Unterschiede liegen in der Risikoeinstufung. Zentral entscheidend ist immer, wie groß die potenzielle Auswirkung der KI auf die Rechte und Freiheiten von Menschen ist. Für Unternehmen im Gastgewerbe – ob Hotel, Restaurant oder Veranstaltungsbetrieb – bedeutet das: Auch einfache Automatisierungen, wie Buchungs-Chatbots oder Preisoptimierungs-Tools, können unter die KI-Verordnung fallen. Spätestens wenn personenbezogene Daten im Spiel sind, greifen die juristischen Anforderungen.
KI-Regulierung im unternehmerischen Alltag
Der kluge Umgang mit KI beginnt beim Verständnis
Die EU hat mit der KI-Verordnung eine neue Ära eingeleitet: Nicht nur Technik, sondern auch Ethik, Verantwortung und Kompetenz stehen im Zentrum. Für Unternehmer – egal ob im Finanzsektor, Gesundheitswesen oder Gastgewerbe – ist jetzt der richtige Zeitpunkt, sich mit der juristischen Dimension von KI auseinanderzusetzen. Es geht nicht darum, Angst vor der Technologie zu schüren. Aber es geht darum, sie mit klarem Blick und fundiertem Wissen einzusetzen. Denn wer die juristische Definition von KI versteht, kann Risiken besser einschätzen – und Chancen gezielter nutzen.
Sie sind Entscheider in einem mittelständischen Unternehmen? Dann denken Sie daran, dass alles mit fundamentalen, definitorischen Fragen beginnt. Um revisionssicher unterwegs zu sein, denken Sie über einen Audit-Prozess nach, der Ihre Rechte und Pflichten klärt und fixiert.
