Künstliche Intelligenz

Die KI-Verordnung (KI-VO, engl. AI Act) ist am 1. August 2024 in Kraft getreten und wird schrittweise umgesetzt. Der 2. Februar 2025 war bereits relevant für die Vermittlung von KI-Kompetenz (Art. 4 KI-VO) und für verbotene Praktiken. Grundsätzlich gilt sie seit dem 2. August 2026 (Art. 113 KI-VO). Weitere Regelungen für Hochrisiko-Systeme greifen schrittweise bis 2028 (wichige Eckdaten: 2. August 2027, 2. Dezember 2027, 2. August 2028).

Mehr lesen Sie in unserem Blogbeitrag „Der AI Act zur Regelung des Einsatzes Künstlicher Intelligenz tritt in Kraft“.

Die KI-Verordnung (KI-VO, engl. AI Act) regelt – kurz gesagt – die Entwicklung, Bereitstellung und Nutzung von KI. Sie tut dies mit dem Ziel, „das Funktionieren des Binnenmarkts zu verbessern und die Einführung einer auf den Menschen ausgerichteten und vertrauenswürdigen künstlichen Intelligenz (KI) zu fördern“ (Art. 1 Abs. 1 KI-VO).

Art. 5 KI-VO regelt einen Katalog verbotener KI-Praktiken, etwa unterschwellige Beeinflussung, absichtlich manipulative Techniken, Ausnutzung von Schutzbedürftigkeit, Social Scoring, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen sowie bestimmte biometrische Kategorisierungen – seit dem 2. Februar 2025 verboten.

Mehr lesen Sie in unserem Blogbeitrag „AI Act: Verbotene KI-Praktiken – Schritt 1 der Klassifizierung von KI-Systemen“.

Ob ein KI-System als Hochrisiko-KI-System eingestuft werden muss oder nicht, ergibt sich aus Art. 6 KI-Verordnung (KI-VO, engl. AI Act). Bei genauer Betrachtung kann – zumindest mit Blick auf das Jahr 2026 – Art. 6 Abs. 1 KI-VO erst einmal außer Acht gelassen werden. Denn die dort genannten Systeme werden ausnahmsweise erst ab dem 2. August 2027 als Hochrisiko-KI-Systeme eingestuft (siehe Art. 113 lit. c KI-VO).

In Art. 6 Abs. 2 KI-VO ist in Verbindung mit Anhang III geregelt, welche Systeme grundsätzlich als Hochrisiko-KI-System eingestuft werden. 

Unabhängig von Anhang III gilt ein System nicht als hochriskant, „wenn es kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt, indem es unter anderem nicht das Ergebnis der Entscheidungsfindung wesentlich beeinflusst.“ (Art. 6 Abs. 3 KI-VO)

Mehr lesen Sie in unserem Blogbeitrag „AI Act: Hochrisiko-KI-Systeme – jetzt klassifizieren“.

Die KI-Verordnung (KI-VO, engl. AI Act) unterscheidet zwischen Betreibern und Anbietern von KI-Systemen oder KI-Modellen mit allgemeinem Verwendungszweck. Aber auch an Händler und Einführer entlang der KI-Wertschöpfungskette werden Anforderungen gestellt.

• Betreiber ist gemäß Art. 3 Ziffer 4 KI-VO „eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet“.
• Anbieter ist gemäß Art. 3 Ziffer 3 KI-VO „natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich“.
• Einführer ist gemäß Art. 3 Ziffer 6 KI-VO „eine in der Union ansässige oder niedergelassene natürliche oder juristische Person, die ein KI-System, das den Namen oder die Handelsmarke einer in einem Drittland niedergelassenen natürlichen oder juristischen Person trägt, in Verkehr bringt“.
• Händler ist gemäß Art. 3 Ziffer 7 KI-VO „eine natürliche oder juristische Person in der Lieferkette, die ein KI-System auf dem Unionsmarkt bereitstellt, mit Ausnahme des Anbieters oder des Einführers“.

Der Ausdruck Akteur bezeichnet laut Art. 3 Ziffer 8 KI-VO wiederum „einen Anbieter, Produkthersteller, Betreiber, Bevollmächtigten, Einführer oder Händler“.

Sobald ein KI-System personenbezogene Daten verarbeitet, gelten DSGVO und KI-VO parallel. Wir prüfen beide Ebenen gemeinsam, statt sie getrennt abzuarbeiten – das spart Zeit und vermeidet widersprüchliche Ergebnisse.

Wenn Sie noch keine klare Linie für den KI-Einsatz haben, starten Sie mit der KI-Strategieberatung. Wenn Sie eine laufende Betreuung wünschen, ist der externe KI-Beauftragte die richtige Wahl. Für eine einmalige rechtliche Einschätzung eignet sich die Bewertung nach KI-VO und DSGVO – auch als Erweiterung eines bestehenden DSB-Mandats.