Leitfaden zu KI mit beschränktem oder minimalem Risiko

Der Landesbeauftragte für Datenschutz und Informationsfreiheit Mecklenburg-Vorpommern (LfDI MV) hat im Juli einen praxisorientierten Leitfaden für den datenschutzkonformen und digital-souveränen Einsatz von künstlicher Intelligenz (KI) mit beschränktem oder minimalem Risiko veröffentlicht (hier abrufbar). In diesem Beitrag werden die wesentlichen Punkte und Empfehlungen zusammengefasst.

Thematische Eingrenzung

Der LfDI MV möchte mit dem Leitfaden Verantwortliche aus kleineren Verwaltungen sowie kleinen und mittelständischen Unternehmen (KMU) eine Hilfestellung bei der Planung des Einsatzes von KI mit beschränktem oder minimalem Risiko geben. KI-Systeme mit hohem Risiko nähmen in der KI-Verordnung (KI-VO) insbesondere in den Artikeln 6-49 KI-VO einen großen Raum ein, werden im vorliegenden Dokument jedoch bewusst ausgelassen, da sich hiermit bereits viele Leitfäden beschäftigten. Verlinkungen führen zu detaillierteren Informationen.

Rechtliche Anforderungen

Welche rechtlichen Vorschriften der Verantwortliche zu beachten hat, bestimmt sich nach dessen Rolle und der Risikoeinstufung des KI-Systems.

Von den in Art. 3 Nr. 8 KI-VO genannten Rollen wird im Folgenden davon ausgegangen, dass es sich beim Verantwortlichen um den Betreiber eines KI-Systems handelt. Die Begriffe „KI-System“, „KI-Modell“ und „KI-Modell mit allgemeinem Verwendungszweck“ werden definiert. Als Beispiel für Letzteres werden Sprachmodelle (LLM) genannt. Ein KI-Modell ist Bestandteil eines KI-Systems.

Risikostufen

Gemäß Art. 3 Nr. 2 KI-VO ist „Risiko“ die Kombination aus Schadenswahrscheinlichkeit und der Schwere dieses Schadens.

Die KI-VO regelt vier Risikostufen: Unannehmbares, hohes, beschränktes und minimales Risiko.

• Beispiele für KI-Systeme mit beschränktem Risiko: Chatbots oder KI‑Systeme, die künstliche Audio-, Bild-, Video- oder Textinhalte herstellen.
• Beispiele für KI-Systeme mit minimalem Risiko: Alle übrigen KI-Systeme, die nicht den anderen drei Kategorien zugeordnet werden können, wie Spam-Filter oder KI-Systeme in Videospielen.

Der Einsatzzweck des KI-Systems bestimmt das Risiko.

Der LfDI MV betont, dass die Einstufung essenziell ist, damit alle erforderlichen rechtlichen Vorschriften berücksichtigt werden können und zudem keine unnötigen Schritte unternommen werden.

Empfehlungen des LfDI MV

Der LfDI MV empfiehlt die folgenden Maßnahmen für einen datenschutzkonformen und digital-souveränen Einsatz von KI mit beschränktem oder minimalem Risiko:

• Für KI-Systeme mit niedrigem Risiko gilt:
  • Sicherstellung der KI-Kompetenz, insbesondere für Beschäftigte 
  • Optional: Freiwilliger Verhaltenskodex gemäß Art. 95 i. V. m. Erwägungsgrund 165 der KI-VO 
• Für KI-Systeme mit beschränktem Risiko gilt:
  • Sicherstellung der KI-Kompetenz, insbesondere für Beschäftigte 
  • Transparenzpflichten gemäß Art. 50 KI-VO: 
    • Kennzeichnung der Ausgaben des KI‑Systems in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert
    • Deepfakes müssen grds. gekennzeichnet werden
    • Dokumentation der Bestandsaufnahme und der getroffenen Maßnahmen

Darüber hinaus werden die folgenden Maßnahmen empfohlen:

• Gesonderte Rechtsgrundlage für das Training eines KI-Modells mit personenbezogenen Daten 
• Daten in hoher Qualität, um Bias und Diskriminierung zu vermeiden 
• Letztinstanzliche Entscheidung des Menschen und rechtlich verbindliches Agieren, vgl. Art. 22 DSGVO. Als Beispiel werden KI-Agenten genannt. 
• Es werden Vor- und Nachteile des Betriebs auf eigenen Systemen (on premise) im Vergleich zum Cloudbetrieb dargestellt: Für den Betrieb auf eigenen Systemen spricht die Kontrolle über die verarbeiteten Daten. Dass dies oft ressourcenaufwändig ist, stellt zugleich den Vorteil des Cloudbetriebs dar. Damit einher gehen jedoch eine Cloud-Strategie und aktuell zu haltende Sicherheitsrichtlinien. 
• Prüfen und ggf. Anpassen von Standardkonfigurationen
• Open-Source-Lösungen
• Möglichst kein Drittlandtransfer außerhalb der EU/des EWR 
• Datensicherheit unter Beachtung der Vorgaben und Empfehlungen des BSI (z. B. Grundschutz) und weiterer Institutionen (z. B. NIST AI RMF). 
• Einbindung des Datenschutzbeauftragten und Informationssicherheits-Beauftragten

Interner Betrieb eines Chatbots mittels eines großen Sprachmodells (LLM)

In einem Beispielfall zum internen Betrieb eines Chatbots (KI-Sytem mit beschränktem Risiko) empfiehlt der LfDI MV u. a. noch Folgendes: 

• Rechte-/Rollenkonzept, sodass geregelt wird, auf welche der internen Daten zugegriffen wird
• Keine Datenübermittlung an externe Empfänger (weder Inhalt noch Telemetriedaten)
• Datenschutzrechtliche Rechtsgrundlage ist entweder die Vertragsanbahnung bzw. -durchführung gemäß Art. 6 Abs. 1 S. 1 lit. b DSGVO oder das berechtigte Interesse zwecks Kundenbetreuung gemäß Art. 6 Abs. 1 S. 1 lit. f DSGVO. Bei öffentlichen Stellen kommen gesetzliche Aufträge in Betracht
• Mangels hohen Risikos, was in einer Schwellwertanalyse zu ermitteln ist, ist keine DSFA erforderlich
• Gewährleistung dafür, dass Betroffenenrechte erfüllt werden können
• Eintrag im Verzeichnis von Verarbeitungstätigkeiten
• Datenschutzhinweise
• Da im Beispiel keiner der in Art. 50 KI-VO genannten Fälle einschlägig sind, entfällt die Verpflichtung eines Transparenzhinweises

Einordnung

Die Empfehlungen und die im Beispielfall erwähnten Aspekte dürften eine gute Hilfe für Verantwortliche darstellen. Auch wenn sich der Leitfaden ausdrücklich nur an kleinere Verwaltungen sowie KMU richtet, gelten die Ausführungen auch für größere Organisationen, zumal die DSGVO und die KI-VO keine unterschiedlichen Anforderungen an die Größe einer Organisation stellen. Da der LfDI MV dies auch nicht in Abrede stellt, erfolgt diese Information nur klarstellend.

Hervorzuheben ist die Checkliste am Ende des Leitfadens. Durch diese Checkliste können die Anforderungen an KI-Systeme abgearbeitet werden. Es empfiehlt sich, dabei auf die im Leitfaden erwähnten Empfehlungen zurückzugreifen, welche detailliertere Vorgaben geben.

Aus der KI-VO ergeben sich für KI-Systeme mit niedrigem bzw. beschränktem Risiko nur wenige Voraussetzungen. Neben der Sicherstellung der KI-Kompetenz kommen bei KI-Systemen mit beschränktem Risiko nur ggf. noch Transparenzpflichten gemäß Art. 50 KI-VO hinzu. Ein Verhaltenskodex gemäß Art. 95 i. V. m. Erwägungsgrund 165 der KI-VO im Falle eines KI-Systems mit niedrigem Risiko ist freiwillig. Dennoch sind die erwähnten datenschutzrechtlichen Anforderungen, die sich aus der DSGVO ergeben, hoch, sodass auch KI-Systeme mit niedrigem bzw. beschränktem Risiko hinreichend geprüft werden müssen.

Die geplante Ausgestaltung und die Funktionalitäten des KI-Systems sind zu prüfen, bevor das KI-System vom Verantwortlichen eingesetzt werden kann. Wenn externe Dienstleister beteiligt sind, können Abstimmungen erforderlich werden. Zudem sind in der Regel Verträge zur Auftragsverarbeitung abzuschließen. Da die Prüfung eines KI-Systems somit eine längere Zeit in Anspruch nehmen kann, sollte der Verantwortliche den Datenschutzbeauftragten rechtzeitig und bereits in der Planungsphase einbinden. 

Fazit

Bevor ein KI-System eingesetzt wird, ist eine datenschutzkonforme Prüfung und eine Prüfung nach der KI-VO erforderlich. Mithilfe des Leitfadens kann man sich zunächst erarbeiten, ob es sich um eine KI mit beschränktem oder minimalem Risiko handelt. Darauf aufbauend ergeben sich die zu berücksichtigenden Rechtspflichten. Im Zusammenspiel mit der Checkliste kann der Leitfaden des LfDI MV somit maßgeblich dazu beitragen, Rechtskonformität herzustellen.