Risikomanagement für Künstliche Intelligenz (KI)

Der Einsatz von Künstlicher Intelligenz (KI, engl. artificial intelligence, AI) nimmt ständig zu, birgt jedoch auch bisher unbekannte oder zumindest wenig beachtete Risiken. Die von der Europäischen Union erlassene „Verordnung über künstliche Intelligenz“ (KI-Verordnung, kurz KI-VO, engl. AI Act) identifiziert Hochrisiko-KI-Systeme, die das „Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen“ bergen. Für diese werden Anforderungen zur Umsetzung von Sicherungsmaßnahmen aufgestellt, wozu u. a. das Risikomanagement gem. Art. 9 KI-VO sowie die Gewährleistung von Cybersicherheit nach Art. 15 KI-VO gehören. Hinzu kommen die üblichen Informationssicherheits-Anforderungen an eine Einrichtung zur Gewährleistung von Vertraulichkeit, Integrität und Verfügbarkeit aller von ihr verarbeiteten Informationen (vgl. dazu ISO/IEC 27001:2022, „Information security, cybersecurity and privacy protection — Information security management systems — Requirements”). 

Es ist also dringend erforderlich sich frühzeitig mit den rechtlichen Anforderungen der KI-VO und deren technischen Umsetzungsanforderungen auseinanderzusetzen.