KI-Risikomanagement

KI-Risikomanagement ist ein kontinuierlicher, kontextbezogener Prozess, um Risiken eines KI-Systems über seinen Lebenszyklus zu identifizieren, zu analysieren, zu bewerten, zu behandeln und zu überwachen. NIST strukturiert dies freiwillig über Govern, Map, Measure und Manage; Artikel 9 des EU AI Act verlangt für Hochrisiko-KI-Systeme ein dokumentiertes, fortlaufend überprüftes Risikomanagementsystem. Die konkrete rechtliche Pflicht darf nicht allein aus der Bezeichnung eines Tools abgeleitet werden.

Verwenden, wenn ein KI-Anwendungsfall vor Pilot, Einführung, Änderung oder Skalierung anhand von Zweck, betroffenen Personen, Fehlanwendung, Nutzen, Schadenspotenzial und Kontrollen bewertet wird.

Eine einmalige Checkliste vor dem Start ersetzt laufende Beobachtung, Incident-Lernen und Neubewertung nicht. Risiken werden außerdem zu abstrakt erfasst oder ohne verantwortliche Entscheidung, Schwelle und Maßnahme dokumentiert.