Menschliche Aufsicht

Menschliche Aufsicht bedeutet, dass geeignete natürliche Personen ein KI-System im vorgesehenen Kontext wirksam beaufsichtigen können. Dazu brauchen sie Kompetenz, Autorität, Informationen und technische Möglichkeiten, um Grenzen und Ausgaben zu verstehen, Fehlfunktionen oder Fehlanwendung zu erkennen, angemessen einzugreifen und das System gegebenenfalls zu stoppen. Artikel 14 des EU AI Act konkretisiert diese Anforderung für Hochrisiko-KI-Systeme; daraus folgt keine identische Pflicht für jedes KI-System.

Verwenden, wenn festgelegt wird, welche Entscheidungen Menschen behalten, welche Signale sie sehen, wann sie eingreifen und welche Folgen ein Stop oder eine Eskalation hat.

Ein formaler Bestätigungsklick oder ein Review ohne Zeit, Kompetenz, Autorität und alternative Handlungsoption gilt als menschliche Aufsicht. Ein Mensch in der Schleife ist aber nur wirksam, wenn die Kontrolle praktisch ausgeübt werden kann.