Guardrails (KI-Leitplanken)

Guardrails sind technische und organisatorische Leitplanken. Sie legen fest, was ein KI-System tun darf, welche Daten es verarbeiten darf und wann eine menschliche Prüfung oder Freigabe erforderlich ist.

Drei Ebenen technischer Guardrails

Für die praktische Planung lassen sich Guardrails nach dem Punkt gliedern, an dem sie wirken: bei Eingaben, bei Aktionen des Systems und bei erzeugten Ausgaben.

Eingaben: Kontrollen legen fest, welche Daten und Anfragen ein Modell erhalten darf. Dazu gehören Datenklassifikation, Zugriffsbeschränkungen, Filter und die Prüfung von Dateitypen oder Anfrageinhalten.

Aktionen: Berechtigungen begrenzen, welche Werkzeuge und Systeme eine KI-Anwendung nutzen darf. Kritische oder schwer reversible Schritte können zusätzlich eine Bestätigung erfordern.

Diese Ebene ist besonders für Agentic AI relevant, weil mehrere Werkzeugaufrufe aufeinander folgen können.

Ausgaben: Prüfungen kontrollieren Format, Quellenbezug, sensible Inhalte oder andere fachliche Kriterien, bevor ein Ergebnis weiterverwendet wird.

Guardrails im produktiven Einsatz

Klare Leitplanken machen sichtbar, welche Schritte automatisch ablaufen dürfen und wo eine Freigabe erforderlich ist. Der zulässige Automatisierungsgrad richtet sich dabei nach Risiko und möglicher Fehlerwirkung.

Typische Bausteine in der Umsetzung

Typische Bausteine sind Berechtigungssysteme, Freigabeschritte, Protokollierung und automatisierte Prüfungen gegen definierte Regeln oder Referenzdaten.

Bei möglichen Hochrisiko-Auslösern nach der EU-KI-Verordnung können menschliche Aufsicht und dokumentierte Kontrollpunkte zu den rechtlich zu prüfenden Anforderungen gehören.

Welche Guardrails nötig sind, sollte deshalb bereits bei Architektur und Betriebsmodell anhand des konkreten Risikos festgelegt werden.