Deloitte entwirft Kontrollschicht für KI-Agenten

In einem neuen Whitepaper schlägt Deloitte eine Architektur vor, die autonome KI-Agenten kontrollierbar macht, bevor sie handeln, nicht erst danach.

Das Problem: Agenten sind schneller als ihre Aufpasser

Unternehmen setzen zunehmend KI-Agenten ein, die eigenständig Transaktionen auslösen, APIs ansteuern, Cloud-Ressourcen verändern oder mehrstufige Workflows orchestrieren. Die bestehenden Sicherheitsmechanismen greifen dabei zu kurz: Prompt-Guardrails filtern nur Modellantworten, Zugriffskontrollen sichern Endpunkte ab, verstehen aber nicht, was ein Agent vorhat, und Monitoring-Systeme protokollieren Vorfälle erst nach ihrem Eintreten. In regulierten Branchen wie Finanzdienstleistungen oder dem Gesundheitswesen entsteht daraus eine wachsende Governance-Lücke.

Deloittes Antwort: Prüfung vor der Ausführung

Das vorgeschlagene Agent Action Enforcement Layer (AAEL) setzt einen Kontrollpunkt vor jede Agentenhandlung. Der Mechanismus funktioniert in vier Stufen: Zunächst muss jeder Agent seine geplanten Schritte als strukturierten Aktionsplan offenlegen. Dieser Plan wird dann gegen Compliance-Vorgaben wie DSGVO, HIPAA oder branchenspezifische Regularien geprüft. Für genehmigte Aktionen werden kurzlebige, kryptografisch signierte Autorisierungstoken erzeugt, die exakt definieren, welche Handlung unter welchen Bedingungen erlaubt ist. Abschließend leitet ein zentrales Gateway alle Agentenaktionen durch und blockiert jeden Schritt ohne gültigen Token.

Governance wird zur Infrastruktur

Deloitte positioniert das Framework als neue Infrastrukturschicht, vergleichbar mit der Rolle, die Identitätsmanagement im Cloud-Zeitalter übernommen hat. Der Ansatz soll insbesondere Unternehmen in regulierten Sektoren ermöglichen, KI-Agenten einzusetzen, ohne die Kontrolle über Datenflüsse, Systemzugriffe und Compliance-Anforderungen zu verlieren.