KI-Agenten unter DORA und AI Act: Von der KI-Ausgabe zur kontrollierten Aktion

Ein Log ist noch keine Governance. Finanzinstitute, Versicherungen und Mittelständler setzen heute KI-Agenten ein, die selbstständig prüfen, qualifizieren und eskalieren. Doch die entscheidenden Fragen bleiben oft offen: Wer hat eine Aktion beauftragt? Welche Policy galt? Was hätte sie stoppen können? Und welche Evidenz blieb danach bestehen?

DORA gilt seit dem 17. Januar 2025 und adressiert die digitale operative Resilienz von Finanzunternehmen. Der AI Act wird stufenweise anwendbar — die konkreten Fristen für bestimmte Systeme befinden sich im Zuge aktueller Vereinfachungsverhandlungen erneut in Bewegung. Beide Regelwerke setzen einen regulatorischen Rahmen. Was fehlt: die operative Übersetzung dieses Rahmens in einzelne Agenten-Entscheidungen.

Was DORA wirklich abdeckt — und was nicht

DORA ist präzise im Bereich IKT-Risikomanagement. Die Verordnung verlangt unter anderem die Klassifizierung und den Schutz aller kritischen IKT-Assets, kontinuierliches Monitoring, Meldepflichten bei schwerwiegenden Vorfällen sowie ein Register über alle relevanten IKT-Drittanbieter.

Zur Meldepflicht: Bei einem als schwerwiegend klassifizierten IKT-Vorfall erfolgt die Erstmeldung möglichst früh und innerhalb von vier Stunden nach der Klassifizierung — spätestens jedoch 24 Stunden nach Kenntniserlangung. Die pauschale Aussage „innerhalb von vier Stunden" greift zu kurz.

Was DORA dabei nicht explizit regelt: die Entscheidungsebene innerhalb eines KI-Systems. DORA behandelt KI-Infrastruktur als IKT-Asset — das System muss resilient, dokumentiert und testbar sein. Ob aber ein KI-Agent im laufenden Betrieb eine nicht autorisierte oder inhaltlich falsche Entscheidung trifft, liegt außerhalb des operativen DORA-Scope.

AI Act: Human Oversight ist kein Feature — es ist Pflicht

Der AI Act klassifiziert KI-Systeme nach Risikostufe. Entscheidend sind dabei Zweck, Einsatzkontext und die konkrete Kategorie des Systems — nicht pauschal eine Branche. Bestimmte KI-Systeme in sensiblen Einsatzbereichen können als Hochrisiko eingestuft werden, mit entsprechenden Anforderungen an Transparenz, technische Dokumentation, Genauigkeit und menschliche Aufsicht.

Artikel 14 ist dabei der operative Dreh- und Angelpunkt: Hochrisiko-KI muss so gestaltet sein, dass natürliche Personen die Systemausgaben wirksam überwachen und erforderlichenfalls eingreifen können. Ein technisches Governance-Layer kann diese menschliche Aufsicht operationalisieren — Risiken vorsortieren, Aktionen zur Prüfung eskalieren, Entscheidungsgrundlagen strukturiert aufbereiten. Es ersetzt sie nicht.

Was AgentNOMOS konkret macht

AgentNOMOS wird als Governance- und Evidence-Layer für agentische Systeme entwickelt. Es bewertet vorgeschlagene Aktionen anhand von Identität, Scope, Policy, Risiko und Evidenzlage. Je nach Integration kann es Aktionen freigeben, zur menschlichen Prüfung eskalieren oder blockieren — und dokumentiert jede dieser Entscheidungen hash-verknüpft und auditierbar.

Die öffentlich zugängliche NOMOS-Entität informiert und demonstriert diese Governance-Logik: Sie zeigt, welche Fragen vor einer produktiven Aktion geklärt werden sollten — und wie eine strukturierte Antwort darauf aussehen kann.

Das Bewertungsframework: vier Ebenen

Das Bewertungsergebnis ist explizit: PERMIT oder DENY — mit strukturierter Begründung, die in der Evidenz-Chain verankert bleibt. Kein implizites "das System hat so entschieden" mehr.

Was Aufsichts- und Auditgespräche heute fragen

In Aufsichts- und Auditgesprächen wird zunehmend nicht nur nach vorhandenen Logs gefragt, sondern nach Verantwortlichkeit, Kontrollmechanismen, Integrität und nachvollziehbaren Eskalationswegen. Konkret:

• Welche KI-Systeme haben Zugriff auf produktionskritische Workflows?
• Gibt es eine Policy-Ebene, die regelt, was ein KI-Agent tun darf?
• Sind Entscheidungen mit Begründung und Zeitstempel dokumentiert?
• Kann nachgewiesen werden, dass ein Blockierungssignal tatsächlich zur Unterbrechung geführt hat?
• Wie wird sichergestellt, dass ein Agent nicht außerhalb seines definierten Scope agiert?

Die Verbindung zu FeedOracle: Evidenz von der Infrastruktur bis zur Aktion

FeedOracle liefert regulatorische Evidenz auf Datenbasis: DORA-Risikoindikatoren, hash-verknüpfte Prüfberichte, Infrastrukturmonitoring. AgentNOMOS ergänzt diesen Ansatz auf der Prozessebene — nicht nur was ein System meldet, sondern was ein Agent entschieden hat und auf welcher Grundlage.

• FeedOracle: Evidenz auf Daten- und Infrastrukturebene — IKT-Risiken, Vorfallsignale, Drittanbietermonitoring
• AgentNOMOS: Governance-Evidenz auf Entscheidungsebene — Agent-Aktionen, Policy-Prüfung, Freigabe- und Blockierungshistorie

Zusammen ergibt sich eine durchgehende Evidenz-Chain: von der regulatorischen Datenbasis bis zur einzelnen Agenten-Entscheidung — auditierbar auf jeder Ebene.

Fazit: Governance braucht ein eigenes Layer

DORA und AI Act setzen den Rahmen. Unternehmen müssen diesen Rahmen technisch in reale Agenten-Workflows übersetzen. Die häufigste Lücke ist nicht fehlende Compliance-Absicht — sondern fehlende operative Implementierung: Wer hat eine Aktion beauftragt? Welche Autorität war aktiv? Welche Policy galt? Was konnte die Aktion stoppen? Und welche Evidenz blieb danach bestehen?

Genau an dieser Schnittstelle setzt ein Governance-Layer wie AgentNOMOS an. Nicht als Bremse für KI-Innovation — sondern als Voraussetzung dafür, dass autonome Agenten in regulierten Umgebungen nachweisbar kontrollierbar sind.