KI-Sicherheit: wie Sie Ihr Unternehmen im KI-Zeitalter schützen

Die drei Ebenen des KI-Risikos in Ihrem Unternehmen

Die Dreischichten-Einordnung ist wichtig, weil Sicherheitsarchitekturen, die für Ebene eins (Shadow AI) entworfen wurden, nicht automatisch Ebene zwei oder drei handhaben. KI als eine undifferenzierte Kategorie zu behandeln, produziert nur teilweisen Schutz.

Ebene 1: Shadow AI. Mitarbeiter nutzen öffentliche KI-Tools (ChatGPT, Copilot, Gemini) für die tägliche Arbeit. Das Risiko ist Datenexposition: Unternehmensdaten verlassen die Unternehmensgrenze. Der Kontrollpunkt liegt am Endpunkt und im Netzwerk.

Ebene 2: eigene KI. Das Unternehmen baut Anwendungen mit KI-Komponenten: Chatbots, Empfehlungssysteme, Dokumentverarbeiter. Das Risiko umfasst Trainingsdatenleckage, Prompt-Injection, Modell-Jailbreaking und Überdelegation. Der Kontrollpunkt liegt bei der Anwendung und der Datenpipeline.

Ebene 3: agentische KI. KI-Agenten handeln autonom auf Systemen: Terminplanung, Kommunikation, Transaktionen. Das Risiko umfasst außer Kontrolle geratene Aktionen, indirekte Prompt-Injection durch Dokumente und nicht zurechenbare Entscheidungen. Der Kontrollpunkt liegt bei der Agenten-Laufzeit und den Systemen, mit denen Agenten interagieren.

Ebene 1: Shadow AI, Mitarbeiter und öffentliche KI-Tools

Die erste Ebene ist die sichtbarste und aktivste. Neunzig Prozent der Mitarbeiter nutzen täglich KI-Tools; die meiste Nutzung ist nicht genehmigt. Wir haben die Strategie in unserem Artikel über Shadow-AI-Verwaltung behandelt; die Kurzversion ist: Sichtbarkeit, Richtlinie, sichere Alternativen, Monitoring.

Die technische Kontrolle läuft auf der Netzwerk- und Endpunktebene. SASE-Inspektion identifiziert KI-Datenverkehr; DLP redigiert sensible Inhalte, bevor sie öffentliche Modelle erreichen; Richtlinien leiten Mitarbeiter auf Unternehmensalternativen um.

Für die meisten Unternehmen beginnt hier die KI-Sicherheit, weil die Exposition unmittelbar und die technische Antwort ausgereift ist.

Ebene 2: eigene KI, interne Anwendungen und Modelle

Unternehmen bauen schnell KI in ihre Produkte und internen Tools ein. Kundenservice-Chatbots, Dokumentzusammenfassungs-Pipelines, Vertriebsempfehlungssysteme. Jedes ist eine neue Anwendung mit neuen Versagensmustern.

Trainingsdatenexposition. Sensible Daten, die zum Trainieren oder Feinabstimmen interner Modelle verwendet werden, können durch Modellvervollständigungen lecken. Ohne Isolation wird das Trainingsset zu einem verdeckten Offenlegungskanal.

Prompt-Injection. Benutzereingaben, die das Modell manipulieren, Sicherheitsanweisungen zu ignorieren oder Systemprompts preiszugeben. Mit externen Eingaben (hochgeladene Dokumente, Web-Inhalte) ist der Injection-Vektor schwerer zu kontrollieren.

Überdelegation. Anwendungen, die der KI mehr Autorität geben als nötig. Ein Kundenservice-Chatbot mit Datenbank-Schreibzugriff ist eine Verbindlichkeit; einer mit Nur-Lese-Zugriff im Kundenkontext ist akzeptabel.

Technische Kontrollen für Ebene zwei umfassen Datenklassifizierung auf Pipeline-Ebene, Prompt-Engineering-Sicherheits-Guards, Output-Filterung und Least-Privilege-Modell-Zugriff. Die Rolle der Cato-Plattform auf dieser Ebene ist die Sicherung der Netzwerkpfade zwischen den KI-Komponenten und den Datenquellen, mit DLP, das Datenklassifizierungsrichtlinien über diese Pfade durchsetzt.

Ebene 3: agentische KI, autonome Workflows und Agenten

Agentische KI ist die neueste Ebene und die unsicherste hinsichtlich Risiko. Agenten sind KI-Systeme, die Aktionen in der realen Welt durchführen: Termine planen, E-Mails senden, API-Aufrufe machen, Transaktionen ausführen. Sie haben Autorität; sie treffen Entscheidungen; sie haben Konsequenzen.

Außer Kontrolle geratene Aktionen. Ein Agent, der bei einer Aufgabe in einer Schleife steckt oder ohne Aufsicht eskaliert, kann Hunderte unbeabsichtigter E-Mails, Transaktionen oder API-Aufrufe produzieren. Rate Limiting und Circuit Breaker sind obligatorisch, aber unterangewandt.

Indirekte Prompt-Injection. Ein Agent, der ein externes Dokument liest, stößt auf injizierte Anweisungen, die sein Verhalten ändern. Ein Kundenservice-Agent, der eine Kunden-E-Mail mit versteckten Anweisungen liest, könnte Daten preisgeben oder nicht genehmigte Aktionen ausführen.

Zurechenbarkeitslücke. Wenn ein Agent eine Aktion ausführt, die Schaden verursacht, wer ist verantwortlich? Der Benutzer, der ihn eingesetzt hat, der Entwickler, das Unternehmen? Rechtliche Rahmenbedingungen holen noch auf; technische Zurechenbarkeit erfordert Audit-Trails pro Agent-Entscheidung.

Die Kontrollpunkte liegen bei der Agenten-Laufzeit (Sandboxing, Rate Limiting), bei den Systemen, die der Agent berührt (Least-Privilege-API-Zugriff) und auf der Netzwerkebene (Cato-Beobachtbarkeit der Agentenverkehrsmuster).

Wie Cato AI Security alle drei Ebenen abdeckt

Cato AI Security, eingeführt im März 2026 als das erste SASE-native AI-Sicherheitsmodul, adressiert alle drei Ebenen aus einer Plattform.

Für Ebene 1 erkennt und setzt es Richtlinien zur Shadow-AI-Nutzung über Traffic-Inspektion und DLP durch. Für Ebene 2 sichert es die Netzwerkpfade in KI-Anwendungspipelines und setzt Datenklassifizierung auf Flüssen zwischen KI-Komponenten durch. Für Ebene 3 bietet es Beobachtbarkeit und Rate Limiting für agentischen Datenverkehr, wodurch die Erkennung anomalen Agentenverhaltens ermöglicht wird, bevor die Konsequenzen skalieren.

Der Vorteil der Plattformintegration: ein Policy-Framework umfasst alle drei Ebenen, ein Audit-Trail erfasst alle KI-Ereignisse, eine Erkennungs-Engine lernt über die Ebenen hinweg. Aufgesetzte KI-Sicherheitsprodukte handhaben eine Ebene gut; Korrelation über Ebenen hinweg erfordert Plattformintegration.

EU AI Act, NIS2 und DSGVO: der Compliance-Druck

Drei Regulierungsrahmen treffen sich bei der KI-Sicherheit und werden vierteljährlich strenger.

EU AI Act. Risikobasierte Regulierung von KI-Systemen mit strengen Verpflichtungen für Hochrisikokategorien. Die Durchsetzung erfolgt phasenweise bis 2026 und 2027. Das Gesetz verlangt explizit Risikomanagementsysteme und menschliche Aufsicht für Hochrisiko-KI.

NIS2. Indirekt über die Verpflichtungen zur Zugangskontrolle und Incident Detection. KI-Tools, die Daten verarbeiten, sind Teil des Cybersicherheitsperimeters. Wir entpacken das in unserem Artikel über NIS2-Compliance mit einer Plattform.

DSGVO. Personenbezogene Daten, die von KI-Tools verarbeitet werden (einschließlich öffentlicher über Shadow AI), stellen eine Verarbeitung dar, die Rechtsgrundlage, Verantwortlichen und Auftragsverarbeitungsvereinbarungen erfordert. Die Datenschutzbehörden setzen das durch.

Momentum EMEA als KI-Sicherheits-Implementierungspartner

Das Dreischichtenmodell ist technisch; die Implementierung ist organisatorisch. Als EMEAs führender spezialisierter Cato-Implementierungspartner liefert Momentum EMEA die Cato AI Security Plattform zusammen mit dem Governance-Framework, das Richtlinien in operative Realität übersetzt: Datenklassifizierungsstandards, KI-Tool-Kategorisierung, Agentenregistrierung und Monitoring-Playbooks.