Für den CISO
Ein KI-Agent mit Zugriff auf Ihre Systeme. Was kann schiefgehen?
Sobald eine KI nicht nur antwortet, sondern handelt, wird sie Teil Ihrer Angriffsfläche. Hier ist, wie CAVELON die fünf Fragen beantwortet, die ein CISO zuerst stellt. Und wo wir heute noch nicht sind.
1. Wohin fließen unsere Daten?
Nur dorthin, wo Sie es festlegen. CAVELON läuft in einer EU-Cloud oder vollständig in Ihrem Rechenzentrum: Datenbanken, Suchindex, Embedding- und Reranking-Modelle, Spracherkennung, Sprachausgabe und auf Wunsch das Sprachmodell selbst. In dieser Betriebsart verlässt keine Anfrage Ihre Infrastruktur. Externe Anbieter sind eine bewusste Wahl je Aufgabe, keine Voraussetzung. Mit Kundendaten wird kein Modell trainiert.
2. Wer sieht was?
Jeder Mandant ist auf allen Ebenen getrennt: Datenbank, Suchindex, Zwischenspeicher, Schnittstelle. Innerhalb eines Mandanten gelten Berechtigungen bis auf Dokumentebene: Wer eine Datei in SharePoint oder Drive nicht sehen darf, bekommt auch keine Antwort daraus. Eine Datei, die nur per anonymem Link geteilt wurde, bleibt bewusst gesperrt.
3. Was darf der Agent tun?
Nur, was Sie freigeben. Werkzeuge werden je Agent zugewiesen, Schnittstellenschlüssel sind verschlüsselt gespeichert und erscheinen nie im Prompt, im Log oder im Audit-Protokoll. Zugangsdaten für Ihre Fachsysteme gehen nie an einen Modellanbieter: Wo ein externer Sprachdienst Werkzeuge direkt aufrufen würde, ruft stattdessen die Plattform sie auf und setzt die Zugangsdaten erst im Moment des Aufrufs ein.
4. Was passiert bei Manipulationsversuchen?
Ein- und ausgehende Nachrichten durchlaufen konfigurierbare Schutzschichten: Mustererkennung, ein KI-Klassifikator und auf Wunsch Ihre eigene Prüfstelle. Je Agent und Richtung einstellbar, mit Notabschaltung. Ratenbegrenzung auf drei Ebenen schützt vor Missbrauch und Kostenexplosion. Die Antwortqualität wird vor jeder Änderung mit Regressionstests geprüft.
5. Können wir es beweisen?
Jede privilegierte Aktion steht im Audit-Protokoll: Konfiguration, Rechte, Schlüssel, Neuaufbau von Wissensbeständen. Jedes Gespräch ist mit Quellen, Werkzeugaufrufen und Verlauf einsehbar. Plattformbetreiber arbeiten in einem ausdrücklichen, protokollierten Modus und haben keinen stillen Zugriff auf Mandanten. Für den EU AI Act liefern wir eine Zuordnung je Artikel und ein Modell geteilter Verantwortung; für die DSGVO Betroffenenrechte, Löschfristen und eine Vorlage für das Verarbeitungsverzeichnis.
Was wir heute noch nicht haben
Wir nennen es, bevor Sie danach fragen: keine SOC-2-Type-II- und keine ISO-27001-Zertifizierung, kein veröffentlichter Penetrationstest-Bericht. Ein gezielter Pentest für Ihre Installation lässt sich vereinbaren. SAML und SCIM sind Projektumfang; OIDC und E-Mail-Einmalcode sind eingebaut. Eine Lücke im Scoping-Gespräch ist besser als eine Überraschung in Woche drei.
Die Frage für Ihr nächstes Security-Review
Nicht „Ist die KI sicher?“, sondern: „Können wir für jede Antwort und jede Handlung zeigen, auf welcher Grundlage sie entstand und wer sie erlaubt hat?“ Mit CAVELON lautet die Antwort ja, und Sie können sie im eigenen Haus prüfen.