KI-Sicherheit & Governance
ChatGPT, Copilot, KI-Agenten: KI ist in Ihrem Unternehmen längst im Einsatz, meist an mehr Stellen als bekannt. Wir machen sie sichtbar und überführen sie in eine prüfsichere, AI-Act-konforme KI-Governance. Konzept und Umsetzung aus einer Crew.
Was wir ausdrücklich nicht tun
§01 · Die unbequeme Realität
Wenn Sie keine KI-Governance haben, heißt das nicht, dass keine KI im Einsatz ist. Es heißt nur, dass Sie nicht wissen, welche.
Mitarbeitende laden Kundendaten, Verträge und Strategiepapiere in private ChatGPT-Konten. Ohne Auftragsverarbeitung, ohne DSGVO-Basis, ohne Audit-Trail.
Microsoft Copilot und RAG-Systeme erben Berechtigungen aus SharePoint und Filesystemen. Falsch konfiguriert legen sie Gehaltslisten und Personalakten offen.
Externe Inhalte können KI-Agenten umlenken, Tools missbrauchen und Daten exfiltrieren. Ohne Sandbox und Tool-Permissions wird Ihre Automatisierung zum Angriffsvektor.
Der AI Act gilt für praktisch jedes Unternehmen, das KI einsetzt, nicht nur für Hersteller. Seit Februar 2025 greifen die Schulungspflicht zur KI-Kompetenz (Art. 4) und das Verbot bestimmter Praktiken, ab dem 2. August 2026 wird beides durchgesetzt. Die Hochrisiko-Pflichten folgen ab Dezember 2027.
§02 · KI-Reifegradmodell
Mit dem Naviro-Reifegradmodell bestimmen wir Ihren Ist-Stand schnell und leiten den nächsten sinnvollen Schritt ab. Kein Alles-auf-einmal.
Stufe 01
KI ist im Einsatz, aber niemand weiß genau wo. Keine Policy, keine Freigabe, keine Übersicht.
Stufe 02
Klare Spielregeln, freigegebene Werkzeuge, sensibilisierte Belegschaft.
Stufe 03
KI ist Teil des ISMS, technisch abgesichert und auditierbar.
Stufe 04
AI-Act-konform, normgerecht zertifizierbar, kontinuierlich gesteuert.
§03 · Naviros Leistungsbausteine
Sechs aufeinander aufbauende Module. Sie wählen den Einstiegspunkt passend zu Ihrem Reifegrad. Wir liefern keine Folien, sondern umsetzbare Ergebnisse.
Bestandsaufnahme aller genutzten KI-Systeme inklusive Schatten-KI. Klassifizierung nach Datenkritikalität und Risikoklasse des EU AI Act.
Sofort einführbare KI-Richtlinie für Ihr Unternehmen, abgestimmt auf Branche und bestehende Policies. Die Schulung nach Art. 4 EU AI Act läuft als E-Learning oder Präsenztermin.
Strukturierte Risikobewertung pro Use Case nach ISO/IEC 42001 und ISO 27005. Identifikation von Hochrisiko-Systemen, Maßnahmenkatalog mit Priorisierung.
Konkrete Umsetzung z.B.: DLP für Copilot, Berechtigungs-Hygiene für RAG, Sandbox-Architektur für Agenten, Prompt-Injection-Schutz, Audit-Logging.
Gap-Analyse entlang aller relevanten AI-Act-Pflichten. Einordnung in die EU-AI-Act-Risikoklassen, technische Doku nach Anhang IV, Konformitätsbewertung.
Aufbau des zertifizierbaren KI-Managementsystems nach ISO/IEC 42001, integriert in Ihr bestehendes ISO-27001-ISMS. Vorbereitung der Zertifizierung.
§04 · Referenzarchitektur
Ein einzelnes Tool macht keine sichere KI. Erst das Zusammenspiel aus Daten, Modell, Orchestrierung, Anwendung und Governance ergibt eine prüfsichere Architektur. Genau dieses Schichtenmodell bauen wir mit Ihnen auf.
KI-Policy, AI-Act-Klassifizierung, Audit-Trail, DSGVO-Dokumentation, Risikoregister, Modell-Reviews, Verantwortlichkeiten.
Chat-UI, Copilot, Custom-Apps, RAG-Systeme, Wissensdatenbanken, auf den jeweiligen Geschäftsprozess zugeschnittene Workflows.
n8n, Agenten-Frameworks, Tool-Permissions, Approval-Gates, Workflow-Definitionen, MCP-Integration.
Azure OpenAI, Claude API, lokale Inferenz mit Ollama oder vLLM, Modell-Routing nach Datenklasse.
Datenklassifizierung, DLP, Berechtigungs-Hygiene, Vektordatenbank, Retrieval-Layer, Sensitivity Labels.
§05 · Betriebsmodelle
Am Anfang steht die Datenklassifizierung: Erst wenn klar ist, welche Daten mit KI verarbeitet werden, lässt sich das Betriebsmodell ableiten. Wir wählen mit Ihnen, ohne Herstellerbindung. Häufig ist Hybrid die wirtschaftlich beste Antwort.
Modell A
Enterprise-Angebote etablierter Anbieter. Schnellster Weg in den produktiven Betrieb.
Modell B
Sensitive Inferenz on-prem, breite Funktionalität über kontrollierte Cloud-Anbindung. Routing nach Datenklasse.
Modell C
Volle Kontrolle. Eigene Hardware, eigene Modelle, eigenes Netz. Für KRITIS und Höchstvertraulich.
§06 · Sicherer Agentenbetrieb
KI-Agenten greifen auf echte Systeme und Daten zu und sind über Prompt Injection angreifbar. Eine Sandbox trennt das ab: definierte Rechte, protokollierte Aktionen, sechs Schichten zwischen Anfrage und Ausführung.
Jeder Request wird authentifiziert, rate-limited und klassifiziert, bevor er das LLM erreicht.
Trennung von System-Prompt und untrusted Inhalten, Filter gegen OWASP LLM01 Prompt Injection.
Jeder Agent bekommt nur die Werkzeuge, die er braucht. Kritische Aktionen erfordern Freigabe.
Code-Execution in isolierten, kurzlebigen Containern. Kein persistenter State, keine Seitenkanäle.
Ausgehender Netzverkehr nur zu definierten Domains. Verhindert Datenexfiltration auf C2-Server.
Lückenloses Audit-Log, Echtzeit-Alerts, definierter Notfall-Stopp pro Agent oder global.
§07 · Observability & Audit
KI-Compliance ist eine Nachweisfrage: ohne Telemetrie keine Kontrolle. Diese sechs Datenpunkte gehören in jede produktive KI-Umgebung.
01
Vollständige Aufzeichnung aller Interaktionen mit Datenklassifizierung. Pseudonymisiert, revisionssicher, AI-Act-konform.
02
Welcher Agent hat wann welches Tool mit welchen Parametern aufgerufen? Lückenlose Nachvollziehbarkeit für Forensik und Compliance.
03
Budget-Kontrolle pro Nutzer, Use Case und Modell. Macht Verbrauch transparent und erkennt Anomalien als möglichen Missbrauchsindikator.
04
Prompt-Injection-Versuche, Jailbreak-Attempts, DLP-Hits, Tool-Permission-Verletzungen. Direkt ins SIEM, mit Alerting.
05
Akzeptanzrate, Korrekturen durch Nutzende, Halluzinations-Indikatoren. Macht Modell-Drift früh sichtbar.
06
Automatisierte Reports für interne Audits und AI-Act-Nachweise. Auf Knopfdruck statt Excel-Marathon.
§08 · FAQ
Für praktisch jedes Unternehmen, das KI einsetzt, nicht nur für Hersteller. Die Verordnung unterscheidet Anbieter, Betreiber, Importeure und Händler. Wer ChatGPT, Copilot oder eigene Modelle beruflich nutzt, ist in der Regel Betreiber und trägt eigene Pflichten, allen voran die KI-Kompetenz nach Art. 4.
Seit dem 2. Februar 2025 müssen Anbieter und Betreiber für ausreichende KI-Kompetenz ihrer Mitarbeitenden sorgen, ab dem 2. August 2026 setzen die Marktüberwachungsbehörden das durch. Eine dokumentierte EU-AI-Act-Schulung ist der sicherste Nachweis. Der Digital Omnibus lässt Art. 4 unverändert, verschoben wurden nur die Hochrisiko-Pflichten. Unser Baustein KI-Richtlinie & Schulung deckt die Pflicht ab, inklusive Nachweis.
Nein. Mit der politischen Einigung zum Digital Omnibus vom 7. Mai 2026 verschieben sie sich auf den 2. Dezember 2027 (eigenständige Systeme nach Anhang III) beziehungsweise den 2. August 2028 (eingebettete KI nach Anhang I). Unverändert gelten die Verbote und die Schulungspflicht nach Art. 4. Wer Hochrisiko-Systeme einsetzt, nutzt die gewonnene Zeit am besten für die AI-Act-Readiness.
Alle KI-Werkzeuge, die im Unternehmen ohne Freigabe der IT genutzt werden, typischerweise private ChatGPT-Konten mit Kundendaten. Ohne Auftragsverarbeitung, DSGVO-Basis und Audit-Trail entsteht ein Datenabfluss, den niemand bemerkt. Die KI-Discovery macht Schatten-KI in zwei Tagen sichtbar.
Zweite Meinung
Nicht von uns, von der KI Ihres Vertrauens. Unsere Inhalte liegen maschinenlesbar vor, ein Klick öffnet die Frage darin.
Gesetz in Kraft seit 06.12.2025. In sechs Schritten Betroffenheit klären.
Jetzt prüfen →Schätzen Sie Ihr jährliches Cyber-Schadenspotenzial - zwei Minuten, kostenfrei.
Jetzt berechnen →24 Fragen, Ergebnis nach ISO 27001 / BSI - anonym, kostenfrei.
Reifegrad messen →Unsere Inhalte liegen maschinenlesbar vor. Ein Klick öffnet die Frage in der KI Ihres Vertrauens.
KI fragen →