KI-Risikomanagement — KI-Risiken systematisch bewerten und steuern

Warum KI-Risikomanagement unverzichtbar ist

Künstliche Intelligenz verändert die Risikolandschaft von Unternehmen grundsätzlich. Während klassische IT-Risiken seit Jahrzehnten bekannt und in bestehenden Managementsystemen verankert sind, bringen KI-Systeme eine völlig neue Risikokategorie mit sich, die viele Organisationen noch nicht ausreichend adressieren.

Die Gründe für ein systematisches KI-Risikomanagement sind verschieden:

• EU AI Act: Seit 2024 verpflichtet der europäische AI Act Unternehmen zu einer formalen Risikobewertung ihrer KI-Systeme — mit empfindlichen Strafen bei Nichteinhaltung (bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes).
• Neue Angriffsvektoren: KI-Systeme eröffnen Angreifern bisher unbekannte Angriffsflächen wie Prompt Injection, Model Poisoning oder Adversarial Attacks.
• Datenschutz-Implikationen: Große Sprachmodelle können sensible Daten aus Trainingsdaten reproduzieren oder durch geschickte Prompts preisgeben — ein direkter Verstoß gegen die DSGVO.
• Reputationsrisiken: Halluzinierende KI-Systeme, diskriminierende Algorithmen oder fehlerhafte automatisierte Entscheidungen können massive Image-Schäden verursachen.
• ISMS-Integration: Bestehende Informationssicherheits-Managementsysteme nach ISO 27001 müssen um KI-spezifische Risiken und Maßnahmen erweitert werden.

KI-Risikomanagement ist daher kein optionales „Nice-to-have“, sondern eine strategische Notwendigkeit für jedes Unternehmen, das KI-Systeme einsetzt oder plant, diese einzuführen. Die frühzeitige Auseinandersetzung mit KI-Risiken schützt nicht nur vor regulatorischen Sanktionen, sondern sichert auch die Informationssicherheit der gesamten Organisation.

KI-Risikokategorien im Überblick

Um KI-Risiken wirksam zu managen, müssen sie zunächst systematisch kategorisiert werden. Wir unterscheiden fünf zentrale Risikokategorien:

1. Technische Risiken

Technische Risiken betreffen die Funktionsweise und Zuverlässigkeit des KI-Systems selbst:

• Halluzinationen: KI-Modelle generieren plausibel klingende, aber faktisch falsche Informationen. In sicherheitskritischen Kontexten — etwa medizinischer Diagnostik oder rechtlicher Beratung — kann dies fatale Folgen haben.
• Bias und Diskriminierung: Verzerrungen in den Trainingsdaten führen zu systematisch diskriminierenden Ergebnissen. Bewerbermanagementsysteme, Kreditscoring oder Personalplanung sind besonders anfällig.
• Adversarial Attacks: Gezielte Manipulation von Eingabedaten, um das KI-Modell zu Fehlklassifikationen zu verleiten. Bereits minimale, für Menschen unsichtbare Veränderungen an Bildern können eine Bilderkennung täuschen.
• Model Drift: Die Leistung eines KI-Modells verschlechtert sich im Zeitverlauf, weil sich die realen Daten von den Trainingsdaten entfernen.
• Abhängigkeit von Drittanbietern: Viele Unternehmen nutzen KI-APIs externer Anbieter (OpenAI, Google, Anthropic) — ein Ausfall oder eine Preisänderung kann kritische Geschäftsprozesse lahmlegen.

2. Datenschutzrisiken

KI-Systeme verarbeiten häufig große Mengen personenbezogener Daten — mit erheblichen Datenschutzrisiken:

• Data Leakage: Sensible Unternehmensdaten oder personenbezogene Daten gelangen über Prompts an Cloud-basierte KI-Dienste und werden potenziell für das Training neuer Modelle verwendet.
• Automatisiertes Profiling: KI-gestützte Systeme erstellen detaillierte Profile von Personen — oft ohne deren Wissen oder Einwilligung, was gegen Art. 22 DSGVO verstoßen kann.
• Unzureichende Rechtsgrundlage: Für die Verarbeitung personenbezogener Daten durch KI-Systeme fehlt häufig eine tragfähige Rechtsgrundlage nach Art. 6 DSGVO.
• Fehlende Transparenz: Betroffene können ihr Auskunftsrecht nach Art. 15 DSGVO nicht wirksam ausüben, wenn die Datenverarbeitung durch KI-Systeme intransparent ist.
• Unzureichende Datenschutz-Folgenabschätzung: Hochriskante KI-Verarbeitungen erfordern eine DSFA nach Art. 35 DSGVO — die in der Praxis oft unterbleibt.

3. Sicherheitsrisiken

KI-Systeme sind spezifischen Sicherheitsbedrohungen ausgesetzt:

• Prompt Injection: Angreifer manipulieren die Eingaben an ein KI-System, um Sicherheitsmechanismen zu umgehen und unerlaubte Aktionen auszulösen — vergleichbar mit SQL-Injection bei Datenbanken.
• Model Theft: Angreifer extrahieren das proprietäre KI-Modell durch systematische Abfragen (Model Extraction Attacks) und können es anschließend kopieren oder manipulieren.
• Supply-Chain-Angriffe: Kompromittierte Trainingsdaten, vortrainierte Modelle oder Bibliotheken können Hintertüren in KI-Systeme einschleusen.
• Missbrauch durch Social Engineering: KI-generierte Deepfakes, geklonte Stimmen oder personalisierte Phishing-Mails senken die Hemmschwelle für Social-Engineering-Angriffe dramatisch.

4. Rechtliche Risiken

• Haftungsfragen: Wer haftet, wenn ein KI-System fehlerhafte Entscheidungen trifft — der Entwickler, der Betreiber oder der Nutzer? Die Rechtslage ist in vielen Bereichen noch unklar.
• Compliance-Verstöße: Neben dem AI Act greifen branchenspezifische Regulierungen (z. B. MaRisk für Banken, MDR für Medizinprodukte), die KI-spezifische Anforderungen stellen.
• Urheberrechtsfragen: KI-generierte Inhalte werfen komplexe urheberrechtliche Fragen auf — insbesondere wenn Trainingsdaten geschützte Werke enthalten.
• KI-Schulungspflicht: Der AI Act verpflichtet Unternehmen, Mitarbeitende im Umgang mit KI-Systemen zu schulen — ein oft unterschätzter Compliance-Aspekt.

5. Ethische Risiken

• Intransparente Entscheidungen: „Black Box“-KI-Systeme treffen Entscheidungen, die weder nachvollziehbar noch erklärbar sind.
• Autonomieverlust: Übermäßiges Vertrauen in KI-Empfehlungen (Automation Bias) kann menschliche Kontrolle und kritisches Denken untergraben.
• Gesellschaftliche Auswirkungen: KI-gestützte Überwachung, Social Scoring oder manipulative Empfehlungssysteme können demokratische Grundwerte gefährden.

KI-Risikoklassifizierung nach dem EU AI Act

Der EU AI Act (Verordnung (EU) 2024/1689) definiert ein vierstufiges Risikoklassifizierungssystem, das die regulatorischen Anforderungen an KI-Systeme bestimmt:

Stufe 1: Unakzeptables Risiko — Verboten

KI-Systeme, die eine unannehmbares Risiko für Grundrechte darstellen, sind in der EU verboten:

• Social Scoring: Staatliche Bewertungssysteme, die das Verhalten von Bürgern vollständig überwachen und bewerten
• Biometrische Echtzeit-Fernidentifizierung: In öffentlich zugänglichen Räumen durch Strafverfolgungsbehörden (mit wenigen Ausnahmen)
• Manipulative KI: Systeme, die unterschwellige Techniken einsetzen, um das Verhalten von Personen wesentlich zu beeinflussen
• Ausnutzung von Schwächen: KI, die gezielt die Verletzlichkeit bestimmter Personengruppen (Alter, Behinderung) ausnutzt
• Emotionserkennung: Am Arbeitsplatz oder in Bildungseinrichtungen (seit Februar 2025 verboten)

Stufe 2: Hohes Risiko — Streng reguliert

Hochrisiko-KI-Systeme unterliegen vollständigen Anforderungen:

• Kritische Infrastruktur: KI in Energie-, Wasser- oder Verkehrsversorgung
• Bildung und Beruf: Zugang zu Bildungseinrichtungen, Bewerbermanagement, Personalentscheidungen
• Finanzdienstleistungen: Kreditscoring, Versicherungsbewertung
• Strafverfolgung: Lügendetektoren, Risikobewertung von Straftätern
• Biometrie: Biometrische Identifizierung und Kategorisierung

Anforderungen für Hochrisiko-KI:

• Risikomanagementsystem über den gesamten Lebenszyklus
• Data Governance für Trainingsdaten
• Technische Dokumentation und Transparenzpflichten
• Menschliche Aufsicht (Human-in-the-Loop)
• Genauigkeit, Robustheit und Cybersicherheit
• Konformitätsbewertung und CE-Kennzeichnung
• Registrierung in der EU-Datenbank

Stufe 3: Begrenztes Risiko — Transparenzpflichten

Für KI-Systeme mit begrenztem Risiko gelten Transparenzanforderungen:

• Chatbots: Nutzer müssen darüber informiert werden, dass sie mit einer KI interagieren
• Deepfakes: KI-generierte Bild-, Audio- oder Videoinhalte müssen als solche gekennzeichnet werden
• KI-generierte Texte: Wenn Texte zu Informationszwecken veröffentlicht werden, muss die KI-Generierung offengelegt werden

Stufe 4: Minimales Risiko — Keine besonderen Pflichten

Die Mehrheit der KI-Anwendungen fällt in diese Kategorie — z. B. Spam-Filter, KI-gestützte Videospiele oder einfache Empfehlungssysteme. Hier gelten keine spezifischen regulatorischen Anforderungen, obwohl freiwillige Verhaltenskodizes empfohlen werden.

KI-Risikobewertung systematisch durchführen

Eine strukturierte KI-Risikobewertung folgt einem methodischen Ansatz, der sich an bewährten Risikomanagement-Standards orientiert:

Schritt 1: KI-Systeme inventarisieren

Erstellen Sie ein vollständiges KI-Inventar aller im Unternehmen eingesetzten KI-Systeme — einschließlich:

• Cloud-basierte KI-Dienste (ChatGPT, Claude, Gemini, Copilot etc.)
• In Geschäftsanwendungen integrierte KI-Funktionen (CRM, ERP, HR-Software)
• Selbst entwickelte oder trainierte KI-Modelle
• KI-basierte Sicherheitstools (SIEM, EDR mit KI-Funktionen)
• Schatten-KI: Von Mitarbeitenden eigenständig genutzte KI-Werkzeuge

Schritt 2: Risiken identifizieren

Für jedes inventarisierte KI-System werden potenzielle Risiken systematisch erfasst. Nutzen Sie dazu:

• STRIDE-Modell (adaptiert für KI): Spoofing, Tampering, Repudiation, Information Disclosure, Denial of Service, Elevation of Privilege
• OWASP Top 10 for LLMs: Die häufigsten Schwachstellen großer Sprachmodelle
• NIST AI Risk Management Framework: Systematischer Rahmen zur KI-Risikoidentifikation
• ISO/IEC 23894: Leitfaden für KI-Risikomanagement

Schritt 3: Risikobewertung mit Matrix

Jedes identifizierte Risiko wird nach zwei Dimensionen bewertet:

Eintrittswahrscheinlichkeit (1–5):

• 1 = Sehr unwahrscheinlich (weniger als 1 % pro Jahr)
• 2 = Unwahrscheinlich (1–10 %)
• 3 = Möglich (10–50 %)
• 4 = Wahrscheinlich (50–90 %)
• 5 = Sehr wahrscheinlich (über 90 %)

Schadenshöhe (1–5):

• 1 = Vernachlässigbar (unter 10.000 €, kein Reputationsschaden)
• 2 = Gering (10.000–50.000 €, lokaler Reputationsschaden)
• 3 = Mittel (50.000–250.000 €, regionaler Reputationsschaden)
• 4 = Hoch (250.000–1 Mio. €, nationaler Reputationsschaden)
• 5 = Kritisch (über 1 Mio. €, existenzbedrohend)

Risikoscore = Eintrittswahrscheinlichkeit × Schadenshöhe

• 1–4 (Grün): Akzeptables Risiko — Beobachten
• 5–9 (Gelb): Erhöhtes Risiko — Maßnahmen planen
• 10–15 (Orange): Hohes Risiko — Maßnahmen umsetzen
• 16–25 (Rot): Kritisches Risiko — Sofortmaßnahmen erforderlich

Schritt 4: Risikobehandlung festlegen

Für jedes bewertete Risiko wird eine Behandlungsstrategie definiert:

• Vermeiden: KI-System nicht einsetzen oder Einsatzbereich einschränken
• Reduzieren: Technische oder organisatorische Maßnahmen implementieren
• Übertragen: Restrisiko versichern oder vertraglich auf Dritte übertragen
• Akzeptieren: Bewusstes Akzeptieren des Restrisikos (dokumentiert!)

KI-Risiken im ISMS integrieren

Ein effektives KI-Risikomanagement sollte nicht isoliert stehen, sondern in das bestehende Informationssicherheits-Managementsystem (ISMS) nach ISO 27001 integriert werden. Parallel bietet die ISO/IEC 42001 einen spezifischen Rahmen für KI-Managementsysteme.

ISO 27001 Annex A erweitern

Die bestehenden Controls aus Annex A der ISO 27001:2022 müssen um KI-spezifische Aspekte ergänzt werden:

• A.5 Organisatorische Controls: KI-Richtlinie, KI-Rollen und Verantwortlichkeiten, Lieferantenmanagement für KI-Dienste
• A.6 Personenbezogene Controls: KI-Kompetenzanforderungen, Schulungsprogramme, Awareness
• A.7 Physische Controls: Schutz von KI-Trainingsinfrastruktur (GPU-Server, Speicher)
• A.8 Technologische Controls: Zugriffskontrolle auf KI-Modelle, Logging, Monitoring, Schwachstellenmanagement

ISO/IEC 42001 — KI-Managementsystem

Die 2023 veröffentlichte ISO/IEC 42001 definiert Anforderungen an ein KI-spezifisches Managementsystem (AIMS):

• Systematische Governance für KI-Entwicklung und -Einsatz
• KI-spezifische Risikobewertung und -behandlung
• Verantwortungsvoller KI-Einsatz (Fairness, Transparenz, Erklärbarkeit)
• Kontinuierliche Verbesserung und Überwachung von KI-Systemen

Für Unternehmen, die bereits ein ISO-27001-zertifiziertes ISMS betreiben, ist die Integration der ISO 42001 ein logischer nächster Schritt. Die ISMS-Beratung von DATUREX unterstützt Sie dabei, beide Standards effizient zu verzahnen.

KI-Risiko-Register aufbauen

Ein dediziertes KI-Risiko-Register dokumentiert alle identifizierten KI-Risiken mit folgenden Informationen:

• Risiko-ID und Bezeichnung
• Betroffenes KI-System und Geschäftsprozess
• Risikokategorie (technisch, datenschutz, sicherheit, rechtlich, ethisch)
• AI-Act-Risikoklasse (unakzeptabel, hoch, begrenzt, minimal)
• Bewertung (Eintrittswahrscheinlichkeit × Schadenshöhe)
• Risikobehandlung und zugeordnete Maßnahmen
• Risikoeigentümer und Überprüfungszyklus
• Restrisiko nach Maßnahmenumsetzung

Technische Schutzmaßnahmen gegen KI-Risiken

Technische Schutzmaßnahmen bilden das Fundament eines wirksamen KI-Risikomanagements. Sie adressieren die identifizierten Risiken direkt auf technischer Ebene:

Input-Validierung und Prompt Security

Schützen Sie KI-Systeme vor manipulierten Eingaben:

• Prompt-Filterung: Automatische Erkennung und Blockierung von Prompt-Injection-Versuchen
• System-Prompt-Härtung: Robuste System-Prompts, die gegen Jailbreaking und Manipulation resistent sind
• Eingabelängenbegrenzung: Maximale Token-Limits zur Vermeidung von Context-Window-Angriffen
• Content-Klassifikation: Vorab-Klassifikation eingehender Prompts nach Risikostufen

Output-Filtering und Guardrails

• Content-Filter: Automatische Prüfung der KI-Ausgaben auf sensible Daten, schädliche Inhalte oder Fehlinformationen
• Faktenprüfung: Automatisierte Plausibilitätschecks gegen vertrauenswürdige Datenquellen
• PII-Erkennung: Automatische Erkennung und Maskierung personenbezogener Daten in KI-Ausgaben
• Guardrail-Frameworks: Einsatz von Frameworks wie NeMo Guardrails oder Guardrails AI zur systematischen Absicherung

Monitoring und Logging

• Vollständiges Audit-Logging: Protokollierung aller KI-Interaktionen (Prompts, Responses, Nutzer, Zeitstempel)
• Anomalie-Erkennung: Automatische Erkennung ungewöhnlicher Nutzungsmuster oder Abfragevolumina
• Performance-Monitoring: Kontinuierliche Überwachung der Modellgenauigkeit zur Erkennung von Model Drift
• Kosten-Monitoring: Überwachung der API-Kosten zur Erkennung von Missbrauch oder unerwarteter Nutzung

Red Teaming und Penetrationstests

Regelmäßige Sicherheitstests sind essentiell:

• KI Red Teaming: Gezielte Versuche, KI-Systeme zu manipulieren oder zu Fehlverhalten zu bringen
• Adversarial Testing: Systematische Tests mit manipulierten Eingabedaten
• Prompt-Injection-Tests: Überprüfung der Resistenz gegen bekannte Injection-Techniken
• Datenleck-Tests: Versuche, sensible Informationen aus dem Modell zu extrahieren

Diese technischen Maßnahmen sollten als Teil eines vollständigen IT-Sicherheitskonzepts implementiert werden, das KI-spezifische Bedrohungen explizit berücksichtigt.

Organisatorische Maßnahmen für KI-Sicherheit

Technische Maßnahmen allein reichen nicht aus. Organisatorische Maßnahmen schaffen den Rahmen für einen sicheren und verantwortungsvollen KI-Einsatz:

KI-Policy und Nutzungsrichtlinie

Jedes Unternehmen, das KI einsetzt, benötigt eine verbindliche KI-Richtlinie, die mindestens folgende Aspekte regelt:

• Welche KI-Systeme sind genehmigt und für welche Einsatzzwecke?
• Welche Daten dürfen in KI-Systeme eingegeben werden (und welche nicht)?
• Wie werden KI-generierte Ergebnisse geprüft und freigegeben?
• Wer ist verantwortlich für KI-Systeme und deren Überwachung?
• Wie wird mit KI-Vorfällen umgegangen (Incident Response)?
• Dokumentationspflichten bei KI-gestützten Entscheidungen

Rollen und Verantwortlichkeiten

Klare Zuständigkeiten sind wichtig:

• KI-Beauftragter / AI Officer: Zentrale Ansprechperson für alle KI-bezogenen Fragen, verantwortlich für die KI-Strategie und Governance
• Informationssicherheitsbeauftragter (ISB): Bewertet KI-Risiken im Kontext des ISMS und stellt die Integration sicher
• Datenschutzbeauftragter (DSB): Prüft KI-Systeme auf DSGVO-Konformität und begleitet Datenschutz-Folgenabschätzungen
• KI-Risikomanager: Verantwortlich für die laufende Risikobewertung und -überwachung
• Fachabteilungen: Verantwortlich für den ordnungsgemäßen Einsatz genehmigter KI-Systeme

Schulung und Awareness

Mitarbeitende müssen für KI-Risiken sensibilisiert werden:

• Basis-Schulung: Grundlagen der KI, Chancen und Risiken, Unternehmensrichtlinie
• Fachspezifische Schulung: Sichere Nutzung der im Unternehmen eingesetzten KI-Tools
• Führungskräfte-Training: KI-Governance, Verantwortlichkeiten, strategische Implikationen
• Awareness-Kampagnen: Regelmäßige Informationen über neue KI-Risiken und Bedrohungen
• Praxisübungen: Erkennung von KI-generierten Deepfakes, Phishing und Social Engineering

Dokumentation und Nachweisführung

Der AI Act fordert vollständige Dokumentation. Stellen Sie sicher, dass folgende Nachweise vorliegen:

• KI-Inventar mit Risikoklassifizierung
• Risikobewertungen und Behandlungspläne
• Technische Dokumentation der KI-Systeme
• Schulungsnachweise der Mitarbeitenden
• Ergebnisse von Audits und Tests
• Vorfallberichte und Lessons Learned

Lokale KI als Risikominimierung

Ein vielversprechender Ansatz zur Reduzierung von KI-Risiken — insbesondere im Bereich Datenschutz und Datensicherheit — ist der Einsatz lokaler KI-Systeme (On-Premise LLMs). Anstatt sensible Daten an Cloud-basierte KI-Dienste zu senden, werden die KI-Modelle direkt in der eigenen Infrastruktur betrieben.

Vorteile lokaler KI für das Risikomanagement

• Datensouveränität: Keine Daten verlassen das Unternehmensnetzwerk — das Risiko von Data Leakage wird eliminiert
• DSGVO-Konformität: Die Datenverarbeitung bleibt vollständig unter eigener Kontrolle, keine Drittland-Übermittlung
• Keine Abhängigkeit von Cloud-Anbietern: Verfügbarkeit und Preisgestaltung bleiben kontrollierbar
• Vollständige Kontrolle: Das Modellverhalten kann durch Fine-Tuning und Guardrails exakt angepasst werden
• Compliance-Vereinfachung: Die Nachweisführung für AI Act und DSGVO wird erheblich einfacher

Technische Umsetzung

Moderne lokale KI-Lösungen ermöglichen den Betrieb leistungsfähiger Sprachmodelle auf eigener Hardware. Open-Source-Modelle wie Llama, Mistral oder Phi bieten mittlerweile beeindruckende Leistung bei überschaubaren Hardware-Anforderungen. Für viele Anwendungsfälle — interne Dokumentenanalyse, Kundenservice-Unterstützung, Code-Generierung — sind lokale Modelle eine ernstzunehmende Alternative zu Cloud-Diensten.

Ein Zero-Trust-Ansatz ergänzt die lokale KI-Strategie optimal: Jeder Zugriff auf das KI-System wird verifiziert, unabhängig davon, ob er aus dem internen Netzwerk stammt.

Risikovergleich: Cloud-KI vs. Lokale KI

• Data Leakage: Cloud = hoch | Lokal = minimal
• DSGVO-Konformität: Cloud = aufwendig | Lokal = einfacher
• Verfügbarkeit: Cloud = abhängig | Lokal = eigen kontrolliert
• Modellqualität: Cloud = State-of-the-Art | Lokal = gut (und stetig besser)
• Kosten: Cloud = variabel (pro Nutzung) | Lokal = fix (Hardware + Betrieb)
• Implementierungsaufwand: Cloud = gering | Lokal = mittel bis hoch

DATUREX: KI-Risikomanagement aus einer Hand

Die DATUREX GmbH vereint die drei wichtigen Kompetenzfelder für ein vollständiges KI-Risikomanagement:

• Informationssicherheit: Als erfahrener externer Informationssicherheitsbeauftragter integrieren wir KI-Risiken nahtlos in Ihr bestehendes ISMS und begleiten Sie bei der Erweiterung um ISO 42001.
• Datenschutz: Unsere Datenschutzbeauftragten stellen sicher, dass Ihre KI-Systeme DSGVO-konform betrieben werden — von der Datenschutz-Folgenabschätzung bis zum Verarbeitungsverzeichnis.
• KI-Expertise: Wir verstehen die technischen Grundlagen von KI-Systemen und können Risiken nicht nur theoretisch, sondern auch praktisch bewerten und mitigieren.

Unser Leistungsspektrum

• KI-Bestandsaufnahme und Risikoklassifizierung nach AI Act
• KI-Risikobewertung und Erstellung des KI-Risiko-Registers
• Integration von KI-Risiken in Ihr ISMS (ISO 27001 + ISO 42001)
• Erstellung einer unternehmensweiten KI-Policy
• Datenschutz-Folgenabschätzung für KI-Systeme
• KI-Schulungen für Mitarbeitende und Führungskräfte
• Begleitung bei KI-Audits und Zertifizierungen
• Beratung zu lokalen KI-Lösungen als Alternative zu Cloud-Diensten

Häufige Fragen zum KI-Risikomanagement

Müssen alle Unternehmen ein KI-Risikomanagement einführen?

Grundsätzlich müssen alle Unternehmen, die KI-Systeme einsetzen, die Anforderungen des EU AI Act einhalten. Ein formales Risikomanagementsystem ist jedoch primär für Hochrisiko-KI-Systeme vorgeschrieben. Dennoch empfehlen wir jedem Unternehmen — unabhängig von der Risikoklasse — ein strukturiertes KI-Risikomanagement, da es auch vor Datenschutzverstößen, Sicherheitsvorfällen und Reputationsschäden schützt.

Wie unterscheidet sich KI-Risikomanagement vom klassischen IT-Risikomanagement?

KI-Risikomanagement erweitert das klassische IT-Risikomanagement um KI-spezifische Bedrohungen wie Halluzinationen, Bias, Prompt Injection und Model Theft. Zudem kommen regulatorische Anforderungen durch den AI Act hinzu, die im klassischen IT-Risikomanagement nicht abgedeckt werden. Auch ethische Aspekte wie Fairness, Transparenz und Erklärbarkeit spielen eine deutlich größere Rolle.

Was kostet die Einführung eines KI-Risikomanagements?

Die Kosten variieren je nach Umfang der KI-Nutzung, Anzahl der KI-Systeme und der bestehenden Infrastruktur. Unternehmen mit einem etablierten ISMS nach ISO 27001 können KI-Risiken vergleichsweise kostengünstig integrieren. Für eine erste Risikoanalyse und Bestandsaufnahme kalkulieren Sie typischerweise 2–5 Beratertage. Ein vollständiges KI-Risikomanagement-Programm umfasst je nach Unternehmensgröße 10–30 Beratertage.

Ist ein lokales KI-Modell immer sicherer als ein Cloud-Dienst?

Nicht automatisch. Ein lokales KI-Modell eliminiert zwar das Risiko des Datenabflusses an Cloud-Anbieter, bringt aber eigene Herausforderungen mit: Die Hardware muss geschützt werden, Updates und Patches müssen selbst eingespielt werden, und die Modellqualität kann hinter Cloud-Diensten zurückbleiben. Wichtig ist eine sorgfältige Abwägung der spezifischen Risiken und Anforderungen Ihres Unternehmens.

Wie oft sollte die KI-Risikobewertung aktualisiert werden?

Wir empfehlen eine mindestens jährliche vollständige Überprüfung des KI-Risiko-Registers. Zusätzlich sollte eine anlassbezogene Neubewertung erfolgen bei: Einführung neuer KI-Systeme, wesentlichen Änderungen bestehender Systeme, KI-Sicherheitsvorfällen, regulatorischen Änderungen (z. B. neue Durchführungsverordnungen zum AI Act) oder nach relevanten externen Sicherheitsvorfällen in der Branche.