Seite wählen

Deepfake erkennen – Schutz vor KI-generierten Fälschungen

CEO Fraud, Voice Cloning und manipulierte Videos: So schützen Sie Ihr Unternehmen vor KI-Betrug

Die Fähigkeit, Deepfakes zu erkennen, wird für Unternehmen und Privatpersonen immer wichtiger. Künstliche Intelligenz kann heute täuschend echte Videos, Audiodateien und Bilder erzeugen, die für das menschliche Auge kaum von der Realität zu unterscheiden sind. Cyberkriminelle nutzen diese Technologie zunehmend für Betrug, Identitätsdiebstahl und gezielte Angriffe auf Unternehmen.

Was sind Deepfakes?

Deepfakes sind KI-generierte oder manipulierte Medieninhalte, die mithilfe von Deep-Learning-Algorithmen erstellt werden. Der Begriff setzt sich aus „Deep Learning“ und „Fake“ zusammen. Die Technologie basiert auf neuronalen Netzwerken, insbesondere Generative Adversarial Networks (GANs) und Diffusionsmodellen, die gelernt haben, realistische Gesichter, Stimmen und Bewegungen zu synthetisieren.

Man unterscheidet verschiedene Arten von Deepfakes:

Externer Informationssicherheitsbeauftragter gesucht?

Wir übernehmen die ISB-Rolle als externer Dienstleister — ISO 27001, BSI IT-Grundschutz, NIS-2 und TISAX aus einer Hand. Bundesweit, ab 300 € / Monat.

→ Externen Informationssicherheitsbeauftragten anfragen
  • Face Swap – Das Gesicht einer Person wird auf den Körper einer anderen übertragen
  • Face Reenactment – Mimik und Lippenbewegungen werden manipuliert
  • Voice Cloning – Die Stimme einer Person wird synthetisch nachgebildet
  • Text-to-Video – Komplette Videosequenzen werden aus Textbeschreibungen generiert
  • KI-generierte Bilder – Fotorealistische Bilder von Personen, die nicht existieren

Warum sind Deepfakes gefährlich?

CEO Fraud und Business Email Compromise

Angreifer nutzen geklonte Stimmen von Geschäftsführern, um Überweisungen oder vertrauliche Informationen zu erschleichen. In dokumentierten Fällen wurden durch Deepfake-Audioanrufe sechsstellige Beträge auf betrügerische Konten überwiesen. In Kombination mit Social Engineering sind diese Angriffe besonders effektiv.

Identitätsbetrug und KYC-Umgehung

Deepfakes werden eingesetzt, um Video-Identifikationsverfahren zu umgehen. Kriminelle erstellen synthetische Gesichter oder manipulieren Echtzeit-Videostreams, um sich als andere Personen auszugeben und Bankkonten oder Verträge zu erschleichen.

Desinformation und Reputationsschäden

Gefälschte Videos von Führungskräften, die kompromittierende Aussagen tätigen, können den Aktienkurs eines Unternehmens beeinflussen oder seine Reputation nachhaltig schädigen. Auch im politischen Bereich werden Deepfakes zur Meinungsmanipulation eingesetzt.

Erpressung und Nötigung

Synthetische kompromittierende Inhalte werden für Erpressungsversuche genutzt, ähnlich wie bei Ransomware-Angriffen – mit dem Unterschied, dass die Bedrohung die persönliche Reputation betrifft.

Deepfake erkennen – Technische Merkmale

Visuelle Hinweise bei Video-Deepfakes

  • Unnatürliches Blinzeln – Zu selten oder zu regelmäßig, da Trainingsdaten oft geschlossene Augen unterrepräsentieren
  • Inkonsistente Beleuchtung – Schatten und Lichtreflexionen stimmen nicht mit der Umgebung überein
  • Artefakte an Gesichtsrändern – Unscharfe oder flimmernde Übergänge zwischen Gesicht und Hintergrund
  • Unnatürliche Hauttextur – Zu glatt, zu gleichmäßig oder mit sichtbaren Bildstörungen
  • Fehlerhafte Zähne und Ohren – Asymmetrien, verschwommene Details oder fehlende Strukturen
  • Inkonsistente Lippensynchronisation – Leichte Verzögerung oder Abweichung bei Sprechbewegungen
  • Fehlende Mikroexpressionen – Natürliche subtile Gesichtsbewegungen fehlen oder wirken künstlich

Auditive Hinweise bei Voice Cloning

  • Roboterhaft klingende Passagen – Monotone Intonation oder unnatürliche Pausen
  • Fehlende Atemgeräusche – Natürliche Atempausen und -geräusche fehlen
  • Inkonsistente Raumakustik – Hintergrundgeräusche passen nicht zur angeblichen Umgebung
  • Unnatürliche Betonung – Emotionale Nuancen und Sprachmelodie wirken künstlich

Deepfake-Erkennungstools

Neben der manuellen Prüfung gibt es technische Werkzeuge zur Deepfake-Erkennung:

  • Microsoft Video Authenticator – Analysiert Videos und Bilder auf Manipulationsspuren
  • Intel FakeCatcher – Erkennt Deepfakes anhand von Blutflussmusteranalyse in Echtzeit
  • Sensity AI – Plattform zur Erkennung synthetischer Medien für Unternehmen
  • Deepware Scanner – Open-Source-Tool zur Deepfake-Erkennung in Videos
  • Forensische Metadaten-Analyse – Prüfung von EXIF-Daten und Dateisignaturen

Schutzmaßnahmen für Unternehmen

Organisatorische Maßnahmen

  • Verifizierungsprozesse – Multi-Kanal-Bestätigung bei sensiblen Transaktionen (Rückruf über bekannte Nummer)
  • Code-Wort-System – Vereinbarte Authentifizierungsphrasen für Notfallsituationen
  • Awareness-Schulungen – Regelmäßige Trainings zu aktuellen Deepfake-Bedrohungen
  • Freigabeprozesse – Vier-Augen-Prinzip bei Überweisungen und vertraulichen Entscheidungen
  • Richtlinien für Videokonferenzen – Besondere Vorsicht bei unerwarteten Video-Calls

Technische Schutzmaßnahmen

  • Content Authenticity Initiative (CAI) – Digitale Herkunftsnachweise für Medieninhalte
  • Digitale Wasserzeichen – Authentizitätsnachweis für offizielle Unternehmensmedien
  • KI-basierte Erkennungssysteme – Automatisierte Analyse eingehender Medieninhalte
  • Biometrische Liveness Detection – Erkennung synthetischer Gesichter bei Video-Identifikation
  • Netzwerk-Monitoring – Erkennung ungewöhnlicher Kommunikationsmuster

Rechtliche Lage bei Deepfakes

Die rechtliche Einordnung von Deepfakes ist komplex und berührt verschiedene Rechtsgebiete:

  • Persönlichkeitsrecht – Deepfakes verletzen das Recht am eigenen Bild und an der eigenen Stimme
  • DSGVO – Verarbeitung biometrischer Daten ohne Einwilligung (Art. 9 DSGVO)
  • EU AI Act – Kennzeichnungspflicht für KI-generierte Inhalte
  • Strafrecht – Betrug (§ 263 StGB), Fälschung beweiserheblicher Daten (§ 269 StGB)
  • Urheberrecht – Verwendung geschützter Persönlichkeitsmerkmale für KI-Training

Der EU AI Act klassifiziert Deepfake-Technologie als manipulatives KI-System und schreibt vor, dass KI-generierte Inhalte als solche gekennzeichnet werden müssen.

Deepfakes und Informationssicherheit

Deepfakes stellen eine wachsende Bedrohung für die Informationssicherheit dar. Sie untergraben die Schutzziele Integrität und Authentizität – zwei Grundpfeiler vertrauenswürdiger Kommunikation. Ein vollständiges ISMS sollte Deepfake-Szenarien in der Risikoanalyse berücksichtigen.

Für Unternehmen mit einem IT-Sicherheitskonzept bedeutet das: Deepfake-Angriffe müssen als realistisches Bedrohungsszenario in Incident-Response-Pläne aufgenommen werden.

Zukunft der Deepfake-Technologie

Die Qualität von Deepfakes verbessert sich rasant. Was heute noch erkennbar ist, wird in wenigen Jahren für das menschliche Auge nicht mehr unterscheidbar sein. Unternehmen müssen sich darauf einstellen:

  • Echtzeit-Deepfakes in Videokonferenzen werden zunehmend realistisch
  • Personalisierte Phishing-Angriffe mit KI-generierten Videos und Stimmen
  • Deepfake-Erkennung als Wettrüsten – KI gegen KI
  • Kryptografische Authentifizierung wird zum Standard für offizielle Kommunikation

Deepfake-Angriffe in der Praxis — Fallbeispiele

Die Bedrohung durch Deepfakes ist nicht mehr theoretisch, sondern betrifft Unternehmen weltweit in zunehmendem Maße:

  • CEO-Fraud per Voice Clone (2026) — Ein Finanzangestellter eines multinationalen Konzerns überwies 25 Millionen US-Dollar, nachdem er in einer Videokonferenz vermeintlich mit dem CFO und weiteren Führungskräften gesprochen hatte. Alle Teilnehmer waren Deepfakes — nur der Finanzangestellte war eine reale Person
  • Stimmen-Deepfake bei Banküberweisungen — Angreifer klonten die Stimme eines Geschäftsführers und riefen die Buchhaltung an, um eine dringende Überweisung von 220.000 Euro zu veranlassen. Die Stimme war nicht von der echten zu unterscheiden
  • Bewerbungsbetrug mit Deepfake-Video — Kriminelle bewerben sich mit gefälschten Identitäten und manipulierten Video-Interviews auf Remote-Stellen, um Zugang zu Unternehmenssystemen zu erhalten
  • Aktienmanipulation — Gefälschte Videos von CEOs mit negativen Aussagen über das eigene Unternehmen wurden genutzt, um Aktienkurse kurzfristig zu manipulieren

Deepfake-Erkennung trainieren — Awareness für Mitarbeiter

Die wichtigste Verteidigung gegen Deepfake-Angriffe sind gut geschulte Mitarbeiter, die kritisch hinterfragen und Verifizierungsprozesse einhalten:

Schulungsinhalte für Deepfake-Awareness

  • Demonstration aktueller Deepfakes — Mitarbeitern Live-Beispiele zeigen, wie täuschend echt aktuelle Deepfakes sind, um das Risikobewusstsein zu schärfen
  • Erkennungsmerkmale üben — Praktische Übungen, in denen Mitarbeiter echte von gefälschten Videos und Audio unterscheiden müssen
  • Verifizierungsprozesse einüben — Multi-Kanal-Bestätigung bei sensiblen Anfragen: Rückruf über bekannte Telefonnummer, Bestätigung per separatem Kommunikationskanal
  • Szenarien durchspielen — Was tun Sie, wenn Ihr Chef Sie per Videocall um eine dringende Überweisung bittet? Praktische Tabletop-Übungen für verschiedene Deepfake-Szenarien
  • Code-Wort-Systeme — Vereinbaren Sie mit Führungskräften und Schlüsselpersonen ein geheimes Code-Wort, das bei sensiblen Anweisungen abgefragt wird

Deepfake-Schutz für Führungskräfte

Geschäftsführer und Vorstände sind bevorzugte Ziele für Deepfake-Angriffe, da ihre Stimmen und Gesichter oft öffentlich verfügbar sind. Spezielle Schutzmaßnahmen:

  • Digitaler Fußabdruck minimieren — Öffentlich verfügbare Videos und Audioaufnahmen von Führungskräften kritisch bewerten. Je weniger Material verfügbar ist, desto schwieriger wird die Erstellung überzeugender Deepfakes
  • Authentifizierungsprotokolle etablieren — Für finanzielle Transaktionen über definierten Schwellwerten ist immer eine Multi-Kanal-Bestätigung erforderlich, unabhängig davon, wer die Anweisung gibt
  • Krisenkommunikationsplan — Vorbereitung auf den Fall, dass ein Deepfake der Führungskraft veröffentlicht wird. Schnelle Dementi und Richtigstellungen über offizielle Kanäle
  • Media-Training — Führungskräfte für die Deepfake-Bedrohung sensibilisieren und in angemessener Reaktion schulen

Deepfake-Technologie verstehen — Wie funktionieren Deepfakes?

Für eine wirksame Verteidigung ist ein grundsätzliches Verständnis der Deepfake-Technologie hilfreich:

Generative Adversarial Networks (GANs)

Die ursprüngliche Deepfake-Technologie basiert auf GANs: Zwei neuronale Netzwerke — ein Generator und ein Diskriminator — trainieren sich gegenseitig. Der Generator erzeugt immer realistischere Fälschungen, während der Diskriminator versucht, echte von gefälschten Inhalten zu unterscheiden. Durch dieses Wettrüsten werden die generierten Inhalte zunehmend überzeugend.

Diffusionsmodelle

Moderne Deepfakes nutzen zunehmend Diffusionsmodelle (wie sie auch Stable Diffusion und DALL-E zugrunde liegen). Diese Modelle erzeugen besonders fotorealistische Bilder und ermöglichen präzisere Kontrolle über die generierten Inhalte.

Voice Synthesis

Voice Cloning ist mittlerweile mit erstaunlich wenig Ausgangsmaterial möglich: Wenige Sekunden Sprachaufnahme reichen aus, um eine Stimme zu klonen, die für das menschliche Ohr nicht von der echten zu unterscheiden ist. Tools wie ElevenLabs, Resemble AI oder XTTS ermöglichen Echtzeit-Voice-Cloning mit minimaler Latenz.

Echtzeit-Deepfakes

Die bedrohlichste Entwicklung sind Echtzeit-Deepfakes in Videokonferenzen. Software wie Deep Live Cam oder ähnliche Tools können das Gesicht eines Angreifers in Echtzeit durch das Gesicht einer anderen Person ersetzen — während einer laufenden Teams- oder Zoom-Konferenz. Die Qualität dieser Echtzeit-Fälschungen verbessert sich rapide und stellt herkömmliche Verifizierungsmethoden vor große Herausforderungen.

Deepfake-Erkennung — Fortgeschrittene Methoden

Neben den sichtbaren Artefakten gibt es fortgeschrittene forensische Methoden zur Deepfake-Erkennung:

  • Frequenzanalyse — Deepfakes hinterlassen typische Muster im Frequenzspektrum, die durch Fourier-Transformation sichtbar gemacht werden können
  • Physiologische Signale — Echte Videos enthalten subtile physiologische Signale wie Pulswellen in der Hautfarbe (Remote Photoplethysmography). Deepfakes reproduzieren diese Signale nicht korrekt
  • Konsistenzanalyse — Prüfung der physikalischen Konsistenz: Stimmen Lichtreflexionen in den Augen mit der Umgebungsbeleuchtung überein? Ist die Perspektive konsistent?
  • Blockchain-basierte Verifizierung — Content Provenance Standards (C2PA) ermöglichen die kryptografische Signierung von Medieninhalten zum Zeitpunkt der Erstellung
  • Verhaltensanalyse — KI-gestützte Analyse individueller Verhaltensmuster (Sprechrhythmus, Gestik, Mikroexpressionen), die für jede Person einzigartig sind und von Deepfakes schwer reproduziert werden können

Deepfake und KI-Governance

Die Deepfake-Bedrohung unterstreicht die Notwendigkeit einer vollständigen KI-Governance im Unternehmen. Während KI-Tools wie ChatGPT und Copilot die Produktivität steigern, können dieselben Technologien für Angriffe missbraucht werden. Ein KI-Governance-Framework muss beide Seiten adressieren: den verantwortungsvollen internen KI-Einsatz und den Schutz vor externen KI-basierten Bedrohungen.

Unternehmen sollten Deepfake-Szenarien in ihre Security Audits und Risikobewertungen aufnehmen. Die Frage ist nicht mehr, ob Deepfake-Angriffe auf Ihr Unternehmen stattfinden werden, sondern wann — und ob Ihre Organisation darauf vorbereitet ist.

DATUREX GmbH – Schutz vor Deepfake-Angriffen

Die DATUREX GmbH berät Unternehmen zum Schutz vor Deepfake-basierten Angriffen:

  • Risikoanalyse – Bewertung der individuellen Deepfake-Bedrohungslage
  • Awareness-Trainings – Schulung Ihrer Mitarbeiter zur Deepfake-Erkennung
  • Prozessdesign – Verifizierungsprozesse und Freigaberichtlinien implementieren
  • KI-Sicherheitsberatung – Ganzheitlicher Schutz vor KI-basierten Bedrohungen
  • Incident Response – Reaktionspläne für Deepfake-Vorfälle

Schützen Sie sich vor Deepfake-Betrug. Kontaktieren Sie uns: 0351 / 795 935 13 oder per E-Mail an kontakt@informationssicherheitsbeauftragter-dresden.de

📞 0351 / 79 59 35 13 Angebot anfragen