Ein bekannter Moderator empfiehlt in einem kurzen Clip eine Investitionsplattform, die angeblich in wenigen Wochen hohe Renditen verspricht. Die Stimme klingt vertraut, die Mimik wirkt natürlich, das Video scheint professionell produziert. Nur: Der Moderator hat das nie gesagt. Sein Gesicht und seine Stimme wurden von einer KI erzeugt. Was früher enormes technisches Know-how erforderte, lässt sich heute mit frei verfügbaren Tools in wenigen Stunden zusammenbauen.
Wie Deepfakes in der Praxis eingesetzt werden
Der Begriff bezeichnet synthetisch erzeugte oder manipulierte Medieninhalte, bei denen Gesichter, Stimmen oder ganze Körper durch KI-Modelle ersetzt oder verfremdet werden. Die zugrundeliegenden Verfahren, vor allem sogenannte Generative Adversarial Networks (GANs), wurden ab 2014 in der Forschung entwickelt und haben sich seitdem rasant verbessert. Was einst an Universitäten und in Speziallaboren blieb, ist heute über Smartphone-Apps und Webdienste für jedermann zugänglich.
Für Betrüger ist das eine erhebliche Chance. Sie kombinieren echte Aufnahmen prominenter Personen mit KI-generierten Sprachsegmenten und Bildsequenzen, um Werbeclips zu erzeugen, die täuschend echt wirken. Diese Videos landen anschließend als Anzeigen auf Social-Media-Plattformen, in Messenger-Gruppen oder als Vorschaltvideos auf Streamingdiensten. Die Themen sind dabei fast immer gleich: Kryptowährungen, dubiose Finanzprodukte, nicht zugelassene Nahrungsergänzungsmittel oder überteuerte Coaching-Programme.
Prominente als unfreiwillige Werbeträger
Besonders häufig betroffen sind Personen, von denen viele Originalaufnahmen im Netz kursieren: Talkshow-Hosts, Sportler, Schauspieler, aber auch Wirtschaftsjournalisten und Politiker. In Deutschland wurden in den vergangenen Jahren unter anderem Deepfakes von Günther Jauch und Karl Lauterbach verbreitet, in denen diese angeblich für Finanzprodukte oder Wundermittel warben. Die echten Personen erstatteten in mehreren Fällen Anzeige, doch die Urheber blieben schwer zu fassen, weil Server und Konten häufig im Ausland betrieben werden.
Wer verstehen will, wie solche Fälschungen technisch funktionieren und wie man sie einordnet, findet bei Deepfakes erkennen und einordnen einen gut strukturierten Einstieg in das Thema. Dort werden sowohl die Entstehungsmethoden als auch konkrete Erkennungsmerkmale beschrieben, ohne dabei in Fachsprache abzugleiten.
Woran man gefälschte Videos erkennen kann
Auch wenn die Qualität von Deepfakes gestiegen ist, gibt es nach wie vor typische Schwachstellen, auf die man achten kann:
- Unnatürliche Augenbewegungen: KI-generierte Gesichter blinzeln oft zu selten oder unregelmäßig.
- Unscharfe Ränder: An Haaransatz, Ohren und Kieferlinie treten häufig verschwommene oder flimmernde Bereiche auf.
- Inkonsistente Beleuchtung: Lichtreflexionen auf Haut und in den Augen stimmen nicht mit dem Hintergrund überein.
- Asynchrone Lippenbewegungen: Vor allem bei schlechter Komprimierung passt die Mundbewegung nicht exakt zur gesprochenen Sprache.
- Merkwürdige Handbewegungen: Hände und Finger werden von vielen Modellen nach wie vor schlecht gerendert.
Zusätzlich lohnt ein einfacher Kontextcheck: Würde diese Person ernsthaft für dieses Produkt werben? Gibt es eine offizielle Bestätigung auf dem verifizierten Kanal der Person? Führt der Link im Video zu einer seriösen Website? Diese Fragen beantworten sich oft schnell und filtern den Großteil der Fälschungen bereits heraus.
Was Behörden und Plattformen dagegen unternehmen
Die rechtliche Lage in Deutschland ist eindeutiger, als viele annehmen. Das Erstellen und Verbreiten von Deepfakes zu Betrugs- oder Verleumdungszwecken ist strafbar, unter anderem nach dem Strafgesetzbuch wegen Betrugs, Verleumdung oder der Verletzung des Rechts am eigenen Bild. Die Bundesanstalt für Finanzdienstleistungsaufsicht warnt regelmäßig vor gefälschten Werbevideos im Finanzbereich und veröffentlicht Listen bekannter Betrugsfälle. Trotzdem ist die Strafverfolgung aufwendig, weil die Täter häufig anonym operieren und ihre Infrastruktur international verteilen.
Auf Plattformebene haben Meta, YouTube und TikTok Richtlinien eingeführt, die synthetisch erzeugte Inhalte mit öffentlichen Personen in werblichem Kontext grundsätzlich untersagen. Die Durchsetzung bleibt jedoch reaktiv: Videos werden oft erst entfernt, nachdem Nutzer sie gemeldet haben, und bis dahin können sie hunderttausende Aufrufe erreicht haben. Automatisierte Erkennungssysteme arbeiten zwar kontinuierlich daran, solche Inhalte zu identifizieren, aber die Qualität der Fälschungen verbessert sich ebenfalls.
Gesellschaftliche Dimension: Wenn Vertrauen systematisch untergraben wird
Das eigentliche Problem geht über einzelne Betrugsfälle hinaus. Wenn Menschen nicht mehr sicher sein können, ob ein Video echt ist, entsteht ein generelles Misstrauen gegenüber digitalen Medieninhalten. Forscher sprechen in diesem Zusammenhang vom sogenannten “Liar’s Dividend”: Selbst echte, kompromittierende Aufnahmen können von Betroffenen als Deepfake abgetan werden. Die Fälschungstechnologie schädigt also nicht nur durch das, was sie produziert, sondern auch durch den Zweifel, den sie an echten Inhalten sät.
Das Phänomen ist auch Gegenstand wissenschaftlicher Untersuchungen. Der Wikipedia-Artikel zu Deepfakes gibt einen guten Überblick über den Forschungsstand, die rechtlichen Debatten in verschiedenen Ländern und die technische Entwicklung der vergangenen Jahre. Für einen schnellen Einstieg ist das eine solide Grundlage, bevor man sich in spezialisierte Quellen vertieft.
Was Nutzer jetzt konkret tun können
Praktischer Selbstschutz beginnt mit ein paar einfachen Gewohnheiten. Wer auf ein ungewöhnliches Werbevideo stößt, sollte den Namen der Person zusammen mit dem beworbenen Produkt direkt in einer Suchmaschine eingeben. Seriöse Berichte oder Dementis der betroffenen Person tauchen dabei meist schnell auf. Außerdem helfen kostenlose Werkzeuge wie der Deepfake-Detektor von Intel oder entsprechende Plugins für Browser dabei, Videoaufnahmen auf synthetische Artefakte zu prüfen, auch wenn kein einzelnes Tool eine Garantie bietet.
Wer ein verdächtiges Video entdeckt, kann es direkt auf der jeweiligen Plattform melden und zusätzlich bei der Verbraucherzentrale oder der zuständigen Staatsanwaltschaft Anzeige erstatten. Das klingt nach viel Aufwand für ein einzelnes Video, aber die Datenlage verbessert sich, wenn Behörden mehr Hinweise erhalten. Deepfakes werden nicht verschwinden. Wer weiß, wie sie funktionieren und worauf man achten muss, ist ihnen gegenüber aber deutlich weniger anfällig.
