Langenhagen, 2. Oktober 2026. Was passiert, wenn wir unseren Augen nicht mehr trauen können? Deepfakes – künstlich erzeugte Bilder, Videos und Audios – werden immer raffinierter und bedrohen Vertrauen, Meinungsbildung und damit die Grundlagen unserer Demokratie. Wo werden diese Technologien bereits gezielt eingesetzt, und wie erkennen wir manipulierte Inhalte? Diese und weitere Fragen beleuchtete der Online-Vortrag „Deepfakes – Gefahren für Demokratie und Gemeinwohl und wie wir ihnen begegnen können“ von Maria Pawelec. Im Rahmen der „Langen Nacht der Demokratie“ lud die VHS Langenhagen ein zu einem Abend, der aufklärt, sensibilisiert und zeigte, wie wir uns gegen digitale Täuschung wappnen können. Ein Pflichttermin für alle, die informiert durch die digitale Welt gehen wollen – bequem von zu Hause aus per Mausklick.
Inhaltsverzeichnis
Maria Pawelec ist Politikwissenschaftlerin und wissenschaftliche Mitarbeiterin am Internationalen Zentrum für Ethik in den Wissenschaften (IZEW) der Eberhard Karls Universität Tübingen. Seit Jahren forscht sie zu den ethischen, gesellschaftlichen und politischen Implikationen von Deepfakes und Möglichkeiten ihrer Regulierung – unter anderem in den Projekten digilog@bw und PREVENT (Prävention digitaler Desinformationskampagnen); aktuell leitet sie das Projekt DEEP-PRISMA, das die Rechte von Bürgerinnen und Bürger gegen Missbrauch durch Deepfakes schützen soll, sowie das Projekt PriMeta zu Privatheit und Ethik in Metaversen. Sie beriet zudem die Bundeszentrale für politische Bildung bei der Erstellung des Dossiers „Wenn der Schein trügt – Deepfakes und die politische Realität“. Ihre Forschungsschwerpunkte: Neue Technologien und Demokratie, KI-Ethik, Deepfakes, Desinformation sowie Technologie- und Plattform-Governance.
Was Deepfakes heute können
Maria Pawelec stieg direkt mit den technischen Möglichkeiten ins Thema ein – Zahlen, die aufhorchen lassen:
- Stimmklone: Weniger als 30 Sekunden Audio-Mitschnitt genügen, um eine Stimme zu klonen – und damit praktisch alles sagen zu lassen. Der angebliche Konsens-Check der Anbieter („Ist das Ihre Stimme?“) lässt sich mit einem Klick umgehen.
- Arten von Deepfakes: Maria Pawelec unterschied vier Kategorien:
- Face-Swap-Deepfakes – das Gesicht einer Person wird durch das einer anderen ersetzt (der „klassische“ Deepfake),
- Lip-Sync-Technologien – Lippenbewegungen werden an eine beliebige Audiodatei angepasst,
- Facial Reenactment / „Puppeteering“ – Gestik und Mimik einer Person vor der Kamera werden wie bei einer Marionette auf eine Person im Video übertragen,
- Videogeneratoren – komplette Videos entstehen allein aus Textbeschreibungen („Prompts“).
Stand der Technik: Vom Reddit-Post zur Komplettlösung per Textbefehl
Ein historischer Abriss zeigte, wie schnell sich die Technik entwickelt hat – und wie die Zugangsbarrieren dabei fast verschwunden sind:
- 2017: Die ersten Face-Swap-Deepfakes tauchen auf – veröffentlicht von einer anonymen Person auf Reddit, zusammen mit dem dazugehörigen Algorithmus. Seit Anfang an spielt die Open-Source-Szene (GitHub, anonyme Entwickler-Communities) eine zentrale Rolle in der Deepfake-Entwicklung.
- 2021/2022: Die ersten öffentlich verfügbaren Bildgeneratoren (Midjourney, DALL-E, Stable Diffusion) ändern alles – Text eingeben, Bild erhalten. Heute sind sie in Chatbots wie ChatGPT oder Gemini integriert.
- Jetzt: Wer Deepfakes von Prominenten oder Privatpersonen erstellen will, braucht dafür – je nach Modell – nur noch ein einziges Foto in ausreichender Auflösung. Maria Pawelec demonstrierte es mit Grok (der KI von Elon Musk, die weitgehend ohne Prominenten-Blocker arbeitet): fotorealistische Bilder von Friedrich Merz und Olaf Scholz beim Golf oder Donald Trump im glitzernden Eiskunstlauf-Kostüm – auf den ersten Blick nicht mehr von echten Fotos zu unterscheiden. Keine sechs Finger mehr, keine seltsamen Reflexe.
- Audio: Stimmbibliotheken (z. B. bei ElevenLabs mit den Stimmen von Rihanna oder Arnold Schwarzenegger), verschiedene Sprachen und Akzente – Text eintippen, Stimme kommt raus. Stimmen klonen: unter 30 Sekunden Ausgangsmaterial.
- Video: Bereits 2022 zeigte die Firma Metaphysic AI beim Finale von „America’s Got Talent“ einen Echtzeit-Deepfake von Elvis Presley in HD auf der großen Leinwand – mit enormen Implikationen für Videokonferenzen und Betrug. Anfang 2024 kam mit OpenAIs Sora der erste öffentlich verfügbare Videogenerator (noch ohne Ton, noch mit anatomischen und physikalischen Mackeln), im Mai 2025 folgte Googles Veo 3 mit passender Audiospur – inzwischen ist Veo 3.1 verfügbar.
Live-Experiment mit dem Publikum: Maria Pawelec zeigte ein vor über einem Jahr mit Veo 3 generiertes Video (u. a. eine fingierte Kriegserklärung der Schweiz an Deutschland, ein gefakter WM-Titel und ein pünktlich fertiggestellter BER). Das Publikum fand kaum Erkennungsmerkmale. Die verbleibenden Schwächen der KI: unleserlicher „Buchstabensalat“ statt Text im Bild, stereotype Wüstenkulisse statt Schweizer Alm (weil die Trainingsdaten für „Krieg“ vor allem Wüstenstaaten zeigen) und bisweilen leicht asynchrone Lippen. Maria Pawelecs Fazit: Auf dem kleinen Handydisplay abends im Social-Media-Feed würde die allermeisten ein solches Video täuschen.
Gefahren für Demokratie und Gemeinwohl
1. Erosion des Vertrauens und die „Lügner-Dividende"
Die größte abstrakte Gefahr ist weniger der einzelne Fake als die Atmosphäre, in der niemand mehr weiß, was er glauben kann. Debatten verschieben sich von Sachfragen hin zu Streit darüber, ob etwas überhaupt stattgefunden hat. Maria Pawelec nannte zentrale Begriffe und Mechanismen:
- Lügner-Dividende: Personen des öffentlichen Lebens erklären belastende Beweise einfach zu „Deepfakes“; mit dem bloßen Verweis auf Deepfakes lässt sich heute Realität anzweifeln (Beispiele aus den USA: Behauptungen über KI-generierte Videos von Biden, Trump oder Harris).
- Krasses Beispiel: Weniger als ein Jahr nach dem Video der Tötung George Floyds veröffentlichte eine republikanische Politikerin einen „Bericht“, wonach das Video ein Deepfake sei.
- Auch in Deutschland: Luftaufnahmen der Kölner Großdemonstration „gegen rechts“ (Januar 2024) wurden sofort als KI-generiert angezweifelt.
- Folgen für den Journalismus: Redaktionen stehen vor einer Flut potenziell manipulierter Medien, ohne über Ressourcen und Tools zur Verifikation zu verfügen. Fatale Nebenwirkung: Werden Journalistinnen durch eine lückenhafte Kennzeichnung in Sicherheit gewiegt, riskieren sie Falschberichterstattung. Das Heikelste: Autoritäre Regime können reale Menschenrechtsverletzungen als „Deepfakes“ abtun – die Beweislast dreht sich um.
- Gesamtfolge: Polarisierung in abgeschlossenen politischen bzw. verschwörungsideologischen Zirkeln, Politikverdrossenheit und Nährboden für Autoritarismus.
2. Wahlmanipulation
- USA 2024: Deepfake-Bilder, die Kamala Harris als Kommunistin zeigten; Robocalls mit der KI-Stimme Joe Bidens, die demokratische Wählerinnen von der Vorwahl abhalten sollten; von Trump selbst geteilte „Swifties for Trump“-Memes – mit der Folge, dass sich Taylor Swift öffentlich (real) für Harris aussprach.
- Slowakei 2023: Der wohl kniffligste Fall – zwei Tage vor der Parlamentswahl erschien ein Audio-Deepfake, in dem der progressive Kandidat mit einer Journalistin über den Ankauf von Wählerstimmen sprach. In der Slowakei gilt ein Berichts-Moratorium vor Wahlen, eine Richtigstellung war kaum noch möglich; der Ausgang der Wahl war denkbar knapp.
- Ungarn: In der hochpolarisierten Wahl liefen realistische Deepfakes um den Oppositionskandidaten Peter Magyar (etwa eine angebliche Rede über Rentenkürzungen) und rassistisch aufgeladene Montagen (Magyar an der Leine von EU-Politiker Manfred Weber) – durchgesetzt hat sich Magyar trotzdem.
- Deutschland, Bundestagswahl 2025: Ein komplett KI-generierter, unkenntlich gebliebener „Wahlkampfspot“ der AfD Brandenburg (Januar 2025) diffamierte Politiker (Lauterbach in Handschellen, Habeck beim Bücherverbrennen und im Ordnungsdienst) und bediente rassistische Stereotype. Ein sehr ähnliches Video hatten Landesmedienanstalten wegen entwicklungsbeeinträchtigender Inhalte eingeschränkt – auf X blieb der Spot dennoch abrufbar.
- KI-Personas: Fake-Profile wie die synthetische „Larissa Wagner“ verbreiten AfD-Wahlwerbung und diffamieren Journalistinnen – die Kennzeichnung als KI („KI-Maus“ in der Biografie) ist winklig. Darüber hinaus gibt es aktuell eine neue Welle „hübscher, junger“ KI-Influencerinnen, die Wahlwerbung und Desinformation mit Verlinkungen auf kostenpflichtige Erotik-Angebote kombinieren – politische Manipulation und Monetarisierung verschwimmen.
Was bringen sie in Wahlen? Eine Umfrage in Deutschland: 15 % der Befragten glaubten schon einmal einen irreführenden politischen Deepfake; 15 % davon trafen deswegen eine fehlgeleitete Wahlentscheidung – rund 2 % insgesamt. Einen historischen „Deepfake-Moment“, der eine Wahl entschieden hätte, gab es bisher nicht. Maria Pawelecs Einschätzung: Deepfakes kursieren vor allem in geschlossenen politischen Zirkeln, wirken als Memes und verstärken Polarisierung – das schadet der Demokratie auch ohne die eine entscheidende Wahlfälschung.
Aktuelles Beispiel außerhalb von Wahlen: Im Januar dieses Jahres teilte das Weiße Haus selbst ein KI-manipuliertes Foto der Verhaftung einer Aktivistin und Anwältin aus dem Umfeld der Anti-ICE-Proteste: Haut dunkler retuschiert, Make-up entfernt – ein gezielter Versuch, die Gegnerin als „aufgelöst“ und schwach darzustellen.
3. Kriegspropaganda und hybride Kriegsführung
- Ukraine: Bereits 2022 kursierte ein (damals noch schlechter) Zelensky-Deepfake, der ukrainische Truppen zur Waffenniederlegung auffordern sollte. Inzwischen: KI-generierte Videos weinender, gegen ihren Willen eingezogener junger ukrainischer Männer („ich will noch nicht sterben“) – die Moral untergraben. Maria Pawelec wies darauf hin, dass es auch ukrainische Deepfakes gegen Russland gibt, über die westliche Medien selten berichten.
- Gaza: Beide Seiten nutzen KI-generierte Bilder – vom inszenierten Leiden der palästinensischen Zivilbevölkerung bis zu fingierten Jubelszenen für israelische Soldaten.
- Iran: Die Berichterstattungslücke füllt sich mit KI-Content – etwa ein gefaktes Bild der aufgefundenen „Leiche“ von Ayatollah Ali Chamenei oder Clips israelischer Soldaten in Todesangst.
- Russische Einflussnahme in Deutschland: Die Desinformationskampagne „Operation Overload“ bzw. „Matroschka“ („Storm 1679″, mit Verbindungen zur russischen Social Design Agency) zielt – sofern über Paris 2024 und die Bundestagswahl 2025 hinaus – erstmals gezielt auf kommunale und Landtagswahlen in Deutschland. Muster: Kurzvideos mit gefälschten Logos etablierter Medien, Deepfakes von Prominenten (Sarah Jessica Parker), Behauptungen über Briefwahl-Manipulation und „anti-ostdeutsche Propaganda“ der CDU, Falschbehauptungen über Kandidierende aller Parteien außer AfD und BSW (Drogenkonsum bis hin zu Mord) – versehen mit einem Hashtag, der kein Geheimnis macht, worum es geht: „Time to divide Germany“.
4. Sexualisierende Deepfakes – die eigentliche Hauptanwendung
Maria Pawelec stellte klar: Die erste Anwendung von Deepfake-Technologie war sexualisierend – die allerersten Face-Swap-Videos 2017 setzten Gesichter von Schauspielerinnen auf Pornodarstellerinnen. Und an dieser Stelle ist die Aufteilung bis heute massiv: Die oft zitierte Statistik, dass 96–98 % aller Deepfakes sexualisierend sind und fast alle Opfer weiblich, ist zwar wegen fehlender Datenbasis mit Vorsicht zu genießen – ein enormer Anteil ist es trotzdem, und er wächst.
- Werkzeuge: „Nudifier“-Apps aus dem normalen App Store, Abonnement-Dienste für ein paar Dollar im Monat, teils mit offenem Marketing („wir ziehen Bilder von Instagram“); Bildgeneratoren wie Grok konnten bis vor Kurzem sexualisierende Deepfakes erstellen.
- Skandale: Der Grok-Skandal Anfang des Jahres (hunderttausende generierte Nacktbilder, auch von Minderjährigen, wochenlang auf X kursierend); Schüler, die Deepfakes von Mitschülerinnen in Klassenchats teilen; und der Fall Collien Fernandes, die ihren Ex-Mann Christian Ulmen in Spanien anzeigte – ihm wird vorgeworfen, sexualisierende Deepfakes von ihr erstellt, mit Männern geteilt und sogar Telefonsex mit ihrer KI-geklonten Stimme geführt zu haben. Der Fall löste Proteste und erstmals breite politische Aufmerksamkeit für eklatante Gesetzeslücken aus. Aber auch die CDU Landtagsfraktion in Niedersachsen hatte ihren Deepfake Skandal, ich berichtete.
- Folgen für Betroffene: Depressionen, Angstzustände, Selbstverletzung, Suizidgedanken bis hin zu Suizid; Erpressung, Mobbing, Doxing, Cyberstalking – vieles davon strafrechtlich relevant.
- Gezielt gegen Frauen in der Öffentlichkeit: sexualisierende Deepfakes gegen Journalistinnen, Aktivistinnen und Politikerinnen (z. B. Luisa Neubauer, Annalena Baerbock, Ricarda Lang) sollen diese aus der Öffentlichkeit verdrängen. Das Wissen, dass ein einziges Foto genügt, hält vor allem junge Frauen davon ab, sich (online wie offline) politisch einzubringen.
- Südkorea: seit rund eineinhalb Jahren eine regelrechte Deepfake-Krise – hunderte Schulen und Universitäten betroffen, zehntausende junge Frauen und Mädchen, deren sexualisierende Deepfakes in Telegram-Gruppen kursieren; zehntausende löschen oder pausieren ihre Profile.
Maria Pawelecs Fazit: Sexualisierende Deepfakes sind eine Form gruppenbezogener Hassrede, normalisieren Gewalt gegen Frauen und marginalisierte Gruppen und sind damit ein zentrales demokratisches Problem – nicht nur ein individuelles Schicksal.
Was können wir tun? Es gibt keinen Hebel allein
Die Technologie ist da und verschwindet nicht mehr. Maria Pawelec warnte vor der Suche nach der einen Lösung – gebraucht wird eine Kombination:
- Regulierung: Die EU-KI-Verordnung verpflichtet zur Kennzeichnung von Deepfakes (Transparenzpflichten, Bußgelder). Aber: Sie gilt nicht für Privatpersonen, und böswillige Akteure (etwa russlandnahe Kampagnen) ignorieren sie ohnehin. Eine lückenhafte Kennzeichnung kann sogar neue Probleme erzeugen (blinder Vertrauen auf „nicht gekennzeichnet = echt“; Korrektur-Kennzeichnungen steigern pauschales Misstrauen und befeuern die Lügner-Dividende). Bei sexualisierenden Deepfakes wird gerade nachgesteuert: Ein geplantes digitales Gewaltschutzgesetz soll Strafbarkeitslücken schließen (bis zu zwei Jahre Haft für Erstellung und Verbreitung), Plattformen sollen Täter-Accounts auf richterliche Anordnung sperren. Und: Die EU hat Nacktbild-Generatoren als verbotene KI-Anwendung eingestuft – in Kraft ab dem 2. Dezember; auch App-Stores müssen dann entsprechende Apps entfernen.
- Technische Lösungen: KI-basierte Deepfake-Detektion als Baustein (siehe Fragerunde).
- Medienkompetenz und Bildung, gestärkter Journalismus und Faktenchecks, Selbstschutz, Berufsethik der Entwicklerinnen und Anbieter.
- Forschung: Maria Pawelec warb für ihr Projekt zu Deepfakes, die ganz normale Bürgerinnen und Bürger betreffen (sexualisierend, betrügerisch, rufschädigend) – mit einer geplanten großen Deutschland-Umfrage und Interviews mit Betroffenen und Institutionen. Kontakt über die Universität Tübingen bzw. die Veranstaltungsfolien.
Die Fragerunde: Fragen und Antworten im Überblick
Was können wir als Individuum tun – etwa wenn wir nicht wissen, ob eine E-Mail wirklich von unserer Bank stammt?
Es kommt auf den Problembereich an. Bei politischen Inhalten sind die alten Erkennungstipps („sechs Finger“, asymmetrische Ohrringe) überholt – gute Deepfakes sind weder mit Auge noch Ohr zu erkennen; entscheidend ist der Kontext: Wer postet (Frische des Accounts, Posting-Frequenz)? Berichten andere, vertrauenswürdige Quellen dasselbe? Und: Starke eigene Emotionen sind ein Alarmsignal – Wut und Angst werden von Plattformen belohnt; wer profitiert davon, dass ich jetzt wütend bin? Nicht ungeprüft teilen! Bei sexualisierenden Deepfakes: Betroffene informieren, an die Plattform melden, ggf. Polizei einschalten, Beratungsstellen wie HateAid nutzen. Bei Betrug: wissen, dass Stimmklon-Betrug („Enkeltrick 2.0″) existiert; ein familieninternes Codewort vereinbaren, Rückfragen stellen, die nur die echte Person beantworten kann, und auf einem anderen Kanal zurückrufen.
Was ist mit Menschen, die sich nicht kritisch informieren können – Ältere, bildungsfernere Menschen? Wie schützt man sie, ohne auf die Eigeninitiative Einzelner zu setzen?
Das ist nur als Einzelaufgabe tatsächlich nicht zu lösen – individuelle Medienkompetenz ist ein Baustein unter vielen. Regulierung greift vor allem bei kommerziellen Akteuren und Institutionen (Kennzeichnung im Bild/Video selbst, bei KI-Stimmen im Anruf; Bußgelder). Bei sexualisierenden Deepfakes schließt das geplante digitale Gewaltschutzgesetz die Gesetzeslücken, Nacktbild-Generatoren werden EU-weit verboten (ab 2. Dezember), App-Stores müssen Nudifier-Apps entfernen – das erhöht die technischen Hürden. Politische Desinformation lässt sich dagegen kaum verbieten: Sie fällt häufig unter die Meinungsfreiheit, „Desinformation“ ist kein Straftatbestand.
Wenn ich mit Gemini bearbeitete Bilder erstelle, wird „KI-generiert" hinterlegt – das lässt sich aber mit jedem Bildbearbeitungsprogramm entfernen. Ist so eine Pflichtkennzeichnung dann überhaupt sinnvoll?
Entfernen lässt es sich nicht verhindern – die EU-KI-Verordnung setzt deshalb vor allem auf maschinenlesbare Metadaten statt nur auf Wasserzeichen. Aber auch Metadaten sind trivial entfernbar (schon ein Abfotografieren des Bildschirms genügt), und wer Open-Source-Modelle lokal betreibt, hat weder Wasserzeichen noch Blocker – den Quellcode kann jeder anpassen. Jede Erhöhung der technischen Hürden hilft, aber gelöst wird das Problem nur durch das Zusammenspiel vieler Lösungen.
Gibt es Prävention gegen sexualisierende Deepfakes – oder können wir nur reagieren, wenn es passiert ist?
Eine australische Täter-Studie (2025) zeigt überraschende Motive: neben sexueller Fantasie, Kontrolle und Frauenhass auch Neugier und Technik-Faszination (v. a. bei Tätern über 35) sowie Gruppendruck bei jungen Männern – wer nicht mitmacht, riskiert selbst zum Opfer zu werden – und eine normalisierte, entmenschlichende Objektifizierung von Frauen. Daraus ergeben sich Ansatzpunkte: technische Hürden erhöhen, klare Strafmaße als Abschreckung für „Gelegenheitstäter“, und Aufklärung über die zugrunde liegenden Motive – Frauenhass, verzerrte Rollenbilder, „Manosphäre“. Wichtig: dem Gefühl entgegenwirken, das alles sei „normal“, nur weil es so einfach ist.
Müssen nicht vor allem Männer einbezogen werden? Es wirke viel stärker, wenn ein Mann sagt „das geht nicht", als wenn „nur die Frauen über die Männer schimpfen".
Zustimmung. Im Nachgang zum Collien-Fernandes-Skandal hätten sich viele Männer öffentlich zu einer Selbstreflexion bekannt (Woran haben wir gelacht? Was haben wir unkommentiert gelassen?). Jungen- und Männerarbeit solle idealerweise von männlichen Sozialpädagogen geleistet werden – aber es sei eine gesamtgesellschaftliche Aufgabe über alle Generationen (die Täter-Studie zeigt: auch Ü35).
Kann KI Deepfakes auf Instagram und Co. automatisch erkennen?
Ja, daran wird viel geforscht – KI-Detektoren können Dinge sehen, die Menschen nicht mehr erkennen können: Pixel-Artefakte (inkonsistente Pixel-Verbindungen), bei Audio die anatomische Plausibilität des Sprechapparats oder die Rekonstruktion des Blutflusses beim Sprechen. KI-basierte Detektion ist ein wichtiger Baustein – auch um Transparenz-Regeln durchsetzen zu können –, aber eben nur einer unter vielen.
Fazit
Deepfakes sind billig, schnell, gut – und sie werden besser. Maria Pawelec ließ den Abend mit einer doppelten Botschaft enden: Die Gefahr ist real, aber es gibt keinen Grund für Resignation. Es braucht viele Bausteine – kluge Regulierung, funktionierende Detektion, gestärkten Journalismus, Bildung und jedes Individuum, das innehält, kritisch prüft und nichts ungeprüft weiterverbreitet. Und: Wer selbst betroffen ist, ist mit dem neuen Forschungsprojekt an der Universität Tübingen nicht allein.
Download
Deepfakes erkennen - reagieren - helfen
Quellen
- Maria Pawelec / IZEW, Universität Tübingen: Teamseite Maria Pawelec
- bpb-Dossier „Wenn der Schein trügt – Deepfakes und die politische Realität“: Universität Tübingen zum Dossier
- SWP-Interview mit Maria Pawelec: „Einen gut gemachten Deepfake kann man nicht mehr mit bloßem Auge oder Ohr erkennen“
- VHS Langenhagen
You must be logged in to reply to this topic.