Ein erschütternder Fall aus Deutschland rückt ein wachsendes Problem ins Rampenlicht: Die deutsche Schauspielerin Collien Fernandes wurde jahrelang Opfer von Deepfake-Pornografie – manipulierten Vi
Ein erschütternder Fall aus Deutschland rückt ein wachsendes Problem ins Rampenlicht: Die deutsche Schauspielerin Collien Fernandes wurde jahrelang Opfer von Deepfake-Pornografie – manipulierten Videos, die ihr Gesicht auf pornografische Inhalte montieren. Der Skandal entfacht auch in Österreich eine hitzige Debatte über den Schutz vor digitaler Gewalt gegen Frauen. Während Frauenministerin Eva-Maria Holzleitner einen "Deepfake-Sicherheitsgipfel" ankündigt, werfen die Grünen der Regierung Untätigkeit vor und fordern sofortige gesetzliche Maßnahmen.
Deepfakes sind mit Hilfe Künstlicher Intelligenz (KI) erstellte Videos oder Bilder, die täuschend echt wirken, aber manipuliert sind. Der Begriff setzt sich aus "Deep Learning" (einer Form des maschinellen Lernens) und "Fake" zusammen. Die Technologie nutzt neuronale Netzwerke, um das Gesicht einer Person auf den Körper einer anderen zu übertragen. Während diese Technik ursprünglich für Filmeffekte oder harmlose Unterhaltung entwickelt wurde, missbrauchen Kriminelle sie zunehmend für pornografische Inhalte ohne Einverständnis der Betroffenen.
Besonders problematisch ist die zunehmende Verfügbarkeit solcher Software. Während man früher Expertenwissen benötigte, können heute auch technische Laien mit kostenlosen Apps und Programmen überzeugende Fälschungen erstellen. Bereits wenige Fotos aus sozialen Netzwerken reichen oft aus, um ein täuschend echtes pornografisches Video zu produzieren. Die Qualität der Fälschungen hat sich in den letzten Jahren dramatisch verbessert – oft sind sie mit bloßem Auge nicht mehr von echten Aufnahmen zu unterscheiden.
Die Statistiken sind alarmierend: Laut internationalen Studien sind 99 Prozent aller Deepfake-Pornografie-Opfer Frauen. Diese Form der digitalen Gewalt hat verheerende Auswirkungen auf die Betroffenen. Opfer berichten von Depressionen, Angstzuständen, sozialer Isolation und beruflichen Nachteilen. Viele ziehen sich aus dem öffentlichen Leben zurück oder verlassen soziale Medien vollständig.
"Deepfake-Pornografie ist digitaler sexueller Missbrauch", erklärt Meri Disoski, Frauensprecherin der Grünen. Die psychischen Folgen seien mit denen von physischen Übergriffen vergleichbar. Betroffene müssen oft erleben, dass gefälschte pornografische Inhalte mit ihrem Gesicht im Internet kursieren, von Bekannten geteilt werden und praktisch unmöglich vollständig zu löschen sind. Die Hemmschwelle für Täter ist niedrig, da sie anonym agieren können und bislang nur selten strafrechtlich verfolgt werden.
Der Fall Collien Fernandes ist kein Einzelfall. In Deutschland hat die Debatte bereits zu konkreten politischen Initiativen geführt. Auch in anderen europäischen Ländern wird verstärkt über Gesetzesverschärfungen diskutiert. Großbritannien hat bereits 2023 die Erstellung und Verbreitung von Deepfake-Pornografie unter Strafe gestellt. In den USA haben mehrere Bundesstaaten ähnliche Gesetze verabschiedet.
Die Europäische Union hat mit dem AI Act (Künstliche-Intelligenz-Gesetz) einen ersten Rahmen geschaffen. Das Gesetz verbietet bestimmte missbräuchliche KI-Anwendungen, darunter auch die Erstellung nicht-einvernehmlicher pornografischer Inhalte. Das Europäische Parlament stimmte auf Initiative der Grünen für diese Verschärfungen. Nun liegt es an den Mitgliedstaaten, diese Vorgaben in nationales Recht umzusetzen.
Während international der Handlungsdruck steigt, kritisieren die Grünen die österreichische Bundesregierung für ihre zögerliche Haltung. Disoski wirft der Koalition aus ÖVP und SPÖ vor, konkrete Maßnahmen zu verzögern: "Mit Show-Gipfeln ist keiner einzigen Frau geholfen. Es braucht endlich konkrete Maßnahmen statt leerer Ankündigungen."
Die Grünen hatten bereits im vergangenen Jahr parlamentarische Initiativen eingebracht, um die Herstellung und Verbreitung von Deepfake-Pornografie explizit zu verbieten. Diese Vorschläge wurden jedoch von den Regierungsparteien vertagt. Angesichts der rasanten technologischen Entwicklung sei diese Verzögerung "völlig unverständlich", so Disoski.
Österreich hat in den letzten Jahren durchaus Fortschritte im Kampf gegen digitale Gewalt gemacht. Aus der Zeit der türkis-grünen Regierung stammen mehrere wichtige Gesetzesverschärfungen: Das Verbot von "Upskirting" (heimliche Aufnahmen unter Röcken), Verschärfungen bei Cybermobbing und ein Aktionsplan gegen Deepfakes. Auch Maßnahmen gegen Hass im Netz wurden implementiert.
"Diese Schritte waren wichtig – aber sie reichen angesichts der rasanten technologischen Entwicklung bei weitem nicht mehr aus", betont Disoski. Das Problem: Die bestehenden Gesetze erfassen Deepfake-Pornografie oft nur unzureichend. Häufig müssen Staatsanwälte auf allgemeine Bestimmungen wie Verleumdung oder Rufschädigung zurückgreifen, was die Strafverfolgung erschwert und zu milderen Urteilen führt.
Die Strafverfolgung von Deepfake-Pornografie ist komplex. Oft agieren Täter grenzüberschreitend oder aus dem Ausland, was die Ermittlungen erschwert. Server stehen häufig in Ländern mit laxen Gesetzen oder unklaren Rechtshilfeabkommen. Zudem sind die technischen Hürden für Ermittlungsbehörden hoch – sie müssen nachweisen, dass es sich tatsächlich um eine KI-generierte Fälschung handelt.
Experten fordern daher einen mehrstufigen Ansatz: Erstens braucht es klare Straftatbestände, die speziell auf Deepfake-Pornografie zugeschnitten sind. Zweitens müssen Plattformbetreiber stärker in die Pflicht genommen werden, solche Inhalte schnell zu löschen. Drittens bedarf es besserer Aufklärung und Präventionsarbeit. Viertens müssen Betroffene leichteren Zugang zu rechtlicher Hilfe und psychologischer Betreuung erhalten.
Die Technologiebranche arbeitet an Erkennungssoftware für Deepfakes. Algorithmen sollen automatisch gefälschte Videos identifizieren und markieren. Doch es ist ein Wettrüsten: Je besser die Erkennungstools werden, desto raffinierter werden auch die Fälschungen. Einige Plattformen wie Facebook oder Twitter haben bereits Richtlinien gegen Deepfakes implementiert, doch die Durchsetzung ist schwierig.
Eine vielversprechende Entwicklung sind sogenannte "Provenienz-Tools" – Technologien, die die Authentizität von Medieninhalten von der Aufnahme bis zur Veröffentlichung nachverfolgen können. Adobe und andere Unternehmen entwickeln Standards, die es ermöglichen sollen, manipulierte Inhalte zuverlässig zu identifizieren. Allerdings stehen diese Technologien noch am Anfang ihrer Entwicklung.
Die Bedrohung durch Deepfake-Pornografie trifft besonders Frauen in der Öffentlichkeit. Politikerinnen, Journalistinnen, Influencerinnen und andere Personen des öffentlichen Lebens sind besonders gefährdet. Dies kann zu einem "Chilling Effect" führen – Frauen ziehen sich aus Angst vor digitalen Angriffen aus der Öffentlichkeit zurück. Für die demokratische Teilhabe ist dies problematisch.
Auch im privaten Bereich sind die Auswirkungen spürbar. Immer mehr Jugendliche und junge Erwachsene werden Opfer von Deepfake-Pornografie, oft im Kontext von Cybermobbing oder Rachepornografie. Schulen und Beratungsstellen melden einen Anstieg entsprechender Fälle. Die Dunkelziffer dürfte hoch sein, da viele Betroffene aus Scham schweigen.
Deepfake-Pornografie ist auch ein lukratives Geschäft geworden. Auf speziellen Plattformen können Nutzer gegen Bezahlung maßgeschneiderte gefälschte Videos bestellen. Die Preise sind in den letzten Jahren dramatisch gefallen – was früher Tausende Euro kostete, ist heute für wenige Dollar zu haben. Dies senkt die Hemmschwelle erheblich und macht das Problem zu einem Massenphänomen.
Gleichzeitig entstehen neue Geschäftsmodelle rund um den Schutz vor Deepfakes. Unternehmen bieten Monitoring-Services an, die das Internet nach gefälschten Inhalten durchsuchen. Versicherungen entwickeln Policen für Personen des öffentlichen Lebens. Die Kosten für den Schutz vor digitaler Gewalt werden damit zunehmend privatisiert – ein problematischer Trend, der staatliches Handeln nicht ersetzen kann.
Ein Blick über die Grenzen zeigt verschiedene Ansätze im Umgang mit Deepfake-Pornografie. In Südkorea, wo das Problem besonders akut ist, wurden bereits 2020 drastische Strafen eingeführt. Täter können mit bis zu fünf Jahren Haft bestraft werden. Die Regierung investiert massiv in Erkennungstools und Präventionsarbeit.
In Deutschland plant die Ampel-Koalition ebenfalls Gesetzesverschärfungen. Der Bundestag diskutiert über explizite Straftatbestände für Deepfake-Pornografie. Auch die Schweiz prüft ähnliche Maßnahmen. Österreich hinkt bei dieser Entwicklung hinterher – ein Umstand, den Oppositionspolitiker wie Disoski scharf kritisieren.
Die Europäische Union bietet eine Chance für koordinierte Maßnahmen. Der bereits erwähnte AI Act ist nur der erste Schritt. Die EU-Kommission arbeitet an weiteren Initiativen, um den Schutz vor digitaler Gewalt zu stärken. Auch die geplante Überarbeitung der Audiovisuellen Mediendienste-Richtlinie könnte neue Instrumente schaffen.
Österreich könnte von einer EU-weiten Koordinierung profitieren, da viele Fälle grenzüberschreitende Dimensionen haben. Gemeinsame Standards bei der Strafverfolgung und beim Opferschutz würden die Effektivität der Maßnahmen erhöhen. Die Grünen fordern die Regierung auf, bei diesen europäischen Initiativen eine Vorreiterrolle zu übernehmen.
Die Grünen haben konkrete Forderungen formuliert: Ein explizites Verbot von Deepfake-Pornografie im Strafgesetzbuch, wirksame rechtliche Mittel für Betroffene und die rasche Umsetzung längst vorliegender Gewaltschutzmaßnahmen. "Jeder weitere Aufschub bedeutet, dass Betroffene weiterhin unzureichend geschützt sind", warnt Disoski.
Experten sehen mehrere Handlungsfelder: Neben gesetzlichen Verschärfungen braucht es bessere Ausbildung für Polizei und Justiz im Umgang mit digitaler Gewalt. Opferberatungsstellen müssen personell und finanziell gestärkt werden. Gleichzeitig muss die Medienkompetenz in der Bevölkerung gefördert werden – sowohl um Deepfakes zu erkennen als auch um verantwortlich mit KI-Tools umzugehen.
Die rasante Entwicklung der KI-Technologie macht schnelles politisches Handeln erforderlich. Bereits heute können Smartphones Apps ausführen, die in Echtzeit Gesichter austauschen können. Mit der Verbreitung von leistungsstarker Hardware werden solche Anwendungen noch zugänglicher. Experten warnen vor einer "Demokratisierung" der Deepfake-Technologie, die das Problem verschärfen könnte.
Gleichzeitig bietet die technologische Entwicklung auch Chancen. Verbesserte Erkennungstools, Blockchain-basierte Authentifizierung und KI-gestützte Moderation können helfen, das Problem einzudämmen. Entscheidend ist jedoch, dass Politik und Gesellschaft mit der technologischen Entwicklung Schritt halten und proaktiv handeln, statt nur auf Probleme zu reagieren.
Der angekündigte Deepfake-Sicherheitsgipfel von Frauenministerin Holzleitner könnte ein wichtiger Schritt sein – aber nur, wenn konkrete Maßnahmen folgen. Die Zeit für symbolische Politik ist vorbei. Angesichts der dramatischen Auswirkungen auf die Betroffenen und der schnellen technologischen Entwicklung braucht es jetzt entschlossenes Handeln. Österreich hat die Chance, bei diesem wichtigen Thema eine Vorreiterrolle zu übernehmen – die Frage ist, ob die Regierung diese Chance nutzen wird.