Deepfake-Pornografie

„Deepfake“ ist ein Kofferwort, das die englischsprachigen Begriffe Deep Learning und Fake kombiniert und die kombinierte Darstellung unterschiedlicher Medienquellen unter Verwendung von Prinzipien künstlicher neuronaler Netze beschreibt, die dem Betrachter den falschen Eindruck vermitteln, ein Subjekt befinde sich in einem Szenario, das tatsächlich nicht in Zusammenhang mit dem Subjekt steht. Ein einfaches Beispiel ist „face swapping“, das vom Computer berechnete Einfügen eines Gesichts in das Abbild eines anderen Menschen. Wird ein Gesicht einer real existierenden Person in pornografische Szenen eingefügt, so dass sich der wahrheitswidrige Eindruck ergibt, die Person sei Teil der Szene, spricht man von Deepfake-Pornografie. Alternativ werden mit Hilfe von „Nudify“-Software Fotos von bekleideten Personen dahingehend manipuliert, dass an Stelle bekleideter realistische unbekleidete Körper in die Bilder eingefügt werden.^[4]

Für die Berechnung von Deepfake-Filmen werden Techniken der Generativen Künstlichen Intelligenz genutzt.^[5] Bilder und Videos werden durch Software auf Muster und Gesetzmäßigkeiten analysiert, bis die Software in der Lage ist, das jugendfreie und das pornografische Ausgangsmaterial miteinander zu kombinieren. Mit handelsüblicher Hardware betrug die Rechenzeit für Deepfake-Filme 2017 je nach verfügbarer Hardware und Spielzeit mehrere Stunden bis mehrere Tage. Stand 2020 war eine händische Nachbearbeitung des Rechenresultats die Regel.^[6]

Das Einfügen von Gesichtern Prominenter in pornografische Bilder ist ein altbekanntes Phänomen. 2001 gewann beispielsweise die Tennisspielerin Steffi Graf einen Prozess gegen den Technikkonzern Microsoft, da dieser nicht gegen gefälschte Pornobilder mit Grafs Gesicht auf seinem Webportal MSN vorgegangen war.^[7] Laut des Variety-Magazins kam das Deepfake-Pornografie-Phänomen im Dezember 2017 auf, als ein Reddit-Nutzer mehrere Pornovideos bereitstellte, in denen scheinbar prominente Frauen mitspielten.^[5] Der Erschaffer nutzte frei zugängliche Programme wie Keras oder TensorFlow, um den Film zu erstellen. Laut des Vice-Magazins war die israelische Schauspielerin Gal Gadot (Wonder Woman) das erste Opfer, dessen Gesicht in einen Pornofilm montiert wurde.^[8] Binnen Wochen folgten weitere Filme, in denen scheinbar Scarlett Johansson, Maisie Williams, Taylor Swift oder Aubrey Plaza mitspielten. Im Januar 2018 veröffentlichte ein anderer Reddit-Nutzer eine Applikation namens FakeApp, mit der Anwender ohne weitergehende technische Kenntnisse selbst Gesichter in einen Pornofilm montieren konnten.^[5]

Bereits unmittelbar nach der Veröffentlichung der ersten Filme wies das Vice-Magazin darauf hin, dass auf Grund der breiten Verfügbarkeit von benötigter Hard- und Software einerseits und der breiten Verfügbarkeit von privaten Fotos in den sozialen Medien andererseits das Erstellen von Deepfake-Pornografie für gezieltes Mobbing gegen Privatpersonen genutzt werden könne.^[8] Einzelne Hosting-Seiten begannen schon wenige Wochen nach der Veröffentlichung des ersten Films damit, die von anonymen Nutzern hochgeladenen Filme von ihren Plattformen zu entfernen, woraufhin die Nutzer allerdings auf andere Plattformen auswichen. Zu den Plattformen, die Deepfake-Pornografie über ihre Nutzungsbedingungen aus ihrem Hostingangebot ausschlossen, gehören Discord, Gfycat, Pornhub, Twitter und seit Februar 2018 Reddit selbst.^[9] Stand 2020 hatten auch die Social-Media-Plattformen Facebook und YouTube ihre Geschäftsbedingungen dahingehend angepasst, dass Deepfake-Videos nicht hochgeladen werden durften.^[6] Das Videoportal Gfycat setzt bei seinen Recherche-Arbeiten dabei eigenen Angaben zufolge seinerseits KI-Techniken zur Erkennung von Deepfake-Pornografie ein. Diese prüfen aber lediglich von Nutzern neu hochgeladene Bildsequenzen, während bereits vor Einsatz der Technologie hochgeladene Werke monatelang unbeanstandet präsentiert wurden und von Nutzern manuell gemeldet werden mussten.^[10] Techniken, die Deepfake-Pornografie aus „regulärer“ Pornografie herausfiltern sollen, prüfen Bildsequenzen unter anderem auf auffällige Hautstellen und ungewöhnliche Blinzelfrequenzen der Darstellerinnen.

Stand 2020 haben einige US-Bundesstaaten^[11] sowie China und Südkorea Gesetze erlassen, die das Inverkehrbringen von Deepfake-Pornografie unter Strafe stellen.^[6] In den Vereinigten Staaten werden Bundesgesetze zum Schutz Minderjähriger analog angewendet. Der iPhone-Hersteller Apple löschte im April 2024 nach Meldung durch das US-Technikmagazin 404 Media drei „Nudify“-Apps aus dem App Store, die dort zuvor trotz Verletzung von Apples Richtlinien scheinbar unbemerkt geblieben waren.^[12]

Im Sommer 2024 wurde durch einen Bericht der Journalistin Ko Narin bekannt, dass sich in Südkorea zahlreiche Gruppen gebildet haben, die Deep Fake Pornografie von Studentinnen und Schülerinnen verbreiten. Mehr als 500 Universitäten und Schulen sind betroffen. Als Medium dient vor allem Telegram.^[13]

Für Aufmerksamkeit sorgte Ende 2025 die Plattform X, auf der es Nutzern einfach gemacht wurde, das an die Plattform angebundene KI-Modell Grok zur Erstellung von Bildern zu nutzen, was zu massenhaften sexualisierten Deepfakes führte. Zeitweise zeigten mehr als die Hälfte aller auf der Plattform erstellten Bilder Personen in freizügiger Kleidung. Rund 80 Prozent der Opfer waren Frauen.^[14] (siehe auch Grok#Massenhafte sexuelle Belästigung durch Deepfakes) Der Fall sorgte für scharfe Kritik am Betreiber der Plattform und zu staatlichen Untersuchungen.

2019 gab es laut einer Analyse der italienischen Firma DeepTrace Technologies fast 14.000 im Netz kursierende Deepfake-Pornovideos, die einen Anteil von 96 % aller Deepfake-Videos im Internet ausmachten.^[15][16] Zu diesem Zeitpunkt machten südkoreanische Sängerinnen des K-Pop-Genres etwa 25 % der Deepfake-Pornografie-Opfer aus, während die Konsumenten mehrheitlich in China lokalisiert wurden. Das US-Magazin Input zitierte im August 2020 eine nicht näher spezifizierte Studie, der zufolge weltweit pro Monat über 1000 pornografische Deepfake-Videos auf einschlägige Seiten hochgeladen würden.^[17]

Im September 2023 erreichte die Zahl der Besucher von „Nudify“-Diensten nach Recherchen der US-Firma für Social-Media-Analysen Graphika über 24 Millionen monatliche Unique Visits, zugleich stieg die Werbung für entsprechende Angebote seit Januar 2023 laut Graphika um 2400 % an.^[18] 2023 wurde die Zahl der KI-generierten Videos im Netz auf fast 100.000 geschätzt, bei einem Anteil pornographischer Videos von 98 %.^[19][20]

Opfer von sexualisierten Deepfakes sind vor allem Frauen.^[16] Es handelt sich daher um eine geschlechtsspezifische Form der digitalen Gewalt.^[21]

Der Technologiedienstleister DeepTrace Technologies, der 2019 eine Analyse zum Status der Deepfake-Pornografie veröffentlichte, hielt fest, dass das Pornografie-Segment in den Anfangstagen der Treiber des Deepfake-Markts gewesen sei.^[15] Das Medium Deepfake sei zwar prinzipiell geeignet, politische Prozesse zu stören und zu unterminieren, primär werde es aber genutzt, um im Rahmen von Deepfake-Pornografie Frauen zu demütigen und abzuwerten. Das US-Nachrichtenmagazin Business Insider sah darüber hinaus die Gefahr, dass die Opfer der Manipulationen mit diesen erpresst werden. Das Magazin wies auch darauf hin, dass die Deepfake-Pornografievideos keine echten Sexszenen der Opfer zeigten und sich damit in einer rechtlichen Grauzone befänden.^[9] Das Time-Magazin wies unter Berufung auf die Bereichsleiterin für Cybersicherheit bei der Electronic Frontier Foundation Eva Galperin darauf hin, dass dem Aufkommen der Deepfake-Pornografie primär Prominente Opfer von Bildmanipulationen wurden, während insbesondere durch das Aufkommen von allgemein zugänglichen „Nudify“-Diensten Normalpersonen in den Fokus der Ersteller rückten, darunter Schülerinnen und Studentinnen.^[22]

Das Technikportal The Verge zeigte bereits im Dezember 2017 die Gefahr auf, dass Deepfake-Pornografie als Mobbing-Mittel gegen Mitschüler eingesetzt werden könne. Es wies darauf hin, dass die Begrenzung des Phänomens erschwert würde, da die Ersteller Open-Source- statt proprietärer Software einsetzten.^[23] Das Lifestylemagazin Vice äußerte die Sorge, dass technische Maßnahmen gegen Deepfake-Pornografie unweigerlich zu einem „Katz-und-Maus-Spiel“ mit Erstellern und Verbreitern der Filmchen führe, da letztere erfahrungsgemäß nach jeder Installation einer Schutzmaßnahme versuchen würden, diese zu umgehen.^[10] Vertreter der Pornofilmindustrie äußerten sich teils kritisch oder besorgt über das Aufkommen von Deepfake-Pornografie. So kritisierte der damalige Finanzvorstand der US-amerikanischen Produktionsfirma Evil Angel, dass Deepfake-Pornografie per Definition Dinge zeige, denen die dargestellte Person nie zugestimmt habe.^[5] Der deutsche Spiegel mutmaßte, dass die Medien durch ihre Berichterstattung zum Thema der Popularität von Deepfake-Pornografie Vorschub geleistet hätten, und wies darauf hin, dass zugrunde liegende Faceswap-Technologie in Apps wie Snapchat längst Eingang in die Massenkultur gefunden habe.^[24]

Mit ihrem „spekulativen Design- und Kunstprojekt“, dem Kameraprototyp „Nuca“, möchten die beiden Aktionskünstler Mathias Vef und Benedikt Groß auf die Problematik von KI-generierter Deepfake-Pornografie, konkret der Nutzung von KI-Tools zur Erstellung von Nacktbildern ohne Einwilligung, aufmerksam machen; der Kameraprototyp, der bei einer Aufnahme direkt ein Nacktbild der fotografierten Person erzeugt, soll ab dem 29. Juni 2024 in der Ausstellung Uncanny in Berlin zu sehen sein.^[25]

Collien Fernandes drehte 2024 die zweiteilige Dokumentation Die Spur: Deepfake-Pornos.

Der österreichische Rechtswissenschaftler Marlon Possard, tätig an der Sigmund Freud PrivatUniversität Wien und Berlin sowie an der Hochschule für Angewandte Wissenschaften Campus Wien, vertritt die Auffassung, dass das geltende Strafrecht in Österreich nicht ausreichend ist, um dem zunehmenden Phänomen sexualisierter Deepfakes wirksam zu begegnen. Derzeit müsse zur rechtlichen Einordnung entsprechender Fälle auf bestehende Regelungen wie das Urheberrechtsgesetz (UrhG) sowie auf Straftatbestände wie Cyber-Mobbing, Beleidigung oder üble Nachrede zurückgegriffen werden, die jedoch nur bedingt geeignet seien, die spezifischen Unrechtsgehalte solcher Inhalte zu erfassen. Vor diesem Hintergrund plädiert Possard für eine gezielte Weiterentwicklung der strafrechtlichen Bestimmungen und der rechtlichen Instrumente, um Betroffenen einen wirksameren Schutz zu bieten und eine effektivere Verfolgung entsprechender Handlungen zu ermöglichen.^[26][27] Die österreichische Justizministerin Anna Sporrer (SPÖ) nahm die Kritik zum Anlass, ein Verbot sexualisierter Deepfakes im österreichischen Strafrecht (StGB) zu implementieren.^[28]