Fakes auf Social Media: Wie KI-generierte Influencerinnen Werbung für die AfD machen

• Recherche deckt Netzwerk KI-generierter Influencerinnen auf
• Die Profile werben für AfD und verbreiten teils rechtsextreme Inhalte
• Viele der Accounts betreiben außerdem Accounts auf Plattformen wie Onlyfans

Mehr Infos zu ähnlichen Themen finden Sie am Ende dieses Beitrags.

Immer wieder entdeckt man sie beim Scrollen auf Instagram und TikTok: Profile von angeblichen Influencerinnen, die mit Posts und Videos einen fragwürdigen Mix aus AfD, rechten bis rechtsextremen Positionen und Onlyfans-Content bewerben. Recherchen zeigen: Viele dieser Frauen sind KI-generiert. Hinter den Fakes steckt offenbar ein ganzes Netzwerk. Wer profitiert davon?

12 Euro im Monat für aufreizende Fotos und Hetze

Die Verbindung von expliziten Inhalten zu rechtsextremer Stimmungsmache lässt sich laut Correctiv-Recherchen schneller herstellen, als man denken würde. Ein Beispiel gefällig?

"Ich mag es, gewürgt zu werden", schreibt eine junge Frau namens "Zola" auf Instagram. "Aber bitte von einem Deutschen und nicht von einem 'Einzelfall' im Park."

Zola ist eigenen Angaben zufolge eine Krankenschwester und vor zehn Jahren aus dem Senegal nach Deutschland gekommen. Sie wählt stolz die AfD und ärgert sich auf ihrem Profil über den Islam, Impfungen und Transpersonen. Außerdem wirbt sie in aufreizenden Posen für ihren exklusiven, bezahlpflichtigen Content auf Fanvue - die Plattform versteht sich als eine Art deutsches Onlyfans. Zola nimmt etwa 12 Euro im Monat dafür.

Fakes kommen gut bei rechten Fans an

Dem Recherchenetzwerk Correctiv zufolge spricht allerdings vieles dafür, dass es sich bei Zola um ein KI-Profil handelt. In einer Recherche für das German-Austrian Digital Media Observatory (GADMO) fand Correctiv rund 190 Profile von 22 angeblichen Creatorinnen, die auf Kanälen wie TikTok, Instagram, Facebook und Threads Millionen von Usern erreichten. Dass die Profile und Personen in den Profilen mit KI generiert wurden, wird praktisch nie gekennzeichnet. Das ist auf Social-Media-Plattformen eigentlich verboten.

Dennoch kommen ihre Inhalte richtig gut an. Unter Zolas Inhalten fanden sich - bis der Account gelöscht oder gesperrt wurde - Kommentare wie: "Das ist genau das richtige Statement. Bravo", oder "Hast du Interesse an einem echten Kennenlernen?" Ironisch: Auf Zolas Fanvue-Profil war tatsächlich der Hinweis "KI-generiert oder -verbessert" zu finden.

Frauen-Profile werden offenbar von Männern betrieben

Schaut man lange genug hin, fallen aber auch mit dem bloßen Auge bestimmte Dinge in den Posts von Zola auf. So unterscheiden sich etwa Details in der Wohnung von Post zu Post oder Körperteile verformen sich bei Bewegungen. Unklar ist, ob es sich bei den Aufnahmen um eine vollständig mit KI generierte Person handelt oder lediglich Videos einer echten Person manipuliert wurden. Correctiv vermutet allerdings, dass einige Inhalte schlichtweg von echten Personen gestohlen wurden.

Über ähnliche Fälle wie den von Zola und anderen angeblichen Influencerinnen wurde bereits in der Vergangenheit berichtet - häufig im Zusammenhang mit Trump- und MAGA-Unterstützerinnen. Hinter einem Profil steckte laut "Wired" beispielsweise ein Mann aus Nordindien, der mit seiner Masche an "superdummen" Männern Geld verdienen wollte.

Hinter den Profilen stecken Nutzer aus dem Ausland

Auch im deutschen Kontext häufen sich die Fälle: Da gibt es "Luisa", die laut eigenen Angaben erst 19 sein soll, aber Interesse an Männern von 36 bis 86 habe. Oder "Bella", die auf ihrem Profil häufig an AfD-Ständen zu sehen ist und ebenfalls expliziten Content verkauft. Sie sind nur ein Teil der insgesamt 190 Profile, die teils sogar miteinander vernetzt sind.

Besonders kurios: Immer wieder fallen bei genauem Hinsehen Überschneidungen zwischen den Inhalten auf - wortgleiche Captions, die gleiche Kleidung und sogar identische Zimmer, in denen sie ihre Videos angeblich aufnehmen. Wie bei dem Beispiel aus Nordindien werden einige Profile laut Standortangaben aus Ungarn, Thailand, Indien oder von den Philippinen betrieben.

Den Correctiv-Recherchen zufolge lässt sich bislang keine koordinierte Kampagne nachweisen. Wer genau die Profile betreibt und warum - vielleicht sogar auf Anweisung einer dritten Partei - bleibt noch unklar. Die Nutzer scheint es zumindest nicht immer zu kümmern: "Denke, es ist bearbeitet, aber trotzdem gut", so ein User unter einem Beitrag von Zola.

Mehr Infos zu ähnlichen Themen finden Sie hier:

• Eckart von Hirschhausen warnt vor Deepfake-Betrug - so schützen Sie sich
• Darum sollten Sie jetzt bei der Buchung von Reisen besonders aufpassen
• Immer mehr Bedrohungen für Kunden mit Online-Banking
• Warum die Linkvorschau auf WhatsApp zur Gefahr werden kann
• WhatsApp-KI liest mit - und lässt sich nicht abschalten

sfx/bos/news.de