Deepfake-Gewalt: Cyber-Missbrauch durch KI immer häufiger - was können Betroffene tun?

• Mit wenigen Klicks können Täter explizite Fakes von Menschen erstellen
• Die Bilder und Videos werden per KI erzeugt und sehen täuschend echt aus
• Was hinter dem Phänomen steckt und was Betroffene dagegen tun können

Mehr Infos zu ähnlichen Themen finden Sie am Ende dieses Beitrags.

Ein Video taucht im Netz auf, das täuschend echt wirkt - und dennoch nie existiert hat. Mit unfassbarer Geschwindigkeit verbreitet es sich über Plattformen und Messenger. Für die abgebildete Person beginnt damit ein Kontrollverlust, der kaum rückgängig zu machen ist. Was hinter den Darstellungen steckt und wie Betroffene sich wehren können.

Dieser Artikel behandelt die Erzeugung und Verbreitung manipulierten Bildmaterials durch KI. Die beschriebenen Inhalte können belastend wirken. Betroffene von digitaler Gewalt finden Unterstützung und Beratung bei HateAid. Die Beratung ist vertraulich, anonym und kostenfrei erreichbar: Online auf hateaid.org oder telefonisch unter 030 / 252 088 38 (Mo 10-13 Uhr | Do 15-18 Uhr).

Digitale Missbrauchsfälle häufen sich

Durch künstliche Intelligenz gestützte Bild- und Videomanipulationswerkzeuge gibt es mittlerweile wie Sand am Meer, einige davon sogar völlig kostenfrei und äußerst einfach zu bedienen. Aus wenigen Texteingaben lassen sich neue, realitätsnahe Darstellungen erzeugen - auch von echten Menschen. Üblicherweise sollen integrierte Schutzmechanismen zwar verhindern, dass auch Bilder und Videos von echten Menschen manipuliert werden, doch diese werden von den Tätern immer wieder gezielt umgangen.

Zuletzt sorgte unter anderem Elon Musks KI "Grok" auf der Plattform X für Schlagzeilen. Das Tool erzeugte auf Wunsch der Nutzer manipuliertes und herabwürdigendes Material von realen Personen ohne deren Zustimmung - teils auch von Minderjährigen. Wie der "Guardian" berichtete, läuft bereits eine Zivilklage gegen Musks KI-Unternehmen, bei der die Klägerinnen Schadensersatz für generierte und verbreitete Bilder fordern.

Wer sind die Deepfake-Täter - und was motiviert sie?

Es stellt sich unweigerlich die Frage: Wer sind die Täter - jene Personen, die bewusst ihre (meist weiblichen) Opfer digitaler Gewalt aussetzen? Die Antwort ist sowohl einfach als auch komplex. Die Täter stammen aus unterschiedlichen Kontexten und sozialen Milieus - genau lässt sich das aber nicht feststellen, da sie online meist unter dem Deckmantel der Anonymität agieren, was wiederum ihre Hemmschwelle für die Taten senkt.

Wahrscheinlich ist aber, dass ein Großteil der Täter männlich ist.Ermittlungsbehörden berichten, dass es sich häufig um Personen aus dem sozialen Umfeld der Opfer handelt. Die Motive sind denen bei der Verbreitung von echten "Rache-Videos" mit explizitem Material oft ähnlich: Rache, Kontrolle, Bloßstellung, in einigen Fällen geht es auch um finanzielle Interessen. Grundsätzlich geht es dabei um eine Objektifizierung und Entmenschlichung der Opfer bei gleichzeitiger Befriedigung der eigenen (Macht-)Fantasien.

Das sagt das Gesetz zu Cyber-Missbrauch

Ein großes Problem: Zwar laufen auch in Deutschland bereits Gerichtsverfahren gegen Täter, doch abgeschlossen wurde noch keines, oftmals befinden sich die Fälle sogar noch in einem frühen Ermittlungsstadium. Zudem sind es nur etwa eine Handvoll Verfahren, da das deutsche Strafrecht bislang keinen eigenen Straftatbestand speziell für KI-generierte Manipulationen kennt. Bestehende Vorschriften wie zum Schutz des Persönlichkeitsrechts greifen gleichzeitig nur in Einzelfällen. Entsprechend fordern Fachleute einen klareren gesetzlichen Rahmen, mit dem die neuen technischen Möglichkeiten eindeutig erfasst und geahndet werden können.

Wie können Betroffene sich gegen die Videos und Bilder wehren?

Betroffene sollten manipulierte Inhalte dokumentieren und sichern, bevor sie von den Tätern gelöscht werden. Meldungen bei den jeweiligen Plattformen können helfen, die Verbreitung einzudämmen, sind aber nicht immer verlässlich. Zudem gibt es die Möglichkeit, rechtliche Schritte einzuleiten - beispielsweise durch eine Strafanzeige oder zivilrechtliche Forderungen. Beratungsstellen und spezialisierte Anwälte können helfen, den Überblick zu behalten und geeignete Maßnahmen zu ergreifen.

Unser Tipp: Setzen Sie auf eine möglichst anonyme Internetpräsenz und laden Sie wenn möglich nur wenig an Video- und Fotomaterial von sich und ihrem Gesicht hoch, um Missbrauch zu vermeiden. Oftmals nutzen die Täter Material, dass bereits öffentlich zugänglich ist. Eltern sollten komplett darauf verzichten, Fotos und Videos von ihren Kindern ins Netz zu stellen.

Mehr zu ähnlichen Themen können Sie hier lesen:

• Durch KI gestützte Betrugsmaschen auf dem Vormarsch
• Weinende Senioren: Das ist die fieseste Masche auf TikTok
• So schützen Sie Ihre Daten und Privatsphäre im Netz richtig

sfx/mlk/news.de