In einem in den sozialen Medien verbreiteten Video spricht das Bild einer der größten Stimmen der brasilianischen Musik in einem Interview über seine Intimität, deckt sexuelle Probleme auf und empfiehlt schließlich die Behandlung seiner erektilen Dysfunktion. „Ich fühlte mich wie ein 18-jähriger Junge“, wirbt das manipulierte Video von Roberto Carlos. Ähnliche Produkte werden mit gefälschten Gesichtern von Sänger Solimos, Spieler Ronaldo und Arzt Tracio Varella verkauft.
In einer anderen Anzeige erwähnt ein Funk-Sänger mit mehr als 13,9 Millionen Followern eine schnelle und einfache Möglichkeit, Geld zu verdienen: „Was jetzt beliebt ist, ist U-Bahn-Geld“, sagte MC Ryan. Aber das Bild ist falsch.
Von Versprechungen über ein Spiel, das Spieler zu Millionären machen wird, bis hin zu Werbung für Wundermittel gegen Haarausfall, erektile Dysfunktion und Falten – Fälle von realistischen Simulationen, die durch künstliche Intelligenz (KI) erstellt wurden, erreichen brasilianische Gerichte. Sie zeigen, wie soziale Netzwerke sie nicht erkennen und aus der Luft entfernen.
Einerseits fungieren KI-„Klone“ als Köder für Social-Media-Nutzer. Andererseits wird beobachtet, dass Persönlichkeiten des öffentlichen Lebens wahllos ihre Bilder und Stimmen nutzen, um Produkte und Dienstleistungen zu verkaufen. Das daraus resultierende Material, das Gesichter „nachbildet“, wird Deepfake genannt, was nicht neu ist, aber mit der Popularisierung von KI-Tools, die Inhalte generieren können, an Dynamik gewonnen hat.
Algorithmen
Es gibt mindestens 130 Ergebnisse bezahlter Posts für das Subway Money-Spiel auf Instagram, WhatsApp und der Werbeplattform des Facebook-Inhabers Metta, die verspricht, Spieler sofort „ohne Bürokratie und ohne Gebühren“ zu bezahlen. Seit mindestens Dezember letzten Jahres sind in den Posts Deep Fakes bekannter Persönlichkeiten wie der Influencerin Virginia und der Schauspielerin Mel Mia und MC Ryan zu sehen. Wenn sie in der Luft platziert werden, erhöhen sie den Umsatz des Metas.
Ähnliche Videos kursieren auch auf TikTok.
Während Sportwerbung die Gesichter bekannter Persönlichkeiten junger Menschen in den Mittelpunkt stellt, werden in der Werbung für Medikamente und medizinische Behandlungen Bilder von Menschen verwendet, die alle Generationen ansprechen. In kurzen Videos verkaufen die Deepfakes von Drauzio Varella, Ana Maria Braga, Susana Vieira, Paolla Oliveira und Eliana die Geheimnisse einer „wunderrosa Kapsel“ für junge Menschen. Alle von ihnen haben digital nachgebildete Stimmen.
Die Artikel sind in der Regel kurz und dauern zwischen 30 Sekunden und einer Minute. Und sie tragen verlockende Botschaften: „Sie haben Ihre Ehe fast verloren“, „Das Geheimnis des Künstlers zur Beseitigung von Erschlaffung, Falten und mehr!“
Erweiterte Anzeigen
Durch die Umgehung der Netzwerksicherheitseinstellungen werden geboostete Anzeigen, die Deepfakes verbreiten, noch wirkungsvoller. Dies liegt daran, dass Monetarisierungsplattformen die persönlichen Daten und Browserdaten der Benutzer mit Algorithmen kombinieren, um die Öffentlichkeit zu segmentieren und die Wahrscheinlichkeit zu erhöhen, auf einen bestimmten Beitrag zu klicken, erklärt Fernando Ferreira, Arzt für Buchhaltungsintelligenz und Forscher am NetLab der UFRJ.
„Wenn wir über relevante Anzeigen sprechen, hilft es Unternehmen, ihre Zielgruppe zu finden. Das Problem ist, dass Betrüger auch solche Tools nutzen.“
Ferreira weist außerdem darauf hin, dass Betrüger häufig temporäre Konten und Websites nutzen, um die Nachverfolgung zu erschweren. Zu den Betrugsfällen zählen auch der Verkauf nicht existierender Kurse und Produkte sowie die Verbreitung gefälschter E-Commerce-Seiten, sagt der Forscher.
João Finamor, Professor für digitales Marketing an der ESPM, sagt, dass das Phänomen auf weniger regulierten Plattformen an Dynamik gewonnen hat. Während Meta die Zuordnung aktiver Anzeigen ermöglicht, bieten X (ehemals Twitter) und TikTok diese Option nicht an. Er warnt außerdem davor, dass diese Inhalte in Gruppen über Messaging-Apps verbreitet werden.
In ihren eigenen sozialen Netzwerken warnen einige „Klon“-Menschen vor missbräuchlichen Inhalten. Aber es gibt diejenigen, die vor Gericht gehen, weil Plattformen es nicht schaffen, Dinge zu beseitigen.
Im April gewann der Podcaster und YouTuber Igor Rodrigues Coelho, bekannt als Igor 3K von Flow Podcast, ein positives Gerichtsurteil gegen Facebook, sodass Deepfakes, die er angeblich für eine betrügerische Finanzdienstleistung beworben hatte, unter Strafe entfernt werden konnten. Die Entscheidung von Ana Paula Messina Furlan vom 1. Gericht des Besonderen Zivilgerichts von São Paulo erkannte das Versagen der Website an.
Dabei erklärten die Anwälte, dass der Moderator erfolglos versucht habe, über offizielle Facebook-Kanäle Kontakt zu ihm aufzunehmen. Er ging vor Gericht und machte ihm Imageschäden und Betrug gegenüber Flow-Nutzern vor.
Verantwortlich
Nach dem Marco Civil da Internet sind soziale Netzwerke vor der Haftung für die Verbreitung fremder Inhalte – einschließlich Deepfakes und betrügerischer Köder – geschützt. Artikel 19 besagt, dass Anbieter nur dann zivilrechtlich haftbar gemacht werden können (mit Bußgeldern oder Schadensersatz), wenn sie illegale Inhalte nicht innerhalb einer bestimmten Frist nach einer klaren und konkreten gerichtlichen Anordnung entfernen oder sperren.
Ab 2021 sieht das Strafgesetzbuch die Strafe für Unterschlagung (die Straftat, jemanden zu betrügen, um durch Betrug oder Täuschung finanzielle oder materielle Vorteile zu erlangen) strenger an, wenn sie im digitalen Umfeld angewendet wird.
Seit Dezember 2023 reicht Drauzio Varella eine Zivilklage gegen Facebook ein und fordert Protokolldaten, die dabei helfen sollen, Einzelpersonen oder Gruppen zu identifizieren, die Deepfakes verbreiten. In der Klage machen die Staatsanwälte geltend, dass es sich bei den Betrügereien um Straftaten gegen die öffentliche Gesundheit handeln könne, da es dabei um Drogen gehe.
Im April reichte der Arzt beim Staatsministerium von São Paulo eine Beschwerde gegen Meta ein und argumentierte, dass das Unternehmen auch für die Ausstrahlung der Anzeigen verantwortlich sei.
