Crédit photo : Rihanna pour Fenty Beauty / CC par 3.0
Les escrocs en ligne utilisent des deepfakes d’IA de célébrités comme Taylor Swift et Rihanna pour inciter les utilisateurs de TikTok à s’inscrire à de faux programmes de récompenses.
Au cours du mois dernier, TikTok a connu une augmentation des vidéos de célébrités générées par l’IA, notamment Taylor Swift, Rihanna et Kim Kardashian, encourageant les utilisateurs à s’inscrire à des programmes de récompenses frauduleux ou à d’autres « services malveillants ». Heureusement, les célébrités synthétiques ne sont pas très convaincantes et présentent de nombreux mouvements faciaux étranges et un son asynchrone, mais cela n’empêche pas les escrocs de s’attaquer à l’hameçon.
Selon à Fuites de copieoutre les publicités frauduleuses, les deepfakes incluent également des publicités hypersexualisées faisant la promotion d’échanges non consensuels de visage et de corps, ou « déshabillage » numérique. Des exemples de clips incluent une Taylor Swift modifiée numériquement annonçant une fonctionnalité dite « TikTok Pay », et une Rihanna modifiée de la même manière proposant un programme de vues contre récompenses.
Habituellement, les célébrités apparaissent dans des interviews sur le tapis rouge, dans des podcasts ou des talk-shows, où il est plus facile pour les mauvais acteurs de prendre de vraies images et de les manipuler à l’aide de l’IA. Les clips ont des voix réalistes, ce qui incite plus facilement les utilisateurs à croire que les images sont légitimes.
De nombreux clips utilisent la marque TikTok et ajoutent des filtres texturés, apparemment pour contourner les outils de détection d’IA de la plateforme. Si les utilisateurs cliquent sur les vidéos, ils seront redirigés vers des sites tiers qui sollicitent leurs informations personnelles identifiables.
Le moment est remarquable, puisque Taylor Swift a récemment déposé des marques pour protéger sa voix et son image contre toute utilisation abusive de l’IA à la suite d’incidents répétés avec des deepfakes. Mais le problème est répandu et ne montre aucun signe de ralentissement.
Meta a été récemment frappé par un recours collectif déposé au nom de la Consumer Federation of America avec des allégations selon lesquelles l’entreprise aurait profité d’escroqueries publicitaires sur Facebook comme celles qui prolifèrent sur TikTok. De même, la FTC a noté que les publicités frauduleuses sont l’une des principales méthodes utilisées pour promouvoir les escroqueries liées aux achats sur les réseaux sociaux, et que l’IA ne fait qu’aggraver ce problème.
Leave a Reply