Crédit photo : TikTok
TikTok teste un outil opt-in qui recherche les ressemblances avec l'IA et permet aux créateurs de les signaler à l'entreprise. Les premiers tests sont limités à quelques créateurs basés aux États-Unis.
TikTok a commencé à tester une fonction opt-in qui recherche les ressemblances générées par l'IA et permet aux créateurs de les signaler à l'entreprise. D'abord repéré Selon le consultant en médias sociaux Matt Navarra, ces tests sont actuellement limités à « certains » créateurs aux États-Unis, selon le porte-parole américain de TikTok, Zachary Kizer, dans un communiqué. déclaration à Le bord.
Les créateurs qui souhaitent essayer l'outil et font partie du pool de tests doivent d'abord vérifier leur identité auprès d'une société appelée Jumio. Le processus implique une analyse de selfie en temps réel et une vérification d’identité. Selon Kizer, “TikTok ne conserve pas les documents d'identité, et les informations faciales ne sont utilisées que pour faire correspondre la ressemblance et pour aider à identifier les utilisations potentielles non autorisées de la ressemblance d'un créateur.”
Une fois vérifié, l'outil de TikTok recherchera le contenu généré par l'IA qui utilise potentiellement l'image du créateur, et le créateur pourra examiner les visites possibles et signaler tout contenu ou compte non autorisé.
Même si les utilisateurs avisés pourraient s'étonner du fait que ce test est limité à TikTok US, qui est dirigé par une coalition de grandes entreprises technologiques et d'alliés reconnus de Trump, TikTok n'est pas la seule plateforme de médias sociaux à accélérer ses processus de détection des deepfakes. YouTube récemment déployé son propre outil d'IA de numérisation de visage, qui n'était initialement disponible que pour certains utilisateurs, tels que les journalistes et les hommes politiques.
Le moment est venu pour de tels outils, étant donné la prolifération de deepfakes assistés par l’IA sur les réseaux sociaux. Sur X d'Elon Musk, anciennement Twitter, le chatbot IA Grok était utilisé pour générer des deepfakes non consensuels déshabillant numériquement des femmes et des enfants.
En particulier, les faux nus de célébrités comme Taylor Swift ont fait sensation et ont conduit l'entreprise à équiper Grok de garde-fous, mais cela n'a pas suffi à satisfaire les organismes de surveillance de la vie privée dans l'Union européenne.
La semaine dernière, la startup IA de Musk xAI a poursuivi un homme de Caroline du Sud qui a été arrêté plus tôt cette année pour exploitation sexuelle de mineurs. Selon le dossier de xAI, l'homme a abusé de Grok pour créer du matériel pédopornographique, violant ainsi les conditions d'utilisation de l'entreprise. Il s'agit d'une décision clairement conçue pour éloigner l'entreprise de toute responsabilité potentielle associée à une mauvaise utilisation de ses outils d'IA.
Leave a Reply