Crédit photo : Alexandre Chatov
Le chatbot IA d’Elon Musk empêche désormais les utilisateurs non payants de générer ou de modifier des images à la suite de la réaction mondiale suscitée par ses deepfakes sexualisés.
Grok, le chatbot IA d’Elon Musk sur X, la plateforme anciennement connue sous le nom de Twitter, ne permet plus aux utilisateurs non payants de générer ou de modifier des images. Cette décision intervient dans un contexte de réactions violentes à l’échelle mondiale contre les deepfakes sexualisés de personnes, en particulier de mineurs.
Les utilisateurs sur X ont utilisé Grok pour générer une vague de «demandes d’utilisateurs malveillants” pour modifier les images en transmettant des photos – comme celles de Taylor Swift lors d’un événement sur le tapis rouge ou d’une femme portant des vêtements serrés – au chatbot et en lui demandant de retirer les vêtements dans sa sortie. Des rapports avertissent que dans certains cas, des images sexualisées semblaient représenter des enfants. En conséquence, les gouvernements du monde entier ont condamné la plateforme, tandis que certains ont ouvert des enquêtes.
Désormais, Grok répond aux demandes de modification d’image des utilisateurs non payants avec un message indiquant que ces fonctionnalités “sont actuellement limitées aux abonnés payants. Vous pouvez vous abonner pour débloquer ces fonctionnalités”.
Les chercheurs notent que Grok accédait toujours à de telles demandes d’images, mais uniquement de la part d’abonnés premium, ceux avec une coche bleue qui paient 8 $ par mois pour accéder à des fonctionnalités comprenant des limites d’utilisation plus élevées de Grok. Il convient également de mentionner que les restrictions concernant ce que les abonnés payants peuvent générer sur Grok ne semblent pas avoir changé. Le Presse associée aussi confirmé Vendredi, Grok est toujours entièrement disponible pour les utilisateurs gratuits sur le site Web et l’application autonomes Grok.
Les restrictions imposées aux utilisateurs non payants n’ont cependant pas impressionné les régulateurs européens. Thomas Regnier, porte-parole de la Commission exécutive de l’Union européenne, a déclaré que la question fondamentale n’avait pas changé. La Commission avait précédemment qualifié le comportement de la plateforme d’« illégal » et d’« épouvantable ».
“Abonnement payant ou abonnement gratuit, nous ne voulons pas voir de telles images. C’est aussi simple que cela”, explique Régnier.
Geraint Ellis, porte-parole du Premier ministre britannique Keir Starmer, a également déclaré que les changements apportés à Grok n’étaient « pas une solution ».
“C’est insultant pour les victimes de la misogynie et de la violence sexuelle”, a déclaré Ellis, faisant remarquer que la plateforme de Musk “peut évoluer rapidement quand elle le souhaite”, et les changements apportés à Grok ne font que renforcer ce fait. “Nous attendons une action rapide.”
Notamment, Starmer a menacé jeudi de poursuites judiciaires non précisées contre l’ancien Twitter, affirmant qu’ils devaient « se ressaisir et supprimer ce matériel ».
Les contenus deepfakes sexuellement explicites non autorisés ont explosé depuis l’aube de genAI, et Grok est loin d’être le seul contrevenant, mais les chercheurs affirment qu’il est de loin le plus gros contrevenant.
Depuis le lancement de Grok en 2023, Musk a présenté le chatbot comme une « alternative plus audacieuse » à ses concurrents. Le générateur d’images du robot, lancé l’été dernier, comprend un « mode épicé » qui peut produire du contenu pour adultes. Les images de Grok sont également visibles publiquement, ce qui peut donc propager des deepfakes comme une traînée de poudre.
Leave a Reply