Crédit photo : Daniel Herron
Meta retire son outil d'image controversé Instagram AI, qui a automatiquement activé les photos de tous les comptes publics, quelques jours seulement après son lancement.
Suite à d'intenses réactions négatives concernant les problèmes de confidentialité, Meta a déjà débranché son nouvelle fonctionnalité d'image Instagram AImoins d'une semaine après son lancement.
« Notre intention était de fournir un outil créatif utile et de permettre aux utilisateurs de contrôler si leur contenu public pouvait être référencé de cette manière. » dit Méta. “Nous avons entendu des commentaires selon lesquels cette fonctionnalité n'avait pas atteint son but et n'était donc plus disponible.”
Meta a lancé mardi Muse Image, son premier générateur d'images IA conçu pour rivaliser avec ChatGPT Images 2.0 d'OpenAI et Nano Banana 2 de Google. La nouvelle fonctionnalité a été intégrée à Instagram et automatiquement activée dans tous les comptes publics, ce qui signifie que n'importe qui peut simplement marquer un nom d'utilisateur dans une invite d'IA et générer une image en utilisant sa ressemblance.
Pire encore, les comptes Instagram ne seraient informés d'aucun contenu créé à l'aide de l'outil d'IA, de sorte que d'autres utilisateurs pourraient manipuler les vidéos et les photos d'un utilisateur à leur insu. Plus inquiétant encore, le seul moyen de se désinscrire était de désactiver manuellement la fonctionnalité dans les paramètres, ce qui nécessitait bien sûr de le savoir en premier lieu.
Un utilisateur de l'ancien Twitter a qualifié l'outil de « diabolique », se plaignant de ne même pas pouvoir désactiver la fonctionnalité. “Il le réactive automatiquement. Je ne peux pas le désactiver à moins de rendre le compte privé.”
Les utilisateurs ont été particulièrement contrariés par l’inscription automatique et beaucoup ont juré de cesser complètement d’utiliser les applications Meta comme Facebook, Instagram et WhatsApp. « Si une fonctionnalité nécessite de récolter mon identité, elle ne devrait jamais commencer par un « oui » », a écrit un critique.
Des célébrités comme la star de « Hacks » Hannah Einbinder et même SAG-AFTRA ont parlé de cette fonctionnalité.
“Avec les dangers des répliques numériques non consensuelles bien connus de tous, une fonctionnalité qui encourage ce comportement n'est pas judicieuse”, dit un porte-parole de SAG-AFTRA après que Meta ait abandonné la fonctionnalité. “Nous apprécions son abandon. C'est la chose responsable à faire.”
Mais Meta n’est pas la première entreprise à faire face à des réactions négatives à cause d’une fonctionnalité aussi mal conçue. AI Grok d'Elon Musk a publié un outil similaire sur X, anciennement Twitter, plus tôt cette année. Sa société d'IA fait toujours face à un recours collectif ainsi qu'à une enquête européenne sur la protection de la vie privée après Grok. a permis aux utilisateurs de « nudifier » des images de vraies femmes et les enfants.