JAKARTA : Le service d’intelligence artificielle Grok sur la plateforme de médias sociaux X ou Twitter appartenant au magnat de la technologie Elon Musk a été temporairement bloqué en Indonésie.
La résiliation de l’accès a été effectuée par le ministère de la Communication et du Numérique sous la direction du ministre de la Communication et du Numérique Meutya Hafid, faisant de l’Indonésie le premier pays à prendre des mesures pour bloquer cette fonctionnalité de l’IA.
Ce blocage a été effectué suite à la diffusion généralisée de faux contenus immoraux ou deepfakes sur X.
Comme l’a rapporté Antara, samedi (10/1), la technologie Grok permet la création et l’édition d’images sexuelles sans consentement, y compris des visualisations de femmes et d’enfants dans des poses sexuelles.
Ce contenu deepfake est considéré comme attaquant les groupes vulnérables, en particulier les femmes et les enfants, qui ont été la cible d’exploitation dans l’espace numérique.
Le ministre de la Communication et du Numérique, Meutya Hafid, a souligné que la pratique consistant à créer des deepfakes sexuels non consensuels constitue une grave violation des droits de l’homme et de la dignité des citoyens.
“Afin de protéger les femmes, les enfants et l’ensemble de la communauté du risque de faux contenus pornographiques produits à l’aide de la technologie de l’intelligence artificielle, le gouvernement à travers le ministère des Communications et du Numérique a temporairement coupé l’accès à l’application Grok”, a déclaré Meutya.
“Le gouvernement considère la pratique des deepfakes sexuels non consensuels comme une grave violation des droits de l’homme, de la dignité et de la sécurité des citoyens dans l’espace numérique”, a-t-il poursuivi.
KOMDIGI DEMANDE UNE EXPLICATION
Outre le blocage, Komdigi a également envoyé une demande officielle à la plateforme X pour fournir des éclaircissements. Le gouvernement exige des explications concernant l’atténuation des impacts négatifs et des failles de sécurité à Grok qui permettent la création de contenus interdits.
« Le ministère de la Communication et du Numérique a également demandé à la Plateforme
Cette mesure prise par l’Indonésie a retenu l’attention internationale. Un certain nombre de gouvernements et de régulateurs mondiaux, tels que la Malaisie, l’Union européenne et la Suède, ont déjà condamné la pratique consistant à créer des deepfakes sexuels et ont ouvert des enquêtes.
La Malaisie aurait même suivi l’Indonésie en bloquant Grok.
Citée par The Independent, dimanche (11/1), xAI, la startup derrière Grok, a admis qu’il y avait une défaillance dans le système de sécurité qui permettait la diffusion de contenus à caractère sexuel, y compris des visualisations d’enfants légèrement vêtus.
xAI a déclaré qu’il limitait les fonctionnalités de création et d’édition d’images aux clients payants uniquement, tout en comblant les lacunes en matière de sécurité.
Pendant ce temps, Elon Musk via la plateforme X a déclaré que quiconque utilise Grok pour créer du contenu illégal sera confronté aux mêmes conséquences que s’il avait téléchargé le contenu directement.