Nuurrianti a ajouté qu’une solution plus crédible nécessite « des garde-fous robustes qui s’appliquent à tous les points d’accès », ainsi que des limites claires sur la manipulation des images, et pas seulement des filtres étroits basés sur des catégories de vêtements.
Pendant ce temps, Elina du Carnegie Endowment for International Peace a déclaré que le blocage de l’accès de Grok en Malaisie et en Indonésie était une « mesure temporaire » ciblant l’offre et non la demande.
“Tant qu’il y aura une demande pour ce type de services, la recherche du profit dans les produits d’IA grand public encouragera toujours les particuliers et les entreprises à en profiter”, a-t-il déclaré à CNA.
D’un autre côté, un certain nombre d’utilisateurs de Grok estiment que l’interdiction ne résoudra pas la racine du problème.
Dinesh Nair, un Malaisien qui utilise Grok pour faire des recherches et rechercher des informations sur divers sujets, considère le blocage de MCMC comme une réaction excessive.
Le technologue de 56 ans a déclaré que le principal problème réside dans ceux qui utilisent Grok à mauvais escient pour produire des images obscènes.
“Ce devrait être l’individu qui a utilisé Grok pour déshabiller quelqu’un, et non la plateforme”, a-t-il ajouté.
Nair a déclaré à CNA que l’interdiction de Grok est relativement facile à contourner, car le blocage ne s’applique qu’à certains serveurs appartenant à des fournisseurs de services en Malaisie et peut être contourné en passant à des serveurs publics accessibles via Google ou Cloudflare.
En août de l’année dernière, la MCMC a déclaré que « des mesures peuvent être prises contre toute personne en vertu de l’article 233 de la loi 588 pour avoir utilisé abusivement des applications ou des services de médias sociaux pour créer et diffuser du contenu faux ou offensant, dans le but d’ennuyer, de harceler ou de nuire à autrui ».
Concernant les raisons pour lesquelles certains pays n’ont pas interdit Grok, les experts affirment que certains gouvernements pourraient choisir de surveiller les développements ou d’adopter une approche discrète avec les plateformes associées.
Les pays sont également en train de renforcer les capacités juridiques et techniques nécessaires pour réglementer efficacement l’IA générative, a déclaré Nuurrianti.
“L’utilisation et la visibilité comptent également. Si Grok n’a pas déclenché une affaire nationale importante, le gouvernement peut choisir de surveiller les développements ou d’interagir avec la plateforme à huis clos”, a déclaré Nuurrianti à CNA.
Il a ajouté que la controverse Grok montre les limites des règles relatives aux contenus générés par l’homme face à des systèmes d’IA capables de produire massivement et rapidement des matières dangereuses.
« La réponse à Grok, tant en Asie du Sud-Est qu’ailleurs, reflète une frustration croissante face à l’autogestion volontaire et une volonté de tester une réponse juridique plus solide. »
Reportage supplémentaire d’Aqil Haziq Mahmud.