Selon Verma, l’ensemble de ce processus en coulisses, depuis l’invite, la vérification, la réflexion, l’exécution de code jusqu’à l’utilisation de logiciels externes, consomme plus de jetons.
Sur la base des estimations d’Anthropic, le coût moyen des jetons d’IA pour un développeur de logiciels dans une entreprise utilisant Claude Code est de 13 $ US (232 700 Rp) par jour, soit environ 150 $ US. 250 (Rp. 2,7 millions-Rp. 4,5 millions) par mois et par développeur, selon un rapport de Business Insider en avril.
Pour une grande entreprise technologique employant 500 développeurs, les coûts des jetons d’IA sont estimés entre 75 000 dollars américains (1,34 milliard de roupies) à 125 000 dollars américains (2,24 milliards de roupies) par mois, ou 900 000 dollars américains (16,1 milliards de roupies) à 1,5 million de dollars américains (26,9 milliards de roupies) par an, avant réductions ou contrats spéciaux pour les entreprises clientes.
La plupart des fournisseurs d’IA offrent des réductions aux entreprises clientes.
Cependant, le montant de la remise est généralement négocié à huis clos et dépend du volume d’utilisation, de la durée du contrat, du modèle utilisé, des besoins d’assistance client et de l’inclusion ou non des services cloud.
Selon les médias, OpenAI offre des réductions de 10 à 20 % à certaines entreprises clientes qui signent des contrats ou des packages de services à long terme.
Verma a ajouté que l’Asie « a le potentiel d’être la première région où l’IA est véritablement utilisée en masse à l’échelle industrielle ». Selon lui, des pays comme l’Inde, l’Indonésie, la Malaisie et les Philippines possèdent « de vastes secteurs de services, de nombreux développeurs et sont très sensibles aux prix ».
Si les coûts des jetons d’IA en Chine rendent le déploiement de l’IA moins cher, les entreprises asiatiques pourraient déployer l’IA plus rapidement dans les centres d’appels, les services sur le terrain, l’éducation, la logistique et les opérations financières que si elles devaient payer des prix plus élevés auprès des fournisseurs occidentaux, a-t-il déclaré.
Cependant, Wong a déclaré que les entreprises en Inde et en Asie du Sud-Est ne devraient pas juger le coût de l’IA uniquement par le prix par million de jetons.
Les modèles d’IA formés pour gérer efficacement le mandarin ou l’anglais peuvent utiliser plus de jetons, et donc coûter plus cher, lors du traitement de langues telles que le tamoul, le bahasa indonésien ou le vietnamien.
Selon Wong, un modèle qui semble 50 % moins cher peut en réalité être plus coûteux à utiliser s’il fonctionne mal dans le langage opérationnel d’une entreprise, nécessite une itération ou nécessite un examen plus humain.
Il a ajouté qu’une mesure plus appropriée est le « coût par résultat réussi », c’est-à-dire le coût total pour obtenir un résultat correct et utilisable.
QUI A GAGNÉ LE CONCOURS D’ADOPTION DE L’IA DANS LE MONDE DES AFFAIRES ?
Des experts ont déclaré à CNA que la Chine est désormais en train de devenir un challenger plus important que les États-Unis dans la course à l’IA grâce à la baisse des coûts symboliques.
Selon un rapport du Financial Times, l’avantage en termes de coûts des entreprises chinoises d’IA vient de prix de l’énergie moins élevés ainsi que de modèles plus efficaces, comprenant un mélange d’architectures expertes.
Le mélange d’experts, ou MoE, est une architecture d’IA rendue populaire par le modèle R1 de DeepSeek l’année dernière. Cette architecture utilise plusieurs sous-modèles personnalisés au sein d’un seul modèle d’IA, mais active uniquement le sous-modèle le plus pertinent pour chaque invite. De cette façon, les coûts informatiques peuvent être réduits.
Considérez le modèle du MoE comme une équipe composée de médecins, d’avocats et d’ingénieurs. Seuls les experts les plus compétents répondront, tandis que les autres resteront inactifs.
Leave a Reply