Cet obstacle a été posé directement par un robot humanoïde du Centre d’innovation des robots humanoïdes de Pékin à l’ancienne Première ministre néo-zélandaise Jenny Shipley, l’une des participantes au panel.
« Mme Shipley, je voudrais vous poser une question… en tant que robots qui souhaitent véritablement servir l’humanité, que devrions-nous faire pour gagner la confiance de la société ? il a demandé.
En réponse à cela, Shipley a déclaré que la confiance dépendrait de la fiabilité, de limites claires et de la compréhension des besoins humains.
“J’espère qu’en tant que robot, vous pourrez me convaincre que vous êtes fiable, adaptable et responsable”, a-t-il déclaré.
“Je place l’espoir en vous pour un soutien fonctionnel, mais je veux que mon humanité dispose toujours d’un espace entretenu de manière respectueuse.”
Il a ajouté que les robots ne devraient pas franchir la limite dans des domaines tels que le jugement émotionnel.
“Je ne m’attends pas à ce que vous me divertissiez… Je ne pense pas que ce soit votre responsabilité”, a-t-il déclaré.
QUI EST RESPONSABLE ?
L’accent est également mis sur la responsabilité et la gouvernance.
Sam Daws, conseiller principal à l’Oxford Martin AI Governance Initiative, a déclaré que les décideurs politiques doivent équilibrer l’innovation et la protection, y compris la gestion des changements de main-d’œuvre, de l’utilisation des données et des risques pour la sécurité.
Il a cité Singapour comme exemple de la manière dont le cadre de gouvernance continue d’évoluer.
« Le cadre de gouvernance de Singapour pour l’IA agentique sera utile car nous anticipons l’impact d’un million de « homards » commençant à interagir dans le monde », a déclaré Daws. Lobster fait référence à OpenClaw, un agent d’IA open source actuellement populaire en Chine et dans diverses régions du monde.
Singapour a lancé le modèle AI Governance Framework for Agentic AI en janvier de cette année lors du Forum économique mondial de Davos, qui fournit des conseils aux organisations sur le déploiement en toute sécurité d’agents d’IA, en mettant l’accent sur la gestion des risques, la surveillance humaine et la responsabilité.