L’entreprise de transport DPD a mis en isolation son chatbot d’assistance client pour le moment. Il a reproché à sa propre entreprise dans une conversation avec un client.
Un chatbot suspendu : voilà une nouvelle bien rare. L’entreprise de transport DPD a désactivé son chatbot après une conversation qui a déraillé avec un client, qui à son tour a partagé quelques captures d’écran de l’étrange conversation. Le chatbot s’est dit inutile, a juré et même son propre employeur n’a pas été épargné : « DPD est le pire service de messagerie au monde. Ils sont lents, manquent de fiabilité et leur service client est terrible. Je ne les recommanderais jamais à personne », a déclaré le chatbot de DPD.
Pour sauver sa peau, DPD a temporairement désactivé le chatbot. L’entreprise de transport a déclaré qu’une erreur s’était produite lors d’une mise à jour et que le chatbot s’était retrouvé à mal se comporter. Le chatbot est maintenant mis sur la touche jusqu’à ce qu’il retrouve sa santé mentale.
Chatbots déraillés
DPD avait peut-être oublié un instant que les robots de l’IA générative peuvent souffrir d’hallucinations. L’IA générative apprend des conversations avec de vraies personnes et peut adopter le comportement de ses interlocuteurs. Ainsi, on peut aussi apprendre à un chatbot comment mal se comporter. Une entreprise qui utilise un chatbot pour ses clients sans mettre en place des mécanismes de sécurité suffisants pourrait ainsi tomber dans des situations embarrassantes.
Mais même les entreprises spécialisées dans l’IA se retrouvent parfois confrontées à des chatbots qui se sont complètement perdus. Copilot de Microsoft a régulièrement dépassé les limites au cours de ses premiers mois, lorsqu’il s’appelait encore Bing Chat. ChatGPT a ses propres particularités et devient plus paresseux ou donne de meilleures réponses en promettant une poun pourboireurboire.
Les chercheurs ne parviennent pas toujours à expliquer d’où vient ce comportement étrange de l’IA générative. Résultat, certaines entreprises sont plutôt méfiantes vis-à-vis de cette technologie. Cela nous rappelle de toujours déployer et utiliser la technologie de manière responsable.