Selon une enquête menée par The Guardian, ChatGPT Search peut fournir des informations erronées en raison de ce que l’on appelle les “injections rapides”.
Le nouveau moteur de recherche de ChatGPT, ChatGPT Search, semble être susceptible d’être manipulé, selon une enquête menée par The Guardian. Cela est dû à ce que l’on appelle les “prompt injections”, où des instructions cachées sur des pages web influencent les réponses. ChatGPT Search a été mis à la disposition de tous les utilisateurs il y a quelques jours seulement.
Injections rapides
L’enquête du Guardian indique que le moteur de recherche semble susceptible d’être manipulé. Plus précisément, les réponses pourraient être influencées par des “injections d’invite”. Cette technique utilise des instructions cachées sur les pages web pour manipuler les réponses de ChatGPT. Cela pourrait affecter la manière dont ChatGPT résume les pages web et entraîner l’affichage d’informations incorrectes.
lire aussi
OpenAI met la SearchGPT à la disposition de tous
Mais ce n’est pas tout. Selon The Guardian, des acteurs malveillants peuvent également utiliser cette vulnérabilité pour diffuser des codes malveillants. Le risque lié aux grands modèles de langage (LLM) a été mis en évidence à plusieurs reprises par des experts en sécurité. Les réponses doivent être considérées avec prudence.