Snowflake étend sa plateforme Cortex AI avec Cortex Search et Cortex Analyst. Ces chatbots basés sur la technologie LLM peuvent répondre de manière fiable à des requêtes portant sur des données structurées ou non structurées.
Lors du Snowflake Summit, Snowflake présente deux extensions majeures de sa plateforme Cortex AI : Cortex Search et Cortex Analyst. Search est un module qui permet aux organisations de créer rapidement un chatbot qui comprend les données non structurées, tandis qu’Analyst répond aux requêtes dans les données structurées.
» Cortex Analyst traduit vos requêtes en SQL, que vous pouvez également consulter « , précise Christian Kleinerman, vice-président exécutif en charge des produits chez Snowflake. « Et avec Cortex Search, nous voulons aider les utilisateurs à créer facilement un chatbot pour les données textuelles. »
État de l’art
« Les deux solutions sont de pointe », explique Baris Gultekin, responsable de l’IA chez Snowflake, lors d’une démonstration des produits pour ITdaily. « Les chatbots donnent des réponses correctes et indiquent si quelque chose ne figure pas dans les données. Impossible donc d’avoir des hallucinations. Si une question n’est pas suffisamment claire, ils ne répondront pas avant que vous ne leur ayez fourni des informations supplémentaires. »
On peut configurer Cortex Search et Cortex Analyst via le nouveau AL & ML Studio. Tout d’abord, nous voyons Gultekin créer un nouveau bot avec Cortex Search. Cela ne prend que quelques clics de souris, par lesquels il spécifie les données à utiliser comme source. Dans ce cas, il s’agit d’un dossier contenant plusieurs centaines de PDF.
Réponses, mais pas toujours
Cortex Search analyse les données non structurées et extrait les données par OCR. Elles sont ensuite structurées et indexées. En quelques minutes, le processus est terminé et Gultekin peut poser des questions. « Comment installer Slack sur mon téléphone ? » Search donne une réponse claire et compréhensible à cette question, et fait référence au document source qui contient l’information. Mais en demandant d’installer Instagram, Cortex Search indique qu’il ne dispose pas de cette information.
Pour Cortex Analyst, Gultekin a préparé une démo préconfigurée. Dans cette démo, le chatbot a accès à des données structurées. Quand Gultekin demande quels sont les « meilleurs produits » d’une entreprise fictive, Analyst indique qu’il ne peut pas répondre à cette question sans informations supplémentaires, car le terme « meilleur » est un concept ambigu.
Spécialiste SQL
Une requête plus concrète fait le travail. Analyst traduit cette question en une requête SQL adaptée, en récupérant les données pertinentes, et tout cela en arrière-plan. Le chatbot utilise ensuite ces données pour formuler une réponse. « GPT-4 est déjà très performant en SQL », explique Gultekin. « Mais grâce à notre optimisation, Cortex Analyst est encore meilleur. » En arrière-plan, ce modèle fonctionne sur Mistral et Llama 3.
« Nous avons créé un chatbot si simple que tout le monde peut le faire », conclut Kleinerman. Pour illustrer cette idée, Snowflake invite un membre du public à travailler sur la grande scène pour la démo. Naturellement, comme le veut la tradition des démonstrations, les choses déraillent. En conclusion, tout le monde peut créer un chatbot, mais il est toujours utile que le chef de produit donne quelques conseils au cours du processus.
Cortex Search et Cortex Analyst seront bientôt disponibles en préversion publique.