Stack Overlow freine les réponses générées par l’IA.

Stack Overlow interdit pour l’instant les réponses générées par le chatbot IA ChatGPT. Les réponses étaient trop souvent fausses.

Stack Overlow interdit les réponses générées par ChatGPT. Ce chatbot d’IA permet aux utilisateurs de publier facilement des réponses qui semblent correctes mais qui, en y regardant de plus près, sont incorrectes. Le site web est à peu près la norme pour les programmeurs qui veulent poser des questions aux autres membres de la communauté. Il faut donc surveiller la qualité des réponses.

Néanmoins, Stack Overflow indique que l’interdiction est temporaire. Le site s’engage auprès de la communauté à la recherche d’une réponse à long terme.

Nouveau chatbot

ChatGPT est un chatbot construit par OpenAI sur la base du modèle GPT-3.5. Il s’agit principalement d’un générateur de texte. Le robot ChatGPT est disponible pour le grand public en tant que démo depuis la semaine dernière. L’objectif du modèle est de générer des réponses plausibles. À ce titre, ChatGPT crée des réponses intéressantes, des poèmes et des chansons, par exemple, tant que le contenu est libre. Si vous posez des questions sur la vie d’un personnage connu, ChatGPT inventera une histoire qui semble intéressante mais qui n’est pas basée sur la vérité.

Le chatbot traite le code de la même manière. Le bot est suffisamment intelligent pour avoir une conversation technique et générer des lignes de code, mais là encore, l’objectif est la crédibilité plutôt que l’exactitude. Cela signifie que les résultats sont souvent erronés, mais que cela n’est pas toujours apparent au premier abord.

Trop de modération

Les experts doivent lire le code de manière assez approfondie pour détecter les erreurs, alors qu’il est très facile de demander les réponses de ChatGPT à poster. Il n’y a donc plus d’équilibre entre le tsunami d’erreurs et la capacité de charge des modérateurs. L’interdiction est une conséquence de cela. Les utilisateurs qui obtiennent des réponses via les parties de l’IA seront dorénavant sanctionnés pour cela. Outre la qualité du code, de nombreuses questions juridiques et éthiques se posent autour du code généré par l’IA.

newsletter

Abonnez-vous gratuitement à ITdaily !
Category(Required)
Consent(Required)
This field is for validation purposes and should be left unchanged.
retour à la maison