ChatGPT aide les pirates à développer des malwares

hackers coderen chatgpt

Le tapage autour du ChatGPT d’OpenAI se trouve n’être pas sans risque. Les pirates ont découvert comment abuser de l’outil pour écrire des codes malicieux et rédiger des e-mails d’hameçonnage.

Depuis qu’OpenAI a ouvert une démo de ChatGPT au grand public fin novembre, le climat est plutôt agité autour de l’outil d’IA. La popularité de ChatGPT soulève également de nombreuses questions éthiques, qui s’avèrent ne pas être du tout injustifiées. La société de sécurité Check Point Research beschrijft hoe ook cybercriminelen de troeven van de chatbot hebben ontdekt.

ChatGPT s’occupe de toutes sortes de tâches, comme la rédaction d’e-mails et la programmation. Pour la cyberattaque typique, ce sont deux compétences très utiles. Dans un blog de recherche, Check Point partage certains messages sur des forums du Dark Web dans lesquels des pirates amateurs partagent du code et des scripts qu’ils ont générés à l’aide de ChatGPT.

check point research chatgpt
Source : Check Point Research

Aide aux pirates

Bien que le code généré par l’IA ne soit pas toujours de bonne qualité, ChatGPT peut aider les pirates inexpérimentés à apprendre à développer des logiciels nuisibles plus rapidement de cette manière. Dans l’un des messages partagés par CheckPoint, un hacker indique également que ChatGPT lui a donné une bonne idée pour écrire le script.

Cela correspond aux conclusions précédentes des chercheurs. En décembre, Check Point a réussi, avec l’aide de ChatGPT et de Codex, un autre outil d’écriture de code publiquement disponible d’OpenAI, à développer un e-mail d’hameçonnage contenant un fichier malware sans avoir à écrire lui-même une seule ligne de code.

chatgpt phishing
ChatGPT génère des e-mails d’hameçonnage convaincants. Source : Check Point Research

En théorie, OpenAI interdit l’utilisation de ses outils à des fins criminelles. Pourtant, en variant les termes des requêtes, les chercheurs ont réussi à obtenir un résultat des deux outils. Ils ont reçu tout juste un avertissement indiquant que le contenu violait les conditions d’utilisation. Les pirates chercheront donc aussi comment rendre ChatGPT et consorts complices.

ChatGPT est-il une menace pour la cybersécurité ?

Check Point ne tient pas à dire ce genre de détail pour l’instant. Il est beaucoup trop tôt pour prédire si les attaquants utiliseront aussi efficacement les codes d’IA dans des situations réelles. Check Point note également que si l’IA peut aider les attaquants à écrire du code, elle pourrait éventuellement aussi aider à se protéger contre les cyberattaques.

La nouvelle ne compromettra donc pas immédiatement la poursuite de l’intégration de l’intelligence artificielle. Microsoft voit un grand intérêt dans la technologie d’OpenAI, dans laquelle elle a également investi, et souhaite intégrer les fonctionnalités de ChatGPT dans Office et le moteur de recherche Bing.

newsletter

Abonnez-vous gratuitement à ITdaily !
Category(Required)
Consent(Required)
This field is for validation purposes and should be left unchanged.
retour à la maison