ChatGPT est un révolutionnaire artificial intelligence technologie qui gagne rapidement en popularité dans le monde du traitement du langage naturel, de la science des données et de l'apprentissage automatique. L'outil d'IA, développé par OpenAI, a gagné du terrain principalement en raison de sa capacité à converser avec les humains plus naturellement que les autres systèmes d'IA.
Comme toute autre technologie, ChatGPT alimenté par l'IA peut être utilisé pour le bien et le mal sans limite. Réalisant le potentiel de l'outil, les cybercriminels l'ont déjà utilisé pour tirer parti de l'outil ChatGPT existant pour leurs attaques.
Qu'est-ce que ChatGPT ?
ChatGPT est un chatbot alimenté par l'IA lancé par OpenAI en novembre 2022. Selon OpenAI, ChatGPT est affiné à partir d'un modèle de la série GPT-3.5, qui a terminé sa formation début 2022.
"ChatGPT est un modèle frère d'InstructGPT, qui est formé pour suivre une instruction dans une invite et fournir une réponse détaillée", explique OpenAI.
Dans une publication récente rapport, cybersecurity La société Check Point Research (CPR) révèle que plusieurs grandes communautés de piratage souterraines ont déjà montré les premiers cas de cybercriminels utilisant OpenAI pour développer des outils malveillants.
"Comme nous le soupçonnions, certains cas ont clairement montré que de nombreux cybercriminels utilisant OpenAI n'ont aucune compétence en développement", révèle le rapport.
Check Point Research (CPR) a expliqué quelques cas, indiquant l'intérêt croissant des cybercriminels pour ChatGPT.
1 cas:
Le 29 décembre 2022, un fil de discussion nommé "ChatGPT - Avantages des logiciels malveillants" est apparu sur un forum de piratage clandestin populaire.
Selon l'analyse de CPR, l'éditeur du fil a révélé qu'il expérimentait ChatGPT pour recréer des souches de logiciels malveillants et des techniques décrites dans des publications de recherche et des articles sur des logiciels malveillants courants.
« Notre analyse du script confirme les affirmations du cybercriminel. Il s'agit en effet d'un voleur de base qui recherche 12 types de fichiers courants (tels que des documents MS Office, des fichiers PDF et des images) sur l'ensemble du système. Si des fichiers intéressants sont trouvés, le logiciel malveillant les copie dans un répertoire temporaire, les compresse et les envoie sur le Web. Il convient de noter que l'acteur n'a pas pris la peine de crypter ou d'envoyer les fichiers en toute sécurité afin que les fichiers puissent également se retrouver entre les mains de tiers », révèle le rapport du CPR.
2 cas:
Le 21 décembre, un acteur menaçant surnommé USDoD a publié un script Python, qui, selon lui, était le "premier script qu'il ait jamais créé".
Lorsqu'un autre cybercriminel a déclaré que le style du code ressemblait au code OpenAI, USDoD a confirmé qu'OpenAI lui avait donné "un bon coup de main pour terminer le script avec une belle portée".
"Notre analyse du script a vérifié qu'il s'agit d'un script Python qui effectue des opérations cryptographiques. Pour être plus précis, il s'agit d'un méli-mélo de différentes fonctions de signature, de cryptage et de décryptage », expose le rapport.
3 cas:
Le troisième cas partagé par CPR divulgue une discussion intitulée "Abuser ChatGPT pour créer des scripts Dark Web Marketplaces". Dans ce fil, le cybercriminel montre à quel point il est facile de créer un marché du Dark Web à l'aide de ChatGPT.
"Le rôle principal du marché dans l'économie souterraine illicite est de fournir une plate-forme pour le commerce automatisé de biens illégaux ou volés comme des comptes ou des cartes de paiement volés, des logiciels malveillants, ou même des drogues et des munitions, avec tous les paiements en crypto-monnaies", explique le rapport.
Pour illustrer, le cybercriminel a publié un morceau de code qui utilise une API tierce pour obtenir les prix à jour des crypto-monnaies (Monero, Bitcoin et Etherium) dans le cadre du système de paiement du marché du Dark Web.
En plus de ces cas mentionnés ci-dessus, le CPR déclare que plusieurs acteurs de la menace ont ouvert des discussions pour se concentrer sur l'utilisation de ChatGPT pour des stratagèmes frauduleux.
"La plupart d'entre eux se sont concentrés sur la génération d'art aléatoire avec une autre technologie OpenAI (DALLE2) et leur vente en ligne en utilisant des plateformes légitimes comme Etsy. Dans un autre exemple, l'auteur de la menace explique comment générer un livre électronique ou un court chapitre sur un sujet spécifique (en utilisant ChatGPT) et vend ce contenu en ligne », conclut le rapport.