ChatGPT is een revolutionair artificial intelligence technologie die snel aan populariteit wint in de wereld van natuurlijke taalverwerking, datawetenschap en machine learning. De AI-tool, ontwikkeld door OpenAI, wint vooral aan populariteit vanwege het vermogen om op een natuurlijkere manier met mensen te praten dan andere AI-systemen.
Net als elke andere technologie kan AI-aangedreven ChatGPT onbeperkt worden gebruikt voor goed en kwaad. Cybercriminelen realiseren zich het potentieel van de tool en zijn er al in gesprongen om de bestaande ChatGPT-tool te gebruiken voor hun aanvallen.
Wat is ChatGPT?
ChatGPT is een door AI aangedreven chatbot gelanceerd door OpenAI in november 2022. Volgens OpenAI is ChatGPT verfijnd op basis van een model in de GPT-3.5-serie, dat begin 2022 klaar was met trainen.
"ChatGPT is een zustermodel van InstructGPT, dat is getraind om een instructie in een prompt op te volgen en een gedetailleerd antwoord te geven", zegt OpenAI.
In een recent gepubliceerd verslag, cybersecurity bedrijf Check Point Research (CPR) onthult dat verschillende grote ondergrondse hackgemeenschappen al de eerste voorbeelden hebben laten zien van cybercriminelen die OpenAI gebruiken om kwaadaardige tools te ontwikkelen.
"Zoals we vermoedden, toonden sommige gevallen duidelijk aan dat veel cybercriminelen die OpenAI gebruiken geen ontwikkelingsvaardigheden hebben", onthult het rapport.
Check Point Research (CPR) lichtte een aantal gevallen toe, waaruit bleek dat cybercriminelen steeds meer geïnteresseerd zijn in ChatGPT.
Zaak 1:
Op 29 december 2022 verscheen een thread met de naam "ChatGPT - Benefits of Malware" op een populair ondergronds hackforum.
Volgens de analyse door CPR onthulde de uitgever van de thread dat hij aan het experimenteren was met ChatGPT om malwarestammen en -technieken na te bootsen die worden beschreven in onderzoekspublicaties en artikelen over veelvoorkomende malware.
“Onze analyse van het script bevestigt de beweringen van de cybercrimineel. Dit is inderdaad een eenvoudige stealer die zoekt naar 12 veelgebruikte bestandstypen (zoals MS Office-documenten, pdf's en afbeeldingen) in het hele systeem. Als er interessante bestanden worden gevonden, kopieert de malware de bestanden naar een tijdelijke map, zipt ze en verzendt ze via internet. Het is vermeldenswaard dat de acteur niet de moeite nam om de bestanden veilig te versleutelen of te verzenden, zodat de bestanden ook in handen van derden zouden kunnen komen”, onthult het CPR-rapport.
Zaak 2:
Op 21 december belde een bedreigingsactor USDoD plaatste een Python-script, waarvan hij benadrukte dat het "het eerste script was dat hij ooit heeft gemaakt".
Toen een andere cybercrimineel opmerkte dat de stijl van de code lijkt op OpenAI-code, USDoD bevestigde dat OpenAI hem een "leuke [helpende] hand gaf om het script met een mooie reikwijdte af te ronden."
“Onze analyse van het script bevestigde dat het een Python-script is dat cryptografische bewerkingen uitvoert. Om specifieker te zijn, het is een mengelmoes van verschillende ondertekenings-, coderings- en decoderingsfuncties”, legt het rapport bloot.
Zaak 3:
Het derde geval dat door CPR werd gedeeld, onthult een discussie met de titel "Abusing ChatGPT to create Dark Web Marketplaces-scripts". In deze thread laat de cybercrimineel zien hoe gemakkelijk het is om een Dark Web-marktplaats te creëren met behulp van ChatGPT.
"De primaire rol van de marktplaats in de illegale ondergrondse economie is het bieden van een platform voor de geautomatiseerde handel in illegale of gestolen goederen zoals gestolen rekeningen of betaalkaarten, malware of zelfs drugs en munitie, met alle betalingen in cryptocurrencies", legt de rapport.
Ter illustratie: de cybercrimineel heeft een stukje code gepubliceerd dat een API van derden gebruikt om up-to-date cryptocurrency-prijzen (Monero, Bitcoin en Etherium) te krijgen als onderdeel van het betalingssysteem op de Dark Web-markt.
Naast deze hierboven genoemde gevallen, stelt CPR dat verschillende bedreigingsactoren discussies hebben geopend om zich te concentreren op het gebruik van ChatGPT voor frauduleuze plannen.
“De meeste hiervan waren gericht op het genereren van willekeurige kunst met een andere OpenAI-technologie (DALLE2) en deze online verkopen via legitieme platforms zoals Etsy. In een ander voorbeeld legt de bedreigingsactor uit hoe hij een e-book of kort hoofdstuk over een specifiek onderwerp kan genereren (met behulp van ChatGPT) en deze inhoud online verkoopt”, concludeert het rapport.