ChatGPT ist revolutionär artificial intelligence Technologie, die in der Welt der Verarbeitung natürlicher Sprache, der Datenwissenschaft und des maschinellen Lernens schnell an Popularität gewinnt. Das KI-Tool, entwickelt von OpenAI, hat vor allem aufgrund seiner Fähigkeit, natürlicher als andere KI-Systeme mit Menschen zu kommunizieren, an Bedeutung gewonnen.
Wie jede andere Technologie kann auch das KI-gestützte ChatGPT grenzenlos zum Guten und Bösen eingesetzt werden. Cyberkriminelle haben das Potenzial des Tools erkannt und sind bereits darauf eingestiegen, um das bestehende ChatGPT-Tool für ihre Angriffe zu nutzen.
Was ist ChatGPT?
ChatGPT ist ein KI-gestützter Chatbot, der von ins Leben gerufen wurde OpenAI im November 2022. Laut OpenAI basiert ChatGPT auf einem Modell der GPT-3.5-Serie, dessen Training Anfang 2022 abgeschlossen wurde.
„ChatGPT ist ein Geschwistermodell von InstructGPT, das darauf trainiert ist, einer Anweisung in einer Eingabeaufforderung zu folgen und eine detaillierte Antwort zu geben“, sagt OpenAI.
In einem kürzlich erschienenen berichten, cybersecurity Das Unternehmen Check Point Research (CPR) enthüllt, dass mehrere große Untergrund-Hacker-Communities bereits die ersten Fälle gezeigt haben, in denen Cyberkriminelle OpenAI zur Entwicklung bösartiger Tools nutzen.
„Wie wir vermutet haben, zeigten einige Fälle deutlich, dass viele Cyberkriminelle, die OpenAI nutzen, über keine Entwicklungskompetenzen verfügen“, heißt es in dem Bericht.
Check Point Research (CPR) erläuterte einige Beispiele, die auf das zunehmende Interesse von Cyberkriminellen an ChatGPT hinweisen.
Bei 1:
Am 29. Dezember 2022 erschien in einem beliebten Underground-Hacking-Forum ein Thread mit dem Titel „ChatGPT – Vorteile von Malware“.
Der Analyse von CPR zufolge gab der Herausgeber des Threads bekannt, dass er mit ChatGPT experimentierte, um Malware-Stämme und -Techniken nachzubilden, die in Forschungspublikationen und Artikeln über gängige Malware beschrieben wurden.
„Unsere Analyse des Skripts bestätigt die Behauptungen des Cyberkriminellen. Hierbei handelt es sich in der Tat um einen einfachen Stealer, der im gesamten System nach 12 gängigen Dateitypen (z. B. MS Office-Dokumenten, PDFs und Bildern) sucht. Wenn interessante Dateien gefunden werden, kopiert die Malware die Dateien in ein temporäres Verzeichnis, komprimiert sie und sendet sie über das Internet. Es ist erwähnenswert, dass sich der Akteur nicht die Mühe gemacht hat, die Dateien sicher zu verschlüsseln oder zu versenden, so dass die Dateien möglicherweise auch in die Hände Dritter gelangen“, heißt es im CPR-Bericht.
Bei 2:
Am 21. Dezember wurde ein Bedrohungsakteur synchronisiert USDoD veröffentlichte ein Python-Skript, das er als „das erste Skript, das er jemals erstellt hat“ bezeichnete.
Als ein anderer Cyberkrimineller bemerkte, dass der Stil des Codes dem OpenAI-Code ähnelte, USDoD bestätigte, dass OpenAI ihm eine „nette [helfende] Hand gegeben hat, um das Skript mit einem schönen Umfang fertigzustellen.“
„Unsere Analyse des Skripts hat bestätigt, dass es sich um ein Python-Skript handelt, das kryptografische Operationen ausführt. Genauer gesagt handelt es sich um ein Sammelsurium verschiedener Signierungs-, Verschlüsselungs- und Entschlüsselungsfunktionen“, heißt es in dem Bericht.
Bei 3:
Der dritte von CPR geteilte Fall offenbart eine Diskussion mit dem Titel „Missbrauch von ChatGPT zur Erstellung von Dark Web Marketplaces-Skripten“. In diesem Thread zeigt der Cyberkriminelle, wie einfach es ist, mit ChatGPT einen Dark-Web-Marktplatz zu erstellen.
„Die Hauptaufgabe des Marktplatzes in der illegalen Untergrundwirtschaft besteht darin, eine Plattform für den automatisierten Handel mit illegalen oder gestohlenen Gütern wie gestohlenen Konten oder Zahlungskarten, Malware oder sogar Drogen und Munition bereitzustellen, wobei alle Zahlungen in Kryptowährungen erfolgen“, erklärt der Bericht.
Zur Veranschaulichung veröffentlichte der Cyberkriminelle einen Code, der eine Drittanbieter-API verwendet, um im Rahmen des Dark-Web-Markt-Zahlungssystems aktuelle Preise für Kryptowährungen (Monero, Bitcoin und Etherium) zu erhalten.
Zusätzlich zu den oben genannten Fällen haben laut CPR mehrere Bedrohungsakteure Diskussionen eröffnet, um sich auf die Verwendung von ChatGPT für betrügerische Machenschaften zu konzentrieren.
„Die meisten davon konzentrierten sich darauf, zufällige Kunst mit einer anderen OpenAI-Technologie (DALLE2) zu generieren und sie online über legitime Plattformen wie Etsy zu verkaufen. In einem anderen Beispiel erklärt der Bedrohungsakteur, wie er ein E-Book oder ein kurzes Kapitel zu einem bestimmten Thema erstellt (mithilfe von ChatGPT) und verkauft diese Inhalte online“, schließt der Bericht.