ChatGPT es un revolucionario artificial intelligence tecnología que está ganando popularidad rápidamente en el mundo del procesamiento del lenguaje natural, la ciencia de datos y el aprendizaje automático. La herramienta de IA, desarrollada por OpenAI, ha estado ganando terreno principalmente debido a su capacidad para conversar con humanos de forma más natural que otros sistemas de IA.
Como cualquier otra tecnología, ChatGPT impulsado por IA se puede utilizar para bien y para mal sin límites. Al darse cuenta del potencial de la herramienta, los ciberdelincuentes ya se lanzaron a ella para aprovechar la herramienta ChatGPT existente para sus ataques.
¿Qué es Chat GPT?
ChatGPT es un chatbot impulsado por IA lanzado por OpenAI en noviembre de 2022. Según OpenAI, ChatGPT se ajusta a partir de un modelo de la serie GPT-3.5, que terminó de entrenarse a principios de 2022.
“ChatGPT es un modelo hermano de InstructGPT, que está capacitado para seguir una instrucción en un aviso y proporcionar una respuesta detallada”, dice OpenAI.
En una publicación reciente. reporte, cybersecurity La empresa Check Point Research (CPR) revela que varias de las principales comunidades clandestinas de hackers ya han mostrado los primeros casos de ciberdelincuentes que utilizan OpenAI para desarrollar herramientas maliciosas.
“Como sospechábamos, algunos casos mostraron claramente que muchos ciberdelincuentes que usan OpenAI no tienen habilidades de desarrollo”, revela el informe.
Check Point Research (CPR) explicó algunos casos, lo que indica el creciente interés de los ciberdelincuentes en ChatGPT.
Caso 1:
El 29 de diciembre de 2022, apareció un hilo llamado "ChatGPT - Beneficios del malware" en un popular foro clandestino de piratería.
Según el análisis de CPR, el editor del hilo reveló que estaba experimentando con ChatGPT para recrear cepas y técnicas de malware descritas en publicaciones de investigación y artículos sobre malware común.
“Nuestro análisis del guión confirma las afirmaciones del ciberdelincuente. De hecho, este es un ladrón básico que busca 12 tipos de archivos comunes (como documentos de MS Office, PDF e imágenes) en todo el sistema. Si se encuentra algún archivo de interés, el malware copia los archivos en un directorio temporal, los comprime y los envía a través de la web. Vale la pena señalar que el actor no se molestó en cifrar o enviar los archivos de forma segura para que los archivos también pudieran terminar en manos de terceros”, revela el informe de CPR.
Caso 2:
El 21 de diciembre, un actor de amenazas denominado USDoD publicó un script de Python, que enfatizó fue el "primer script que creó".
Cuando otro ciberdelincuente comentó que el estilo del código se asemeja al código OpenAI, USDoD confirmó que OpenAI le dio una "buena [ayuda] mano para terminar el guión con un buen alcance".
“Nuestro análisis del script verificó que es un script de Python que realiza operaciones criptográficas. Para ser más específicos, es una mezcolanza de diferentes funciones de firma, cifrado y descifrado”, expone el informe.
Caso 3:
El tercer caso compartido por CPR revela una discusión con el título "Abusar de ChatGPT para crear scripts de Dark Web Marketplaces". En este hilo, el ciberdelincuente muestra lo fácil que es crear un mercado en la Dark Web utilizando ChatGPT.
“La función principal del mercado en la economía clandestina ilícita es proporcionar una plataforma para el comercio automatizado de bienes ilegales o robados, como cuentas o tarjetas de pago robadas, malware o incluso drogas y municiones, con todos los pagos en criptomonedas”, explica el informe.
Para ilustrar, el ciberdelincuente publicó un fragmento de código que utiliza una API de terceros para obtener precios actualizados de criptomonedas (Monero, Bitcoin y Etherium) como parte del sistema de pago del mercado Dark Web.
Además de estos casos mencionados anteriormente, CPR afirma que varios actores de amenazas abrieron discusiones para centrarse en el uso de ChatGPT para esquemas fraudulentos.
“La mayoría de estos se centraron en generar arte aleatorio con otra tecnología OpenAI (DALLE2) y venderlos en línea utilizando plataformas legítimas como Etsy. En otro ejemplo, el actor de amenazas explica cómo generar un libro electrónico o un capítulo corto para un tema específico (usando ChatGPT) y vende este contenido en línea”, concluye el informe.