SlashNext observó que los ciberdelincuentes utilizan cada vez más la IA generativa en sus ataques de phishing, como la nueva herramienta WormGPT. WormGPT se anuncia en foros de hackers, y se puede utilizar para organizar correos de phishing y comprometer el correo comercial. (Compromiso del correo electrónico empresarial, BEC).
WormGPT se utiliza masivamente para phishing
WormGPT se basa en el modelo de lenguaje GPTJ creado en 2021. Cuenta con una variedad de características que incluyen soporte ilimitado de caracteres., guardar el historial de chat, y la capacidad de formatear el código. Los autores lo llaman «el peor enemigo de ChatGPT», que permite realizar «todo tipo de actividades ilegales.» También, Los creadores de la herramienta afirman que está entrenada en diferentes conjuntos de datos., con un enfoque en datos relacionados con malware. Sin embargo, Los conjuntos de datos específicos utilizados en el proceso de capacitación no se divulgan..
Después de obtener acceso a WormGPT, Los expertos realizaron sus propias pruebas.. Por ejemplo, en un experimento, Hicieron que WormGPT generara un correo electrónico fraudulento que se suponía obligaría a un administrador de cuentas desprevenido a pagar una factura fraudulenta..
¿Es WormGPT realmente eficiente en los correos electrónicos de phishing??
Barra diagonalSiguiente dice el los resultados son «alarmante»: WormGPT produjo un correo electrónico que no solo fue convincente, pero también bastante astuto, «demostrando el potencial de uso en sofisticados ataques de phishing y BEC».
Los investigadores también observan una tendencia que sus colegas de Punto de control prevenido aproximadamente a principios de año: Los “jailbreaks” para IA como ChatGPT todavía se discuten activamente en los foros de hackers..
Típicamente, estos «fugas de cárcel» son solicitudes cuidadosamente pensadas, compilado de una manera especial. Están diseñados para manipular chatbots de IA para generar respuestas que pueden contener información confidencial., contenido inapropiado, e incluso código malicioso.
