Amplifying Phishing Attacks with Generative AI

DEF CON 33 - La Villa Hacker (Ago/25)

This talk was delivered in Brazilian Portuguese.

This talk highlights how to use Artificial Intelligence to address the manual and time-consuming aspects of traditional phishing, such as detailed target research, intricate scenario development, and complex technical setup, to deploy scalable and customized campaigns. We discussed AI-driven methods to produce contextually accurate, corporate-style phishing messages and rapidly deploy authentic-looking websites, reducing the technical barriers for sophisticated phishing operations.

La Villa Hacker @ DEF CON: https://lavillahacker.com/

Transcript

1. AMPLIFYING PHISHING ATTACKS WITH GENERATIVE AI Daniel Marques (@0xc0da) Agosto/2025
2. Disclaimer The views and opinions expressed in this talk are our own and do not necessarily represent those of our employer. These slides are for educational purposes only and are not to be relied upon as professional advice.
3. Daniel Marques @0xc0da
4. GenAI pode ajudar a escalar campanhas de phishing.
5. TÍPICO WORKFLOW DE PHISHING. Elaboção do pretexto Recon GO! Deploy de infraestrutura Criação de emails Lançamento da campanha Coleta & correlação de dados Idealização de cenários Automação e orquestração Geração de texto
6. TODAS ESSAS ATIVIDADES EXIGEM TEMPO E TRABALHO MANUAL (Especialmente campanhas de phishing em diferentes idiomas)
7. Grupo de ameaças abusando de AI para phishing? Existe algum https://www.microsoft.com/en-us/security/blog/2024/02/14/staying-ahead-of-threat-actors-in-the-age-of-ai/ Emerald Sleet (THALLIUM) Usando LLMs para gerar conteúdo regionalizado. Crimson Sandstorm (CURIUM) Usando LLMs para gerar emails e para web scraping. Charcoal Typhoon (CHROMIUM) Usando LLMs para traduções e comunicações.
8. Em qualquer cenário, ainda existem desafios e questões Guardrails e Jailbreaking Modelos falsos and dados de baixa qualildade OPSEC and monitoramento
9. Comparação entre modelos e plataformas Uma rápida
10. GPT-4.1 Claude Sonnet 3.7
11. Claude Sonnet 4 GPT 5
12. Mistral
15. Modelos locais e sem censura Mas teste todos antes de usar. Considere
17. Na prática, ONDE GENAI PODE SER UTIL?
18. Recon Coleta & correlação de dados Eyewitness APIs / Scripts Analise e classificação Decisão
23. Montando um WORKFLOW (QUASE) COMPLETO
25. Algumas ideias para se ter em mente Tem alguem te olhando Os modelos “querem” te ajudar Todos esses modelos são ferramentas e cometem erros Dicas para se ter na manga quando trabalhamos com LLMs
26. Pontos. Principais. Um workflow para phishing pode ser automatizado usando IA Interação humana ainda é necessária para gerar um produto final Leve em consideração a necessidade de jailbreak e OPSEC
27. Obrigado! Gracias! Thank you! Flw vlw!
28. Imagens • Fundo do slide de abertura: Imagem gerada por IA e finalizada por humanos. • A Person Holding a Prosthetic Arm - cottonbro studio - https://www.pexels.com/photo/a-person-holding-a- prosthetic-arm-6153345/ • Two People Using Computers - Tima Miroshnichenko - https://www.pexels.com/photo/two-people-using- computers-5380607/ • Pensive black man thinking in light room – Andres Ayrton - https://www.pexels.com/photo/pensive-black-man-thinking- in-light-room-6578415/ • LinkedIn logo - https://www.vecteezy.com/png/18930480- linkedin-logo-png-linkedin-icon-transparent-png • Fundo do slide de agradecimento: Imagem gerada por IA e finalizada por humanos