Phishing de Próxima Geração: Como Agentes LLM Capacitam Atacantes Cibernéticos

A ameaça crescente de e-mails de phishing tornou-se cada vez mais sofisticada com a ascensão dos Grandes Modelos de Linguagem (LLMs). À medida que os atacantes exploram os LLMs para criar e-mails de phishing mais convincentes e evasivos, é crucial avaliar a resiliência das defesas anti-phishing atuais. Neste estudo, realizamos uma avaliação abrangente de detectores tradicionais de phishing, como o Filtro de Spam do Gmail, Apache SpamAssassin e Proofpoint, bem como modelos de aprendizado de máquina como SVM, Regressão Logística e Naive Bayes, na identificação tanto de e-mails de phishing tradicionais quanto reescritos por LLMs. Também exploramos o papel emergente dos LLMs como ferramentas de detecção de phishing, um método já adotado por empresas como NTT Security Holdings e JPMorgan Chase. Nossos resultados revelam declínios notáveis na precisão da detecção para e-mails reescritos em todos os detectores, destacando fraquezas críticas nas defesas anti-phishing atuais. À medida que o cenário de ameaças evolui, nossas descobertas enfatizam a necessidade de controles de segurança mais rigorosos e supervisão regulatória sobre conteúdo gerado por LLM para prevenir seu uso indevido na criação de ataques avançados de phishing. Este estudo contribui para o desenvolvimento de Inteligência sobre Ameaças Cibernéticas (CTI) mais eficaz, aproveitando os LLMs para gerar variantes diversas de phishing que podem ser usadas para aumento de dados, utilizando o poder dos LLMs para aprimorar a detecção de phishing e abrindo caminho para sistemas de detecção de ameaças mais robustos e adaptáveis.