IA detecta golpes em mensagens de texto
Pesquisa desenvolvida no laboratório do Recod.ai combina diferentes evidências para identificar fraudes em larga escala
Um SMS promete um prêmio, exige uma resposta urgente e traz um link para resgate. O endereço parece legítimo, mas pode levar a uma página criada para roubar dados. Esse tipo de golpe que induz as pessoas a revelarem informações a um indivíduo ou grupo mal-intencionado que se passa por uma empresa legítima, é chamado de smishing.
Para enfrentar isso, a cientista de computação Stephane Schwarz desenvolveu em seu doutorado um modelo de inteligência artificial que combina diferentes informações para identificar mensagens fraudulentas. A tese, intitulada “Detecção de smishing em plataformas conversacionais: conciliando robustez de modelos e requisitos de indústria para detecção de conteúdo malicioso em SMS, MTT e RCS”, foi orientada por Anderson Rocha, coordenador do laboratório de inteligência artificial Recod.ai e docente do Instituto de Computação (IC) da Unicamp.
O SMS é utilizado por empresas para enviar avisos, cobranças, códigos de autenticação e ofertas aos seus clientes. Por não depender de internet e aplicativos, ter baixo custo e possibilidade de uso em massa, ele se tornou um meio de comunicação alvo de fraudadores.
O avanço da IA generativa ampliou as possibilidades para quem produz essa fraude. “A barreira técnica que antes limitava os fraudadores praticamente desapareceu. Hoje, qualquer pessoa consegue gerar mensagens de smishing quase indistinguíveis de uma comunicação legítima, sem erros de português, com tom natural e até personalizadas”, disse Stephane Schwarz, que é membro do Recod.ai.
Isso dificulta a detecção de golpes, porque muitos sistemas aprenderam a reconhecer o smishing por seus defeitos, como digitação errada ou frases pouco naturais. Por isso, investigar esses sinais de maneira isolada se tornou ineficiente. A quantidade de fraudes e a velocidade com que elas circulam também atrapalham a rápida e eficaz identificação desses crimes.
Análise integrada
A pesquisadora desenvolveu um modelo de IA que combina diversas evidências contextuais que permitem analisar de forma mais robusta a legitimidade de determinada mensagem. Embora o foco seja o SMS, a metodologia é aplicável a canais como WhatsApp e Facebook Messenger.
O processo começa com o sistema olhando o endereço eletrônico. Ele analisa URLs para identificar padrões de caracteres e homóglifos (substituição de letras por símbolos visualmente semelhantes) para que sites falsos pareçam reais. Encurtadores de links também são verificados, além da consulta a bases de dados que permitem apurar domínios, proprietário e data de criação do site.
Depois, o modelo de IA analisa diferentes aspectos do conteúdo das mensagens, como o texto, a URL, a intenção (alerta, cobrança ou promoção) e o título da página de destino. Para tornar essa decisão interpretável, é aplicada uma técnica integrada que permite identificar a relevância de cada uma dessas informações para o resultado produzido pelo modelo.
Na sequência, são analisados sinais obtidos durante a conexão, incluindo o tempo necessário para os dados percorrerem o caminho de ida e volta entre o dispositivo e o destino. Essas características são utilizadas pelo modelo como sinais adicionais para identificar sites golpistas. Embora essa abordagem apresente resultados promissores, seu desempenho pode variar de acordo com as configurações adotadas pelo servidor fraudulento que hospeda o site.
As etapas anteriores focam na análise de mensagens individuais e em características técnicas específicas. Para que a detecção seja escalável, ou seja, consiga dar conta de grande volume de golpes diários e supere a escassez de dados rotulados, isto é, de fraudes já conhecidas, a pesquisadora desenvolveu um sistema baseado em modelos de linguagem de larga escala (LLMs).
O Smish-Checker, em vez de verificar cada mensagem, faz um agrupamento delas baseado em semelhanças de estrutura e de significado, o que diminui o volume de dados analisado. Em um dos experimentos, o modelo agrupou 12 milhões de mensagens semelhantes em 17 mil grupos. O sistema ainda escolhe exemplos representativos de cada grupo para rotular se é fraude. Depois da classificação, o veredito é propagado para os demais dados com base nas relações de similaridade entre eles.
A corrida contra o golpe
Não basta a ferramenta se especializar nas características de fraudes em circulação hoje; ela precisa aprender sobre o que virá amanhã. “Um modelo pode parecer excelente em laboratório e falhar no mundo real. Em um dos nossos experimentos, modelos que classificavam mensagens com mais de 90% de acerto despencaram para um desempenho quase aleatório poucas semanas depois. Isso mostrou que eles não estavam ‘aprendendo smishing’, e sim se apoiando em padrões superficiais e passageiros dos dados”, disse a cientista.
A própria divulgação dos métodos de detecção traz outro desafio: fraudadores podem estudar as características usadas pelo sistema e tentar desenvolver estratégias para contorná-lo. Stephane esclarece que a ferramenta ainda não está preparada para todas as formas de ataque e adverte que cenários nos quais o fraudador tenta enganar o sistema precisam ser avaliados.
O foco da investigação foram os golpes praticados com recursos textuais, mas as fraudes estão cada vez mais especializadas e utilizam outras estratégias. Por isso, o modelo precisa enxergar além das palavras. Como oportunidade de pesquisa futura, “falta estender essas técnicas para outros formatos, como imagens e mensagens multimídia”, refletiu Schwarz.
Impactos no cotidiano
O estudo já saiu do laboratório da Universidade e tem auxiliado no combate às mensagens fraudulentas. Ele já faz parte da estratégia de uma empresa internacional de infraestrutura para comunicação entre corporações e clientes. “Um dos métodos integra os sistemas de filtragem de mensagens maliciosas da organização. A tecnologia já está presente em sistemas utilizados no dia a dia, e muitas vezes somos beneficiados por ela sem nem sequer perceber”, contou Stephane.
De um lado, a IA é apropriada pelos criminosos para aprimorar golpes, enquanto de outro ela permite desenvolver mecanismos de detecção capazes de acompanhar essa evolução. Ao contribuir para o bloqueio de campanhas fraudulentas, a pesquisa pode ajudar a diminuir a quantidade de golpes, evitar prejuízos financeiros e tornar as comunicações digitais mais seguras.