Ao contrário do receio generalizado de que a inteligência artificial possa sobrecarregar instantaneamente o cibercrime, um novo estudo sugere que a realidade é muito mais mundana. Uma investigação da Universidade de Edimburgo indica que os cibercriminosos estão a lutar para integrar a IA nas suas operações, considerando a tecnologia largamente ineficaz para ataques sofisticados.
Embora o submundo digital tenha manifestado grande interesse nas ferramentas de IA, a tecnologia não conseguiu revolucionar os seus métodos. Em vez de criar uma nova geração de “super-hackers”, a IA serviu principalmente como uma pequena conveniência para tarefas rotineiras, deixando atividades criminosas complexas praticamente inalteradas.
O mito do hacker movido por IA
As descobertas vêm de uma análise abrangente de mais de 100 milhões de postagens em fóruns coletadas de comunidades clandestinas por meio do banco de dados CrimeBB. Ao combinar a revisão manual com a análise do Large Language Model (LLM), os pesquisadores procuraram determinar se a IA estava melhorando as capacidades dos atores mal-intencionados.
Os resultados foram contundentes: não há evidências significativas de que os hackers tenham usado com sucesso a IA para melhorar suas técnicas de intrusão, desenvolver malware melhor ou contornar medidas de segurança de forma mais eficaz.
“Muitas das análises e discussões descrevem as ferramentas [de IA] como não particularmente úteis”, observa o estudo.
A questão central parece ser uma lacuna de competências. Os assistentes de codificação de IA são projetados para aumentar o conhecimento de programação existente, e não para substituí-lo. Para os cibercriminosos que não possuem conhecimentos técnicos profundos, a IA oferece poucas vantagens. Como uma postagem no fórum citada no estudo afirmou sem rodeios: “Você precisa primeiro aprender os fundamentos da programação sozinho antes de poder usar a IA e REALMENTE se beneficiar dela.”
Onde a IA está realmente sendo usada
Se a IA não está ajudando os hackers a invadir sistemas, o que eles estão fazendo com isso? O estudo identifica uma gama restrita de aplicações onde a IA teve um impacto tangível, embora limitado:
- Automação de mídia social: Criação de bots para engajamento ou spam.
- Golpes românticos: Gerando diálogos convincentes, mas genéricos, para fraudadores.
- Fraude de SEO: Produção em massa de conteúdo de baixa qualidade para manipular as classificações dos mecanismos de pesquisa.
- Sites falsos: Criação de sites projetados para colher receita publicitária por meio de estratégias de classificação enganosas.
Estas atividades são amplamente automatizadas e não requerem a habilidade técnica sofisticada que define o crime cibernético de alto nível. Para hackers experientes, a principal utilidade da IA permanece trivial: usar chatbots para responder a perguntas básicas de codificação ou gerar “cheatsheets” de referência rápida.
O fracasso da IA especializada em crimes
Curiosamente, o estudo descobriu que os cibercriminosos estão ignorando amplamente os modelos de IA projetados especificamente para fins ilícitos, como o WormGPT, que foi comercializado para ajudar a escrever malware e e-mails de phishing. Em vez disso, eles preferem produtos legítimos e convencionais, como Anthropic’s Claude ou OpenAI’s Codex.
Esta preferência criou um novo gargalo. Como esses modelos legítimos possuem barreiras de segurança robustas, os cibercriminosos estão constantemente buscando maneiras de contorná-los. No entanto, a investigação sugere que estes esforços estão a falhar em grande parte. Os hackers estão achando difícil fazer o “jailbreak” ou substituir as configurações de segurança dos principais fornecedores de IA.
Consequentemente, muitos são forçados a migrar para modelos mais antigos e de código aberto que são mais fáceis de manipular. Essas alternativas, no entanto, são menos capazes e muitas vezes exigem recursos computacionais significativos para serem executadas de maneira eficaz, anulando quaisquer ganhos potenciais de eficiência.
Guarda-corpos estão segurando
A implicação mais ampla deste estudo é tranquilizadora para a indústria de segurança cibernética. Os mecanismos de segurança implementados pelos principais criadores de IA estão a revelar-se eficazes. Os cibercriminosos não conseguem facilmente coagir esses sistemas a gerar códigos prejudiciais ou a contornar protocolos de segurança.
Embora o fascínio do crime impulsionado pela IA continue a ser uma narrativa poderosa, os dados sugerem que a experiência humana continua a ser o principal motor de ataques cibernéticos sofisticados. A IA, por enquanto, não é um atalho para o sucesso do criminoso digital; é apenas mais uma ferramenta que requer habilidade para ser manejada com eficácia.
Conclusão: A integração da IA no crime cibernético estagnou devido a limitações técnicas e proteções de segurança eficazes. Em vez de capacitar os hackers, a IA foi largamente relegada a tarefas de automação de baixo nível, provando que as ameaças cibernéticas sofisticadas ainda dependem da habilidade humana e não da assistência artificial.
