200.000 ‘vítimas’ falsas de IA são mobilizadas para enganar fraudadores online

A empresa australiana de tecnologia Apate mobiliza uma vasta gama de personagens-bot de IA em todo o mundo, que desempenham o papel de vítimas ingênuas de golpes para desperdiçar milhões de horas do tempo de golpistas todos os meses.

É hilário que uma das métricas mensais de desempenho da empresa seja quantas vezes golpistas frustrados xingam as ‘vítimas’ idiotas que estão se fazendo de bobas e prolongando a conversa.

“Acho que somos a única empresa no mundo que realmente mantém, como parte de seus KPIs, o número de palavrões que os golpistas soltam contra eles”, conta rindo à Magazine o fundador da Apate, Dali Kaafar. 

A empresa tem um catálogo de quase 200.000 personagens de IA capazes de manter conversas telefônicas convincentes e de conversar em redes sociais e plataformas de mensagens.

”Posso dizer que, basicamente, atendemos, como as chamamos, centenas de milhares de ligações por dia e praticamente centenas de milhares de conversas nos outros canais”, afirma. 

Cada hora do tempo de um golpista que eles desperdiçam é mais uma hora em que ele não está enganando um membro do público. Nas seis semanas até o fim de 2025, os bots da Apate participaram de 600.000 ligações fraudulentas para uma única empresa de telecomunicações, a TPG, na Austrália. 

“Basicamente, desperdiçamos mais de quinhentos dias do tempo dos golpistas”, explica. “Isso equivale aproximadamente a algo em torno de 13 milhões de dólares que deixaram de ser perdidos.”

O outro objetivo dos bots é obter informações acionáveis para bancos e empresas de telecomunicações combaterem quadrilhas de golpes em toda a Austrália, Ásia, África, Reino Unido e Europa.

Bots da Apate lidam com golpistas via chat. Fonte: Apate

Atraindo golpistas em escala com vítimas de IA

Kaafar diz que teve a ideia quando recebeu uma ligação fraudulenta enquanto fazia um piquenique com a família em Sydney, em novembro de 2021.

Para irritação da esposa, mas alegria dos filhos, ele prolongou a conversa com o golpista por 44 minutos, fingindo ser um ingênuo caipira caindo no golpe. 

“O que se seguiu foi literalmente um show de comédia completo para os meus filhos”, conta, acrescentando que, durante a ligação, também descobriu muitas informações potencialmente úteis sobre a mecânica do golpe e as táticas utilizadas.   

“Quando desliguei aquela ligação, lembro de ter pensado com muita clareza: se eu consegui fazer isso só por diversão, imagine o que a tecnologia pode fazer em escala.”

Trabalhando como professor na Universidade Macquarie na época, ele apresentou a ideia a alguns de seus alunos de doutorado que trabalhavam com IA e segurança.

“Eu disse: ‘Pessoal, deve haver uma maneira muito melhor de fazer isso. Vamos construir algo que realmente automatize todo esse processo de interagir com golpistas em escala, mas também, talvez o mais importante, extrair todo tipo de informação dessas conversas.’ E foi literalmente assim que começou.”

Relacionado: Bot com IA substitui candidato ausente em debate na Virgínia

Em poucos meses, eles conseguiram financiamento do Escritório de Inteligência Nacional para pesquisar a ideia, e o projeto foi desmembrado da universidade e transformado na Apate em 2023. Atualmente, a empresa trabalha com a maioria dos grandes bancos da Austrália, além de vários bancos no Reino Unido, na África do Sul e no Sudeste Asiático. 

A Apate está longe de ser a única empresa a atrair fraudadores usando bots de IA — embora faça isso em uma escala maior do que a maioria. A empresa britânica de telecomunicações O2 lançou uma campanha com uma Vovó de IA no ano passado, frustrando golpistas ao ocupar horas do tempo deles falando sobre seus 28 gatos. Foi tanto uma campanha publicitária para alertar o público sobre os perigos das ligações fraudulentas quanto qualquer outra coisa.

A altamente divertida Vovó de IA da O2. Fonte: O2

Criando as vítimas de IA perfeitas

A Apate foi lançada com 120 personas diferentes, de vários gêneros, idades e tipos de personalidade, e agora tem 197.000 personas com tiques vocais e sotaques identificáveis, que fazem os mesmos sons que as pessoas fazem quando estão tentando pensar no que dizer. 

“Passamos muito tempo refinando e construindo esses bots de IA que soam exatamente como você, eu e nossos vizinhos”, afirma. 

Os modelos de IA foram treinados com “centenas e centenas” de horas de conversas gravadas entre pessoas que atraem golpistas e os próprios golpistas, para que possam empregar estratégias de contra-ataque.

“Eles sabem que estão falando com pessoas más, por assim dizer, e realmente conduzem as conversas de modo que pareçam muito, muito realistas para qualquer golpista, mesmo que ele esteja cético em relação às coisas.”
Os bots são enviados ao WhatsApp e ao Telegram para agir como iscas para golpistas. Embora o velho clichê de que não é possível enganar um homem honesto não seja verdadeiro, ainda é muito possível explorar o desejo de dinheiro do golpista. 

“Eles são cibercriminosos, na verdade. Acho que muitas vezes esquecemos que são cibercriminosos que estão tentando obter as economias de uma vida inteira das pessoas. E, portanto, esse elemento de ganância é algo que nossos bots também exploram às vezes.”

Bots coletam informações valiosas de cada ligação fraudulenta

No setor de criptomoedas, a Apate trabalha para “um dos líderes em análise de blockchain”, que pode ou não ser a Chainalysis. Eles não estão interessados em desperdiçar o tempo dos golpistas — querem informações sobre quais carteiras e métodos os golpistas estão usando, para que possam rastrear o fluxo de fundos. 

“À medida que interagem em diferentes conversas, esses bots extraem centenas e milhares de novos endereços de carteiras de criptomoedas”, afirma. “São dados e informações que chegam literalmente antes que o dano aconteça.”

Aplicar golpes é um grande negócio, e os call centers são “praticamente organizações corporativas”, explica Kaafar. 

“Esses dados são muito, muito importantes porque, literalmente, essa é a nova conta ou a nova carteira à qual você realmente precisa prestar extrema atenção. Porque é aí que esses… grupos de golpistas estão coletando o dinheiro ou os fundos.”

“Pense nisso literalmente como estar sempre à frente das táticas do golpista. E quanto mais você souber antes que o dinheiro seja transferido, melhor.”

Em julho, os bots da Apate descobriram um marketplace de intermediários que solicitavam contas bancárias verificadas na Índia, oferecendo comissões de até 5% pagas em USDT sobre os valores de golpes que passavam pelas contas.

A equipe humana da Apate em Sydney. Fonte: Apate

Corrida armamentista de IA entre mocinhos e bandidos

Os golpistas estão cada vez mais usando bots de IA, e não demorará muito para que golpistas de IA sejam tão onipresentes quanto e-mails de spam. Aplicar golpes contra pessoas é um negócio de $1,24 trilhão portanto, o setor pode arcar com o poder computacional necessário para expandir as operações.
As pesquisas da Apate sugerem que cerca de 20% a 30% das conversas fraudulentas por texto já empregam IA, mas Kaafar não está muito preocupado com o resultado de bots antifraude lutando contra bots de golpes.
Ele afirma que os pesquisadores acreditam que os bots de IA que atuam na defesa têm uma vantagem, de acordo com a teoria dos jogos, porque estão tentando extrair informações, enquanto os bots de golpes estão tentando fazer com que a outra IA execute uma ação.

“Também é possível demonstrar matematicamente que isso favorece o defensor, porque se torna mais fácil extrair informações do modelo de IA do atacante”, afirma.

“Podemos imaginar um mundo em que os golpistas se tornem muito mais sofisticados e implementem essa tecnologia. Mas isso também significa que, se o fizerem, estarão destinados a perder o jogo, o que é uma ótima notícia na luta contra os golpes.”

Magazine: Agente desperdiça 14 horas do tempo de golpistas, LLMs ‘envenenados’ pelo Irã — AI Eye