A inteligência artificial está dificultado detectar golpes
Como a IA facilita a criação de sites e avatares digitais, temos que repensar nossa abordagem para nos protegermos contra fraudes online.
Um e-mail cheio de erros de digitação. Um atendente com sotaque carregado. Uma ligação do seu banco. Antigamente, esses eram sinais reveladores de golpes na internet. Mas hoje, graças à inteligência artificial, esses sinais de alerta praticamente desapareceram.
Chatbots de baixo custo, geradores de imagens e ferramentas de clonagem de voz facilitaram a vida dos criminosos, que agora podem produzir conteúdo impecável, a criação de sites aparentemente legítimos e até mesmo a replicação de identidades.
Os golpes online com inteligência artificial se tornaram tão convincentes que confesso que quase caí em um. Enquanto navegava distraidamente por vídeos do TikTok quando me deparei com um anúncio de um par de tênis com 80% de desconto. Ao clicar no anúncio, um site carregou, parecendo ser uma loja de descontos autêntica da marca. Mas depois que adicionei os tênis ao carrinho de compras, meu sexto sentido disparou. Uma rápida pesquisa na internet revelou que usuários do Reddit haviam sido enganados por esse site; a marca chegou a publicar um alerta sobre o aumento de lojas online falsas se passando pela sua marca.
Esses sites falsos são um dos vários golpes online impulsionados por inteligência artificial que têm aumentado recentemente, segundo especialistas em segurança. O FBI relatou no mês passado que cibercriminosos fraudaram cidadãos americanos em quase US$ 21 bilhões no ano passado, com cerca de US$ 893 milhões em perdas ligadas à IA.
Como a IA facilita a criação de sites e avatares digitais, talvez tenhamos que repensar nossa abordagem para nos protegermos contra fraudes online.
“Em vez de procurar indicadores do que é ruim, agora você precisa verificar se é bom”, disse Mark Beare, gerente geral da Malwarebytes, uma empresa de segurança na internet.
“Não se trata mais de um príncipe nigeriano. É um site falso da Amazon, do Mercado Livre ou de qualquer outra marca conhecida e respeitada.
”Os anúncios fraudulentos têm se tornado tão frequentes que as ações judiciais contra a gigante das redes sociais Meta estão aumentando. No mês passado, a Consumer Federation of America, uma organização sem fins lucrativos de defesa do consumidor, entrou com uma ação acusando a Meta de enganar os usuários sobre seus esforços para combater golpes. A ação citou exemplos como anúncios fraudulentos de produtos para bebês e celulares gratuitos.
Em reposta, a Meta afirmou que, no ano passado, removeu 159 milhões de anúncios fraudulentos e suspendeu quase 11 milhões de contas no Facebook e Instagram associadas a conhecidos autores de golpes. Acrescentou ainda que está investindo em novas tecnologias para combater fraudes.
Uma porta-voz do TikTok afirmou que a empresa proíbe práticas enganosas e conteúdo fraudulento em anúncios, e que tentativas de fraudar usuários não são permitidas na plataforma. Ela acrescentou que, no quarto trimestre de 2025, 97% do conteúdo de spam que violava as regras do TikTok foi removido antes mesmo de ser denunciado pelos usuários.
Além de lojas falsas, os golpistas têm usado IA para se passar por alguém próximo às suas vítimas, incluindo familiares e antigos amores. Em outras palavras, a IA tornou possível que os criminosos personalizem seus ataques como nunca antes.
Aqui está o que você precisa saber sobre os golpes de IA mais comuns e o que fazer.
O golpe do falso parente
Todo mundo conhece aquela mensagem de texto de um número desconhecido dizendo algo como “Faz tempo! Como você está?”. Interagir com o remetente podia terminar em uma conversa telefônica com o golpista pedindo dinheiro. Hoje em dia, essa conversa provavelmente migrou para uma videochamada, porque os fraudadores descobriram que podem usar ferramentas de IA para se transformarem digitalmente em outra pessoa.
“É muito fácil e muito barato fazer uma chamada de Zoom em tempo real com substituição total do corpo e alteração de voz de uma forma completamente realista”, disse Andrew Yoon, pesquisador da CivAI, uma organização sem fins lucrativos que ensina as pessoas sobre as capacidades da IA.
Esse golpe pode assumir diferentes formas, dependendo dos interesses e vulnerabilidades da vítima. Um homem solitário pode ser enganado, acreditando que uma mulher atraente do seu passado deseja se reaproximar. Um candidato a emprego pode ser ludibriado por um falso entrevistador de IA e levado a trabalhar para uma empresa fictícia.
E como os números de telefone são fáceis de falsificar e os nomes e informações de contato de nossos parentes estão disponíveis publicamente online, os golpes podem se tornar muito mais pessoais. Uma mãe pode receber uma mensagem de texto fraudulenta do número de telefone do filho e, eventualmente, entrar em uma chamada de vídeo com uma simulação de IA dele, onde o impostor pede dinheiro.
O Sr. Yoon sugeriu um antídoto de baixa tecnologia: converse com os membros da família, especialmente os parentes mais velhos e inexperientes com tecnologia, para discutir a possibilidade de receberem uma ligação de um impostor. Estabeleça uma palavra-chave secreta que possa ser usada para verificar se alguém é real, sempre que houver dúvida.
A celebridade falsa
Desde o surgimento de aplicativos geradores de vídeos instantâneos como o Sora, da OpenAI, as redes sociais foram inundadas por conteúdo de baixa qualidade produzido por inteligência artificial.
Vídeos falsos com celebridades de Hollywood e executivos de alto escalão são comuns, pois há muitas imagens e vídeos deles disponíveis na internet, o que ajuda os modelos de IA a gerar imitações quase perfeitas.
Alguns golpistas tentaram explorar celebridades usando seu status para comercializar produtos inexistentes. Vídeos deepfake do chef Gordon Ramsay, por exemplo, circularam nas redes sociais nos últimos anos promovendo um sorteio de utensílios de cozinha; as vítimas, que pensavam estar pagando uma pequena taxa de envio por frigideiras gratuitas, estavam fornecendo os números de seus cartões de crédito aos criminosos.
Os golpistas também criaram vídeos deepfake de Richard Branson, fundador do Grupo Virgin, para atrair seus fãs a fazerem investimentos fraudulentos. Isso aconteceu com tanta frequência que ele publicou um vídeo no Instagram ensinando seus seguidores a identificar esse tipo de golpe. O conselho do Sr. Branson foi certeiro. Confie apenas em informações de fontes oficiais — por exemplo, no caso do Sr. Branson, uma página publicada no Virgin.com. Os selos azuis de verificação em redes sociais não são garantia de que as pessoas são quem dizem ser, portanto, não se deixe enganar por esquemas duvidosos de enriquecimento rápido.
A marca clonada
Anúncios que direcionam você para sites fraudulentos gerados por inteligência artificial, como a loja de tênis que quase me enganou, são comuns nas redes sociais. Esses anúncios podem ser diretamente relevantes para seus interesses pessoais — por exemplo, se você se deparar com uma loja falsa vendendo bicicletas.
Isso acontece porque os golpistas pagam por espaço publicitário no TikTok e no Instagram para usar as mesmas ferramentas que os profissionais de marketing legítimos utilizam para direcionar anúncios a pessoas com interesses relevantes, afirmou Beare, da Malwarebytes. Os criminosos podem se dar ao luxo de gastar esse dinheiro com publicidade direcionada porque — ao contrário das marcas reais — eles não têm produtos para vender.
Existem maneiras de determinar rapidamente se uma loja online que se passa por uma marca é falsa. Um método simples é pesquisar o endereço do site da loja no Google e verificar o que as pessoas estão dizendo sobre ela em sites como o Reddit.
Para uma detecção de fraudes mais completa, você também pode pedir ajuda a um chatbot de IA. A Malwarebytes recentemente fez uma parceria com a OpenAI e a Anthropic para conectar seu aplicativo gratuito de detecção de fraudes aos chatbots ChatGPT e Claude.
Você pode colar um endereço da web e capturas de tela nos chatbots e pedir à Malwarebytes para analisar se um site é legítimo. Se isso lhe parece trabalhoso demais, existe um antigo ditado popular que continua válido na era da IA: se algo parece bom demais para ser verdade, provavelmente não é.
Gostou do artigo? O Futuro Guiado publica análises e artigos sobre tecnologia todos os dias, com o olhar de quem enxerga além da superfície. Assine a newsletter e receba esse conteúdo diretamente no seu e-mail.
Se você trabalha com ChatGPT, Claude ou Gemini diariamente, um celular eficiente faz toda a diferença. Vale conferir o belíssimo iPhone 17e original, de 512 GB, que está disponível com 10% de desconto no momento.
