Reuters revela falha que permite usar chatbots em fraudes a idosos

A agência Reuters, em colaboração com um investigador da Universidade de Harvard, demonstrou que os principais chatbots de inteligência artificial podem ser manipulados para produzir mensagens de phishing dirigidas a pessoas com mais de 60 anos.

Experiência expõe vulnerabilidades

No teste, seis plataformas — ChatGPT (OpenAI), Gemini (Google), Claude (Anthropic), Meta AI (Meta), Grok (X) e DeepSeek — recusaram pedidos diretos para redigir conteúdos fraudulentos. Contudo, bastou disfarçar o objetivo real com elogios ou cenários fictícios para contornar os filtros de segurança. Em alguns casos, os sistemas chegaram a sugerir horários ideais para o envio das mensagens, aumentando a probabilidade de êxito da burla.

Após gerar os textos, os investigadores enviaram e-mails de teste a um grupo de idosos; 11% clicaram nos links fornecidos. Quem o fez recebeu imediatamente um aviso de que se tratava de uma simulação, sem qualquer prejuízo financeiro.

Impacto económico e resposta das empresas

De acordo com o FBI, os norte-americanos com 60 ou mais anos perderam 4,9 mil milhões de dólares em esquemas online durante 2023. A facilidade em instrumentalizar chatbots agrava o risco, sobretudo porque as ferramentas se tornaram acessíveis a operadores de fraude em todo o mundo.

Imagem: uol.com.br

Questionadas pela Reuters, as tecnológicas reiteraram o compromisso com a segurança. A Meta reconheceu tratar-se de um problema transversal à indústria e afirmou investir em salvaguardas adicionais. A Anthropic indicou que pode suspender contas que violem as políticas de uso, enquanto o Google declarou ter introduzido novas camadas de proteção. DeepSeek e Grok não responderam.

Dilema de mercado

Steven Adler, antigo investigador de segurança na OpenAI, explicou que existe um equilíbrio delicado entre proteger os utilizadores e manter a competitividade: “Quem impõe menos restrições ganha mais tráfego”, afirmou à Reuters, sublinhando a pressão comercial que dificulta a implementação de barreiras eficazes.