Burlas
Google DeepMind e Singapura criam modelo de IA que deteta burlas nas conversas sem sair do telemóvel
O modelo, baseado no Gemma, analisa as conversas no próprio aparelho e avisa quando alguém está a ser manipulado antes de pedir dinheiro ou dados. Nem a Google nem o governo de Singapura veem as mensagens. Por agora, o projeto é só para Singapura.
A Google DeepMind, o laboratório de inteligência artificial da Google, apresentou a 14 de outubro um modelo que deteta burlas nas conversas do telemóvel sem enviar as mensagens para a nuvem. Foi desenvolvido com a GovTech, a agência tecnológica do governo de Singapura, e mostrado na Singapore International Cyber Week. O alvo são as burlas de engenharia social, em que o burlão ganha a confiança da vítima ao longo de uma conversa antes de pedir dinheiro ou credenciais.
Porque Singapura e como funciona
Segundo os números citados pela DeepMind, as burlas (fraudes de investimento, falsas ofertas de emprego, falsos funcionários públicos) são mais de metade dos crimes reportados em Singapura e já causaram perdas acima de 4 mil milhões de dólares de Singapura desde 2019. As que assentam em conversas manipuladoras chegam a representar 80% das perdas. A DeepMind nota que os burlões passaram do phishing simples para conversas elaboradas, e que os modelos genéricos têm dificuldade em reconhecer truques próprios de cada país.
A base é o Gemma, o modelo leve da Google, afinado com conversas de burlas locais: imitações de bancos, de instituições públicas e de figuras conhecidas, além de esquemas em voga na região. Para poupar bateria, o sistema trabalha em duas fases. Primeiro, um classificador muito leve analisa as mensagens que chegam; se houver suspeita, o Gemma examina uma parte maior da conversa para confirmar o perigo ou descartar o falso alarme. Quando confirma, mostra um aviso no ecrã a sugerir que pares antes de partilhar dados ou dinheiro.
Privacidade e o que falta saber
A DeepMind garante que, como tudo corre no aparelho, nem a Google nem o governo de Singapura têm acesso às conversas. O modelo só lê as mensagens com o consentimento do utilizador, nos termos da aplicação onde for integrado. O treino decorreu num ambiente isolado da GovTech, com dados anónimos retirados de denúncias de burlas, sem informação pessoal de cidadãos. Mark Chen, diretor de confiança e segurança da GovTech, resume a ideia: combater burlas "não deve significar sacrificar a privacidade".
Ficam várias perguntas sem resposta. A DeepMind não diz em que aplicações o modelo vai aparecer, nem quando, e fala apenas numa introdução faseada em Singapura. Também não há números sobre a taxa de acerto ou de falsos alarmes. Quanto a Portugal, a empresa limita-se a dizer que quer explorar a possibilidade de levar tecnologia semelhante a outros países, sem nomear nenhum nem apontar datas.
