As inteligências artificiais que imitam os seres humanos têm gerado preocupações sobre a sua capacidade de substituir trabalhadores humanos, mas uma empresa de telecomunicações britânica está a usar esta tecnologia contra um dos maiores flagelos da humanidade: os burlões telefónicos. A IA imita o alvo mais popular dos criminosos, uma pessoa idosa, que mantém os burlões ao telefone o máximo de tempo possível em conversas que não levam a lado nenhum.
Criada pela O2, a maior operadora de telefonia móvel do Reino Unido, Daisy, ou dAIsy, é uma IA criada para enganar burlões, fazendo-os pensar que estão a falar com uma avó real que gosta de divagar. Se e quando a IA fornecer os dados bancários solicitados, ela lê números e nomes falsos.
O software foi concebido para manter as pessoas em linha o máximo de tempo possível. Isso não só significa menos tempo para os burlões visarem pessoas reais, mas a O2 também está a usar as conversas para aprender os truques e técnicas favoritas usadas nesses esquemas.
Como pode ver pelo vídeo, os burlões não ficam contentes por serem enganados – ficam cada vez mais irritados e começam a usar linguagem obscena. Apesar de o vídeo mostrar imagens da Daisy imaginadas com uma IA, o som das chamadas é real e o bot é tão convincente que conseguiu manter algumas pessoas ao telefone por 40 minutos de cada vez.
Se já viu algum dos muitos vídeos no YouTube que mostram burlões a serem enganados não há aqui nenhum spoiler. A Daisy foi treinada com a ajuda de um dos “scambaiters” mais populares da plataforma, Jim Browning.
Daisy funciona ouvindo o interlocutor e transcrevendo a sua voz para texto. As respostas são geradas através de um LLM personalizado completo com uma camada de personalidade e são então realimentadas através de um modelo de IA texto-para-voz feito à medida para gerar a resposta falada com a voz de uma idosa. Tudo isso acontece em tempo real.
Os clientes da O2 não estão a ter acesso à Daisy para que possam travar a sua própria campanha de vingança contra os burlões. Em vez disso, a ferramenta de IA foi adicionada a uma lista de números de “alvo fácil” usados pelos burlões. Daisy é capaz de interagir com os interlocutores 24 horas por dia, 7 dias por semana, sem qualquer intervenção humana.
Murray Mackenzie, director do departamento de fraudes da Virgin Media O2, disse: “Estamos focados em desempenhar o nosso papel na paragem dos burlões, investindo em tudo, desde tecnologia de firewall para bloquear mensagens de texto fraudulentas a detecção de chamadas de spam alimentada por IA para manter os nossos clientes seguros. Mas, crucialmente, Daisy também é um lembrete de que, por mais persuasivo que alguém do outro lado da linha possa ser, nem sempre é quem pensa que é.”
Daisy foi criada depois de um estudo realizado pela O2 ter concluído que 71% dos britânicos gostavam de se vingar dos burlões que os enganaram ou aos seus entes queridos, mas a maioria disse que não se envolveria em “scambaiting” porque não queria perder o seu tempo.
Embora o trabalho que está a ser feito pela IA possa ser aplaudido, a sua capacidade de conversar com alguém de forma tão convincente é desconcertante. Ironicamente, uma tecnologia semelhante também está a ser usada por burlões para enganar as pessoas, fazendo-as pensar que estão a falar com familiares.
