Numa chamada de vídeo o interlocutor pode não ser a pessoa que se pensa que seja. À medida que os deepfakes gerados por Inteligência Artificial (IA) se tornam cada vez mais convincentes, investigadores da Universidade do Colorado, em Boulder, desenvolveram um sistema para detetar se o interlocutor é a mesmo a pessoa que julga que seja. Um sistema que usa muito menos poder computacional do que os atuais modelos.
Quando Tuan Tran, doutorando em ciência da computação na Universidade do Colorado, em Boulder, desafiou uma plateia de cientistas da computação numa conferência recente em Denver a distinguir o Brad Pitt real de uma versão gerada por IA. Apenas metade do público conseguiu identificar o deepfake.
O resultado levou Tuan Tran a afirmar que “os modelos geradores de deepfake estão a tornar-se muito poderosos”, tendo os investigadores apresentado as descobertas na SIGCOMM, uma conferência de referência em redes e sistemas de computadores, realizada no passado mês de agosto em Denver.
Os golpistas têm vindo a usar deepfakes gerados por IA para se passar por diretores financeiros de grandes empresas e convencer funcionários a transferir grandes quantias de dinheiro. Um dos golpes com deepfake terá ocorrido em Hong Kong tendo resultado na transferência de 25 milhões de dólares para os criminosos.
As videoconferências representam mais uma oportunidade para golpistas se passarem por pessoas confiáveis. Tuan Tran afirmou que o Zoom, o Apple FaceTime e o Google Meet não possuem deteção de deepfakes em tempo real. O Microsoft Teams também não, mas a empresa anunciou recentemente um esforço para começar a oferecer esse recurso.
Os sistemas de deteção de deepfakes existentes exigem uma quantidade enorme de poder computacional, o que torna sua implantação em larga escala difícil e cara.
A equipe de Tuan Tran descobriu que não precisava de reconstruir o vídeo para detetar deepfakes. As pistas já estavam presentes na forma comprimida do vídeo que transita pela rede.
videoAo analisar vídeos comprimidos diretamente, o sistema poderá tornar a deteção de deepfakes em tempo real mais prática para plataformas de videoconferência.
