Este anúncio não é a primeira vez que uma empresa de tecnologia compartilha planos para ajudar a detectar deepfakes em tempo real. Em 2022, a Intel lançou sua ferramenta FakeCatcher para detecção de deepfake. O FakeCatcher foi projetado para analisar mudanças no fluxo sanguíneo de um rosto para determinar se o participante do vídeo é real. A ferramenta da Intel também não está disponível publicamente.
Pesquisadores acadêmicos também estão buscando diferentes abordagens para lidar com esse tipo específico de ameaça deepfake. “Esses sistemas estão se tornando muito sofisticados para criar deepfakes. Precisamos de ainda menos dados agora”, diz Govind Mittal, candidato a doutorado em ciência da computação na Universidade de Nova York. “Se eu tiver 10 fotos minhas no Instagram, alguém pode tirar isso. Eles podem atingir pessoas normais.”
Os deepfakes em tempo real não estão mais limitados a bilionários, figuras públicas ou aqueles que têm ampla presença online. A pesquisa de Mittal na NYU, com os professores Chinmay Hegde e Nasir Memon, propõe uma abordagem potencial baseada em desafios para bloquear bots de IA em videochamadas, onde os participantes teriam que passar por uma espécie de teste de vídeo CAPTCHA antes de ingressar.
Enquanto o Reality Defender trabalha para melhorar a precisão da detecção de seus modelos, Coleman diz que o acesso a mais dados é um desafio crítico a ser superado – um refrão comum do lote atual de startups focadas em IA. Ele espera que mais parcerias preencham essas lacunas e, sem detalhes, indiquem vários novos acordos que provavelmente ocorrerão no próximo ano. Depois que o ElevenLabs foi vinculado a uma chamada de voz falsa do presidente dos EUA, Joe Biden, a startup de áudio de IA fechou um acordo com o Reality Defender para mitigar o possível uso indevido.
O que você pode fazer agora para se proteger contra golpes de videochamada? Assim como o conselho principal da WIRED sobre como evitar fraudes em chamadas de voz de IA, não ficar convencido sobre se você pode detectar deepfakes de vídeo é fundamental para evitar ser enganado. A tecnologia neste espaço continua a evoluir rapidamente, e quaisquer sinais reveladores nos quais você confia agora para detectar deepfakes de IA podem não ser tão confiáveis com as próximas atualizações dos modelos subjacentes.
“Não pedimos à minha mãe de 80 anos que sinalize ransomware por e-mail”, diz Coleman. “Porque ela não é especialista em ciência da computação.” No futuro, é possível que a autenticação de vídeo em tempo real, se a detecção de IA continuar a melhorar e se mostrar confiável e precisa, será tão tida como certa quanto aquele scanner de malware zumbindo silenciosamente no fundo da sua caixa de entrada de e-mail.
