Meta testa o reconhecimento facial para detectar golpes de anúncios de 'iscas para celebridades' e facilitar a recuperação de contas

A Meta está expandindo os testes de reconhecimento facial como uma medida anti-fraude para combater anúncios fraudulentos de celebridades e de forma mais ampla, anunciou o proprietário do Facebook na segunda-feira.

Monika Bickert, vice-presidente de política de conteúdo da Meta, escreveu em um blog que alguns dos testes visam reforçar suas medidas anti-fraude existentes, como as verificações automatizadas (usando classificadores de aprendizado de máquina) executadas como parte de seu sistema de revisão de anúncios, para tornar mais difícil para os fraudadores passarem despercebidos e enganarem os usuários do Facebook e Instagram para que cliquem em anúncios falsos.

“Os golpistas muitas vezes tentam usar imagens de figuras públicas, como criadores de conteúdo ou celebridades, para atrair as pessoas para que se envolvam com anúncios que levam a sites fraudulentos onde são solicitadas a compartilhar informações pessoais ou enviar dinheiro. Este esquema, comumente chamado de ‘isca para celebridades’, viola nossas políticas e é ruim para as pessoas que usam nossos produtos”, escreveu ela.

“É claro que celebridades aparecem em muitos anúncios legítimos. Mas como os anúncios de iscas para celebridades costumam ser projetados para parecerem reais, nem sempre é fácil detectá-los.”

Os testes parecem estar usando o reconhecimento facial como uma barreira para verificar anúncios sinalizados como suspeitos pelos sistemas Meta existentes quando contêm a imagem de uma figura pública em risco da chamada “isca para celebridades”.

“Tentaremos usar a tecnologia de reconhecimento facial para comparar os rostos do anúncio com as fotos de perfil da figura pública no Facebook e no Instagram”, escreveu Bickert. “Se confirmarmos uma correspondência e que o anúncio é uma farsa, iremos bloqueá-lo.”

Meta afirma que o recurso não está sendo usado para nenhum outro propósito que não seja o combate a anúncios fraudulentos. “Excluímos imediatamente quaisquer dados faciais gerados a partir de anúncios para esta comparação única, independentemente de nosso sistema encontrar uma correspondência, e não os usamos para nenhum outro propósito”, disse ela.

A empresa afirmou que os primeiros testes da abordagem – com “um pequeno grupo de celebridades e figuras públicas” (não especificou quem) – mostraram resultados “promissores” na melhoria da velocidade e eficácia da detecção e fiscalização deste tipo de fraude.

Meta também disse ao TechCrunch que acredita que o uso do reconhecimento facial seria eficaz para detectar anúncios fraudulentos deepfake, onde a IA generativa tem sido usada para produzir imagens de pessoas famosas.

A gigante da mídia social foi acusada por muitos anos de não conseguir impedir que golpistas se apropriassem indevidamente de rostos de pessoas famosas em uma tentativa de usar sua plataforma de anúncios para enganar usuários desavisados, como investimentos duvidosos em criptografia. Portanto, é um momento interessante para a Meta promover medidas antifraude baseadas em reconhecimento facial para esse problema agora, num momento em que a empresa está simultaneamente tentando obter o máximo possível de dados do usuário para treinar seus modelos comerciais de IA (como parte de a luta mais ampla em toda a indústria para construir ferramentas generativas de IA).

Nas próximas semanas, a Meta disse que começará a exibir notificações no aplicativo para um grupo maior de figuras públicas que foram atingidas por iscas de celebridades – informando-as de que estão sendo inscritas no sistema.

“As figuras públicas inscritas nesta proteção podem optar pela exclusão em sua Central de Contas a qualquer momento”, observou Bickert.

A Meta também está testando o uso de reconhecimento facial para detectar contas de celebridades impostoras – por exemplo, onde os golpistas procuram se passar por figuras públicas na plataforma, a fim de expandir suas oportunidades de fraude – novamente usando IA para comparar fotos de perfil em uma conta suspeita com uma conta suspeita. fotos de perfil de figuras públicas no Facebook e Instagram.

“Esperamos testar esta e outras novas abordagens em breve”, acrescentou Bickert.

Selfies de vídeo mais IA para desbloqueio de conta

Além disso, a Meta anunciou que está testando o uso de reconhecimento facial aplicado a selfies de vídeo para permitir o desbloqueio mais rápido de contas para pessoas que tiveram suas contas do Facebook/Instagram bloqueadas depois de terem sido assumidas por golpistas (como se uma pessoa foram induzidos a entregar suas senhas).

A intenção é atrair os usuários, promovendo a aparente utilidade da tecnologia de reconhecimento facial para verificação de identidade – com Meta sugerindo que será uma maneira mais rápida e fácil de recuperar o acesso à conta do que enviar uma imagem de um documento de identidade emitido pelo governo (que é o usual rota para desbloquear o acesso agora).

“A verificação por selfie por vídeo expande as opções para as pessoas recuperarem o acesso à conta, leva apenas um minuto para ser concluída e é a maneira mais fácil para as pessoas verificarem sua identidade”, disse Bickert. “Embora saibamos que os hackers continuarão tentando explorar as ferramentas de recuperação de contas, esse método de verificação será, em última análise, mais difícil de ser abusado pelos hackers do que a verificação de identidade tradicional baseada em documentos.”

O método de identificação de vídeo selfie baseado em reconhecimento facial que Meta está testando exigirá que o usuário carregue um vídeo selfie que será processado usando tecnologia de reconhecimento facial para comparar o vídeo com as fotos do perfil na conta que está tentando acessar.

Meta afirma que o método é semelhante à verificação de identidade usada para desbloquear um telefone ou acessar outros aplicativos, como o FaceID da Apple no iPhone. “Assim que alguém enviar um vídeo selfie, ele será criptografado e armazenado com segurança”, acrescentou Bickert. “Ele nunca ficará visível no perfil deles, para amigos ou para outras pessoas no Facebook ou Instagram. Excluímos imediatamente quaisquer dados faciais gerados após esta comparação, independentemente de haver correspondência ou não.”

Condicionar os usuários a fazer upload e armazenar um vídeo selfie para verificação de identidade pode ser uma maneira de a Meta expandir suas ofertas no espaço de identidade digital – se um número suficiente de usuários optar por enviar seus dados biométricos.

Sem testes no Reino Unido ou na UE – por enquanto

Todos esses testes de reconhecimento facial estão sendo realizados globalmente, segundo Meta. No entanto, a empresa observou, de forma bastante visível, que atualmente não são realizados testes no Reino Unido ou na União Europeia – onde se aplicam regulamentos abrangentes de proteção de dados. (No caso específico da biometria para verificação de identidade, a estrutura de proteção de dados do bloco exige consentimento explícito dos indivíduos envolvidos para tal caso de uso.)

Perante isto, os testes da Meta parecem enquadrar-se numa estratégia de relações públicas mais ampla que montou na Europa nos últimos meses para tentar pressionar os legisladores locais a diluir as proteções da privacidade dos cidadãos. Desta vez, a causa invocada para pressionar a favor do processamento de dados irrestrito para a IA não é uma noção (interessada) de diversidade de dados ou alegações de perda de crescimento económico, mas o objectivo mais simples de combater os burlões.

“Estamos interagindo com o regulador do Reino Unido, legisladores e outros especialistas enquanto os testes avançam”, disse o porta-voz da Meta, Andrew Devoy, ao TechCrunch. “Continuaremos buscando feedback de especialistas e fazendo ajustes à medida que os recursos evoluem.”

No entanto, embora a utilização do reconhecimento facial para fins de segurança restritos possa ser aceitável para alguns – e, de facto, possa ser possível para a Meta empreender ao abrigo das regras de protecção de dados existentes – a utilização de dados pessoais para treinar modelos comerciais de IA é uma outra questão.