O reconhecimento facial que rastreia simpatia suspeita está chegando a uma loja perto de você

Uma nova maneira de ser vigiado poderia ser chegar a uma loja perto de você: um sistema de reconhecimento facial projetado para detectar quando os funcionários do varejo têm interações anômalas com os clientes.

Há cerca de um mês, a Corsight AI, sediada em Israel, começou a oferecer aos seus clientes globais acesso a um novo serviço que visa erradicar o que a indústria retalhista chama de “querido” – casos em que funcionários de lojas oferecem descontos ou artigos gratuitos a pessoas que conhecem.

Os sistemas tradicionais de reconhecimento facial, que proliferaram no setor varejista graças a empresas como a Corsight, sinalizam as pessoas que entram nas lojas e que estão em listas negras designadas de ladrões. O novo sistema de detecção de namoro leva o monitoramento um passo adiante, rastreando como cada cliente interage com diferentes funcionários durante longos períodos de tempo.

Shai Toren, CEO da Corsight, disse ao Gizmodo que o sistema analisa o quão próximos os clientes estão de diferentes funcionários e se os clientes recorrentes vão consistentemente ao mesmo funcionário quando visitam uma loja. As anomalias acionam alertas para a equipe de segurança da loja, que decide como proceder.

“Se você entra em uma loja e compra alguns mantimentos, normalmente você escolhe qualquer um dos caixas que estão por perto e vai escanear suas mercadorias”, disse ele. “Quando alguém planeja um roubo de namorada, vai sempre ao mesmo caixa, que na maioria das vezes é um parente seu, e isso é uma anomalia de comportamento em relação aos demais clientes. Nosso sistema é capaz de identificar essa anomalia e alertar sobre isso.”

Os defensores dos trabalhadores do varejo dizem que o sistema se baseia na suposição equivocada de que um cliente que demonstra lealdade a um determinado vendedor é um sinal de irregularidade.

“Temos muitas preocupações com esse tipo de tecnologia, visto que muitos de nossos membros trabalham por comissão, então a ideia é que você esteja construindo uma carteira de negócios baseada no relacionamento com os clientes”, disse Chelsea Connor, diretora de comunicações do Varejo. Sindicato de , atacado e lojas de departamentos (RWDSU). “Quer trabalhem por comissão ou não, (as lojas) incentivam os vendedores a desenvolver esses relacionamentos, porque é isso que traz as pessoas de volta ao tijolo e à argamassa, em vez de comprar online.”

A Corsight afirma que alguns de seus clientes já usam o sistema de detecção de namorados, mas se recusaram a identificá-los.

Ao longo dos últimos anos, as grandes cadeias retalhistas têm instalado cada vez mais sistemas de reconhecimento facial e outros sistemas algorítmicos de vigilância, justificando o aumento da vigilância apontando para alertas de grupos industriais sobre o “aumento” da criminalidade no retalho.

A cobertura inicial do novo sistema de detecção da Corsight em publicações do setor afirma que o namoro é um desafio crescente que contribui para que os varejistas percam US$ 100 bilhões anualmente em roubo. Essas afirmações parecem basear-se em relatórios da Federação Nacional de Varejo, que foi forçada no ano passado a retirar algumas das alegações que fez sobre o escopo do roubo no varejo depois que uma investigação da Retail Dive descobriu que a análise anual de roubo do grupo se baseava em um interpretação errônea de seus próprios dados.

Com base nos dados da sua mais recente pesquisa de segurança, abrangendo 2022, a NRF afirma que o roubo de informações privilegiadas, incluindo o roubo, foi responsável por 29 por cento das perdas de inventário conhecidas como encolhimento. Afirmou que 3% dos retalhistas incluídos nos seus dados implementaram totalmente sistemas de reconhecimento facial e outros 40% estavam a pesquisar ou em processo de implementação de reconhecimento facial e de características.

A disseminação de sistemas de vigilância algorítmica nos locais de trabalho levou os reguladores federais a alertar os empregadores sobre o uso indevido de ferramentas que prevêem e criam dossiês do comportamento dos funcionários. E no ano passado, a Comissão Federal de Comércio proibiu a cadeia de farmácias Rite Aid de utilizar o reconhecimento facial depois de descobrir que o sistema da empresa tinha sinalizado falsamente clientes, especialmente mulheres e pessoas de cor, como ladrões de lojas.

Caitlin Seeley George, diretora-gerente da organização sem fins lucrativos Fight for the Future, que pediu aos varejistas que se comprometam a não usar o reconhecimento facial, disse que, além de estarem preocupados com os preconceitos nesses sistemas, os clientes também deveriam estar preocupados com o fato de as empresas estarem aumentando o medo de roubo. a fim de justificar a instalação de sistemas de vigilância que possam ser usados ​​para traçar o perfil do comportamento do cliente para fins de marketing.

“As informações que as associações de varejo estão compartilhando são escolhidas a dedo para defender o uso dessa tecnologia que elas podem querer usar por vários motivos”, disse ela. “Isso apenas abre a porta para o avanço da missão além daquilo em que eles afirmam se concentrar.”

A detecção de amor é apenas o começo do trabalho da Corsight em monitorar não apenas quem está em uma loja, mas como eles estão se comportando, disse Dror Simsolo, diretor de marketing da empresa.

“Este é um tipo diferente de identificação”, disse ele.