O Instagram atribui alguns problemas de moderação aos revisores humanos, não à IA

O chefe do Instagram, Adam Mosseri, abordou na sexta-feira os problemas de moderação que fizeram com que os usuários do Instagram e Threads perdessem o acesso às suas contas, fizessem com que as postagens desaparecessem e muito mais, dizendo que a empresa “encontrou erros” que está atribuindo a moderadores humanos. A empresa inicialmente não culpou os sistemas de IA defeituosos, como muitos acreditavam que seria o caso.

Em uma postagem no Threads, Mosseri abordou o problema que tem atormentado as plataformas sociais nos últimos dias, acrescentando que os erros encontrados até agora foram devidos a revisores de conteúdo – pessoas, não sistemas automatizados – “fazendo ligações sem receber o contexto sobre como as conversas se desenrolaram, o que foi uma falta.”

O executivo disse que o Instagram estava corrigindo os problemas para que os revisores pudessem tomar decisões melhores e cometer menos erros.

Em resposta a um comentário no tópico, ele também esclareceu que, é claro, o Instagram sabia que os revisores precisavam de contexto e que “uma das ferramentas que construímos quebrou e, portanto, não lhes mostrava contexto suficiente”.

“Isso é por nossa conta”, disse ele.

Esta explicação não parece explicar totalmente a variedade de problemas que os usuários estavam enfrentando, já que alguns encontraram suas contas erroneamente rotuladas como pertencentes a um usuário menor de 13 anos e depois desativadas. Não está claro como um moderador humano teria feito essa suposição. Além disso, de acordo com um relatório do The Verge, mesmo depois de um usuário enviar sua identidade para verificar sua idade, sua conta ainda permanecia desativada.

Procurado para comentar, o Instagram disse ao TechCrunch que nem todos os problemas que os usuários do Instagram encontraram estavam relacionados a moderadores humanos e seus erros. A empresa também apontou a quebra da ferramenta e disse que questões como sinalizar usuários como menores de idade ainda estavam sendo investigadas.

O Instagram não sabe que algum dia oferecerá uma explicação detalhada para todos os problemas, entendemos, pois pode haver várias coisas em jogo.

Além de contas terem sido desativadas, outras pessoas viram suas postagens serem rebaixadas ou marcadas como spam, mesmo quando eram pessoas respeitáveis ​​ou com muitos seguidores, e não um spammer.

Por exemplo, o ex-colunista de tecnologia do Wall Street Journal, Walt Mossberg, observou que seu envolvimento no Threads caiu rapidamente para zero. Em vez de obter entre 100 e 1.000 curtidas em suas postagens, esse número caiu para 0-20 em 24 horas, disse ele no Threads.

O estrategista de mídia social Matt Navarra também apontou que, além de ele próprio ter problemas de moderação, os usuários relatavam que a taxa de crescimento de seguidores e o engajamento estavam “caindo de um penhasco”.

Bluesky, uma startup de rede social que também compete com X (antigo Twitter) e Threads aproveitou a interrupção no site para atrair usuários frustrados para sua plataforma, criando uma conta no Threads e compartilhando seus recursos e atualizações.

“Estamos tentando oferecer uma experiência mais segura e precisamos fazer melhor”, disse Mosseri. Ele encerrou sua postagem com uma mensagem que sugere que o problema pode não ser totalmente resolvido, acrescentando: “Obrigado pela sua paciência e continue enviando comentários”.

Atualizado em 11/11/24, 13h20 e com mais comentários do Instagram.