Google rotulará imagens geradas por IA nos resultados de pesquisa

Em breve, o Google começará a identificar quando o conteúdo nos resultados de pesquisa e anúncios é gerado pela IA — se você souber onde procurar.

Em uma postagem de blog de 17 de setembro, a gigante da tecnologia anunciou que, nos próximos meses, metadados em buscas, imagens e anúncios indicarão se uma imagem foi fotografada com uma câmera, editada no Photoshop ou criada com IA. O Google se junta a outras empresas de tecnologia, incluindo a Adobe, na rotulagem de imagens geradas por IA.

O que são as credenciais C2PA e de conteúdo?

Os padrões de marca d’água de IA foram criados pela Coalition for Content Provenance and Authenticity, um órgão de padrões ao qual o Google se juntou em fevereiro. A C2PA foi cofundada pela Adobe e pela Joint Development Foundation sem fins lucrativos para desenvolver um padrão para rastrear a procedência de conteúdo online. O projeto mais significativo da C2PA até agora foi seu padrão de rotulagem de IA, Content Credentials.

O Google ajudou a desenvolver a versão 2.1 do padrão C2PA, que, segundo a empresa, tem proteções aprimoradas contra adulteração.

VEJA: A OpenAI disse em fevereiro que seus vídeos fotorrealistas Sora AI incluiriam metadados C2PA, mas o Sora ainda não está disponível ao público.

Amazon, Meta, OpenAI, Sony e outras organizações fazem parte do comitê diretor do C2PA.

“As credenciais de conteúdo podem atuar como um rótulo nutricional digital para todos os tipos de conteúdo — e uma base para reconstruir a confiança e a transparência online”, escreveu Andy Parsons, diretor sênior da Content Authenticity Initiative da Adobe, em um comunicado à imprensa em outubro de 2023.

‘Sobre esta imagem’ para exibir metadados C2PA no Circle para Pesquisar e Google Lens

O C2PA lançou seu padrão de rotulagem mais rápido do que a maioria das plataformas online. O recurso “Sobre esta imagem”, que permite que os usuários visualizem os metadados, só aparece no Google Imagens, Círculo para Pesquisar e Google Lens em dispositivos Android compatíveis. O usuário deve acessar manualmente um menu para visualizar os metadados.

Nos anúncios da Pesquisa Google, “Nosso objetivo é aumentar isso (marca d’água C2PA) ao longo do tempo e usar sinais C2PA para informar como aplicamos políticas importantes”, escreveu a vice-presidente de confiança e segurança do Google, Laurie Richardson, na postagem do blog.

O Google também tem planos de incluir informações de C2PA em vídeos do YouTube capturados por uma câmera. A empresa planeja revelar mais informações ainda este ano.

A atribuição correta de imagens de IA é importante para os negócios

As empresas devem garantir que os funcionários estejam cientes da disseminação de imagens geradas por IA e treiná-los para verificar a procedência de uma imagem. Isso ajuda a evitar a disseminação de informações incorretas e previne possíveis problemas legais se um funcionário usar imagens que não está autorizado a usar.

Usar imagens geradas por IA em negócios pode turvar as águas em torno de direitos autorais e atribuição, pois pode ser difícil determinar como um modelo de IA foi treinado. Imagens de IA podem, às vezes, ser sutilmente imprecisas. Se um cliente estiver buscando um detalhe específico, qualquer erro pode reduzir a confiança em sua organização ou produto.

O C2PA deve ser usado de acordo com a política de IA generativa da sua organização.

C2PA não é a única maneira de identificar conteúdo gerado por IA. Marca d’água visível e hash perceptual — ou fingerprinting — às vezes são apresentados como opções alternativas. Além disso, os artistas podem usar filtros de envenenamento de dados, como Nightshade, para confundir IA generativa, impedindo que modelos de IA sejam treinados em seu trabalho. O Google lançou sua própria ferramenta de detecção de IA, SynthID, que está atualmente em beta.