Agora é mais fácil espalhar desinformação eleitoral na Califórnia

Estamos a apenas um mês das eleições presidenciais dos EUA e a expectativa está em alta (assim como a desinformação). Vários políticos estão tentando mitigar a desinformação à luz do conteúdo gerado e manipulado pela IA, e um deles é o governador da Califórnia, Gavin Newsom. Ele trouxe uma lei que combateria os deepfakes de IA, mas um juiz da Califórnia a bloqueou.

Newsom foi notícia recentemente por derrubar o SB 1047, o projeto de lei que teria trazido algumas regulamentações importantes para as principais empresas de IA. Ele não aprovou o projeto por vários motivos, incluindo a falta de especificidade em relação às aplicações de IA e um foco desproporcional em empresas maiores. Não há como dizer se haverá um projeto de lei semelhante no futuro, mas esperamos que sim. Se Newsom estiver certo, então a maioria das principais empresas de IA reside na Califórnia. Portanto, receberíamos com satisfação uma lei baseada na Califórnia.

Um juiz da Califórnia bloqueou uma lei contra deepfakes de IA

O facto de Newsome ter rejeitado a lei não significa que não esteja preocupado com os efeitos negativos da IA. Anteriormente, ele sancionou o AB 2839 como lei. Esta lei tinha como alvo pessoas que fazem deepfakes de candidatos políticos. Se alguém conscientemente fizer um deepfake de um candidato dentro de 120 dias após uma eleição em um estado eleitoral, será responsável por uma ação civil. O distribuidor pode enfrentar uma ação civil de qualquer pessoa que o veja. A lei poderia forçá-los a retirar o cargo ou arriscar sanções monetárias.

Esta lei parece firme, mas justa, à medida que nos aproximamos das eleições. A propaganda anti-esquerda e anti-direita está sendo espalhada por toda a internet e nas redes sociais, e podemos apostar que a IA teve uma participação em parte disso. Seja como for, o juiz John Mendez não parece pensar que os deepfakes de IA sejam um grande problema.

Há algum tempo, houve um drama envolvendo uma pessoa chamada Christopher Kohls. Ele distribuiu um vídeo deepfake da vice-presidente Kamala Harris que a retrata como uma candidata incompetente. Ele chamou a atenção da internet após um retuíte de Elon Musk, e isso levou Newsom a sancionar o projeto de lei.

No entanto, Kohls entrou com uma ação judicial para impedir que a lei se tornasse oficial, alegando que o vídeo era uma sátira e que a lei violava sua liberdade de expressão. Bem, o juiz Mendez ficou do lado de Kohls e assinou uma liminar para bloquear temporariamente a lei. O juiz deu uma longa declaração explicando por que tomou essa decisão. No comunicado, ele disse “(Embora) embora um medo fundado de um cenário de mídia digitalmente manipulado possa ser justificado, esse medo não dá aos legisladores licença desenfreada para destruir a longa tradição de crítica, paródia e sátira protegida pela Primeira Emenda.”

Tarde demais?

Então, o juiz ficou do lado de Kohls neste assunto, mas esta é apenas uma liminar. Não sabemos por quanto tempo o bloqueio permanecerá em vigor no momento. Como falta apenas um mês para as eleições, não há muitos motivos para esperar que elas voltem. Esta legislação da Califórnia pode afetar o número de deepfakes de IA que podem se espalhar.

Neste ponto, grande parte da população dos EUA está decidida em quem vai votar. No entanto, a lei não visava apenas as eleições presidenciais quadrienais. Parece ter como alvo praticamente qualquer eleição, desde que você esteja em um estado eleitoral e dentro de 120 dias a partir do grande dia. Portanto, poderia ser qualquer uma das eleições menores, que ainda deveriam ser protegidas da desinformação da IA.

Como tal, ainda devemos ter esperança de que esta lei ou uma lei semelhante venha a existir. Ainda estamos no início desta era da IA. Embora os deepfakes já existam há anos, a onda atual de ferramentas de IA torna muito mais fácil a criação de deepfakes, e as ferramentas são muito mais acessíveis. Esses são os tipos de leis que precisam estar em vigor.

Então, e agora?

Esta lei teria sido uma grande vitória para as pessoas que se opõem à desinformação. Enquanto Mendez menciona que “A Califórnia tem um forte interesse em preservar a integridade eleitoral,” isso não aparece em sua decisão. A lei teria estabelecido uma lei sólida que pelo menos ajudaria a reduzir a desinformação que circula na Internet. A quantidade de informações falsas espalhadas aumenta a cada ano que passa. A IA torna muito mais fácil enganar as massas.

O juiz diz que a lei é “uma ferramenta contundente que dificulta expressão humorística e sufoca inconstitucionalmente a liberdade e troca irrestrita de idéias que é tão vital para a América debate democrático.” Mas estamos falando de deepfakes aqui, não de desenhos políticos ou esquetes cômicos. Se alguém vincula um esboço do SNL pintando um candidato sob uma luz negativa, é obviamente uma sátira. No entanto, os deepfakes são totalmente diferentes. O ponto central de um deepfake é fazer parecer que uma pessoa está fazendo ou dizendo algo que não está. Claro, existem deepfakes por aí que pretendem ser cômicos, mas há uma linha tênue entre a sátira política e a desinformação.

Deepfakes não devem ser tratados com o mesmo conjunto de regras porque são uma fera totalmente diferente. Eles têm o potencial de causar grandes danos.

Não é muito amplo

Além disso, Mendez afirma que a lei visa reprimir a sátira e a expressão humorística, mas não é o caso. A lei não tem como alvo pessoas que criam QUALQUER deepfakes. Tem como alvo pessoas que criam deepfakes de candidatos dentro de 120 dias após uma eleição em um estado eleitoral. Portanto, se uma pessoa simplesmente fizer um deepfake de uma celebridade citando um personagem de videogame, isso não será reprimido pela lei.

No entanto, se alguém fizer um vídeo de um dos candidatos dizendo que vai bombardear um país semanas após as eleições, e não estiver marcado para mostrar que é falso, a história é diferente. Isso não é sátira, é uma mídia feita para enganar as pessoas. A lei visaria isso, o que é completamente justificado.

E agora?

Agora, com uma sólida legislatura da Califórnia no purgatório, o que impedirá pessoas com intenções maliciosas de postar deepfakes de IA na 11ª hora da eleição? A decisão do juiz Mendez tem um forte foco na 1ª Emenda, mas não leva em conta o elefante na sala. Com esta lei bloqueada, qual é o próximo passo? Apenas deixe a desinformação continuar a se espalhar. Qual é o plano de batalha?

Todo esse novo boom da IA ​​começou há cerca de dois anos e, à medida que a tecnologia avançava, todos sabíamos que este ano seria complicado. Com a IA capaz de tornar os deepfakes predominantes, sabíamos que as pessoas tirariam vantagem e divulgariam conteúdo enganoso. No entanto, a esta altura do jogo, ainda estamos a fazer movimentos como estes. Já ultrapassamos o ponto em que deveríamos ter algumas leis de bom senso contra a disseminação de informações erradas geradas pela IA. Agora que não há nada para preencher o vazio, quem pode dizer que tipo de deepfakes selvagens surgirão à medida que nos aproximamos das eleições?