Aqui está o que é ilegal sob as 18 (e contando) novas leis de IA da Califórnia

Em Setembro, o governador da Califórnia, Gavin Newsom, considerou 38 projectos de lei relacionados com a IA, incluindo o altamente controverso SB 1047, que a legislatura do estado enviou à sua mesa para aprovação final. Ele vetou o SB 1047 no domingo, marcando o fim do caminho para o polêmico projeto de lei de IA da Califórnia que tentava evitar desastres de IA, mas sancionou mais de uma dúzia de outros projetos de lei de IA este mês. Esses projetos de lei tentam abordar as questões mais urgentes da inteligência artificial: tudo, desde Al risco, até nus deepfake criados por geradores de imagens de IA, até estúdios de Hollywood criando clones de IA de artistas mortos.

“Sede da maioria das principais empresas de IA do mundo, a Califórnia está trabalhando para aproveitar essas tecnologias transformadoras para ajudar a enfrentar desafios urgentes enquanto estuda os riscos que elas apresentam”, disse o gabinete do governador Newsom em um comunicado à imprensa.

Até agora, o governador Newsom sancionou 18 projetos de lei sobre IA, alguns dos quais são as leis de maior alcance da América sobre IA generativa até agora. Aqui está o que eles fazem.

Risco de IA

No domingo, o governador Newsom sancionou o SB 896, que exige que o Escritório de Serviços de Emergência da Califórnia realize análises de risco sobre ameaças potenciais representadas pela IA generativa. A CalOES trabalhará com empresas modelo de fronteira, como OpenAI e Anthropic, para analisar as ameaças potenciais da IA ​​à infraestrutura estatal crítica, bem como ameaças que poderiam levar a eventos de vítimas em massa.

Dados de treinamento

Outra lei que Newsom assinou este mês exige que os fornecedores de IA generativa revelem os dados utilizados para treinar os seus sistemas de IA em documentação publicada no seu website. AB 2013 entra em vigor em 2026 e exige que os provedores de IA publiquem: as fontes de seus conjuntos de dados, uma descrição de como os dados são usados, o número de pontos de dados no conjunto, se estão incluídos dados protegidos por direitos autorais ou licenciados, o período de tempo os dados foram coletados, entre outros padrões.

Sistemas de privacidade e IA

Newsom também assinou o AB 1008 no domingo, que esclarece que as leis de privacidade existentes na Califórnia também se estendem aos sistemas generativos de IA. Isso significa que se um sistema de IA, como o ChatGPT, expor as informações pessoais de alguém (nome, endereço, dados biométricos), as leis de privacidade existentes na Califórnia limitarão a forma como as empresas podem usar e lucrar com esses dados.

Educação

Newsom assinou a AB 2876 este mês, que exige que o Conselho Estadual de Educação da Califórnia considere a “alfabetização em IA” em suas estruturas curriculares e materiais instrucionais de matemática, ciências e história. Isso significa que as escolas da Califórnia podem começar a ensinar aos alunos os princípios básicos de como funciona a inteligência artificial, bem como as limitações, impactos e considerações éticas do uso da tecnologia.

Outra nova lei, a SB 1288, exige que os superintendentes da Califórnia criem grupos de trabalho para explorar como a IA está a ser utilizada na educação escolar pública.

Definindo IA

Este mês, Newsom assinou um projeto de lei que estabelece uma definição uniforme para inteligência artificial na lei da Califórnia. AB 2885 afirma que inteligência artificial é definida como “um sistema projetado ou baseado em máquina que varia em seu nível de autonomia e que pode, para objetivos explícitos ou implícitos, inferir a partir da entrada que recebe como gerar resultados que podem influenciar física ou virtualmente. ambientes.”

Assistência médica

Outro projeto de lei assinado em setembro é o AB 3030, que exige que os prestadores de cuidados de saúde divulguem quando utilizam IA generativa para comunicar com um paciente, especificamente quando essas mensagens contêm informações clínicas de um paciente.

Entretanto, Newsom assinou recentemente o SB 1120, que impõe limitações à forma como os prestadores de serviços de saúde e as seguradoras de saúde podem automatizar os seus serviços. A lei garante que médicos licenciados supervisionem o uso de ferramentas de IA nesses ambientes.

Chamadas automáticas de IA

Na sexta-feira passada, o governador Newsom sancionou um projeto de lei exigindo que as chamadas automáticas divulguem se usam vozes geradas por IA. AB 2905 visa evitar outro exemplo de chamada robótica deepfake semelhante à voz de Joe Biden, que confundiu muitos eleitores de New Hampshire no início deste ano.

Pornografia falsa

No domingo, Newsom sancionou a AB 1831, que expande o escopo das leis existentes sobre pornografia infantil para incluir matéria gerada por sistemas de IA.

Newsom assinou duas leis que tratam da criação e disseminação de nudes deepfake na semana passada. O SB 926 criminaliza o ato, tornando ilegal chantagear alguém com imagens de nus geradas por IA que se assemelham a eles.

O SB 981, que também se tornou lei na quinta-feira, exige que as plataformas de mídia social estabeleçam canais para os usuários denunciarem nus falsos que se pareçam com eles. O conteúdo deve então ser bloqueado temporariamente enquanto a plataforma o investiga e removido permanentemente se confirmado.

Marcas d'água

Também na quinta-feira, Newsom sancionou um projeto de lei para ajudar o público a identificar conteúdo gerado por IA.O SB 942 exige que sistemas de IA generativos amplamente utilizados divulguem que são gerados por IA nos dados de proveniência de seu conteúdo. Por exemplo, todas as imagens criadas pelo Dall-E da OpenAI agora precisam de uma pequena tag em seus metadados informando que foram geradas por IA.

Muitas empresas de IA já fazem isso, e existem várias ferramentas gratuitas que podem ajudar as pessoas a ler esses dados de proveniência e detectar conteúdo gerado por IA.

Deepfakes eleitorais

No início desta semana, o governador da Califórnia assinou três leis que reprimem os deepfakes de IA que poderiam influenciar as eleições.

Uma das novas leis da Califórnia, AB 2655, exige que grandes plataformas online, como Facebook e X, removam ou rotulem deepfakes de IA relacionados a eleições, bem como criem canais para denunciar tal conteúdo. Candidatos e autoridades eleitas podem buscar medida cautelar se uma grande plataforma online não cumprir a lei.

Outra lei, a AB 2839, visa os utilizadores das redes sociais que publicam, ou repassam, deepfakes de IA que podem enganar os eleitores sobre as próximas eleições. A lei entrou em vigor imediatamente na terça-feira, e Newsom sugeriu que Elon Musk pode correr o risco de violá-la.

Anúncios políticos gerados por IA agora exigem divulgações diretas sob a nova lei da Califórnia, AB 2355. Isso significa que daqui para frente, Trump pode não ser capaz de postar deepfakes de IA de Taylor Swift endossando-o no Truth Social (ela endossou Kamala Harris). A FCC propôs um requisito de divulgação semelhante em nível nacional e já tornou ilegais as chamadas automáticas usando vozes geradas por IA.

Atores e IA

Duas leis que Newsom assinou no início deste mês – que o SAG-AFTRA, o maior sindicato de atores de cinema e radiodifusão do país, estava defendendo – criam novos padrões para a indústria de mídia da Califórnia. AB 2602 exige que os estúdios obtenham permissão de um ator antes de criar uma réplica de sua voz ou imagem gerada por IA.

Entretanto, a AB 1836 proíbe os estúdios de criarem réplicas digitais de artistas falecidos sem o consentimento dos seus bens (por exemplo, réplicas legalmente autorizadas foram utilizadas nos recentes filmes “Alien” e “Star Wars”, bem como noutros filmes).

SB 1047 é vetada

O governador Newsom ainda tem alguns projetos de lei relacionados à IA para decidir antes do final de setembro. Porém, o SB 1047 não é um deles – o projeto foi vetado no domingo.

Numa carta explicando a sua decisão, Newsom disse que o SB 1047 se concentrava demasiado estritamente em grandes sistemas de IA que poderiam “dar ao público uma falsa sensação de segurança”. O governador da Califórnia observou como os pequenos modelos de IA podem ser tão perigosos como os visados ​​pelo SB 1047 e disse que é necessária uma abordagem regulamentar mais flexível.

Durante um bate-papo com o CEO da Salesforce, Marc Benioff, no início deste mês, durante a conferência 2024 Dreamforce, Newsom pode ter tirado o chapéu sobre o SB 1047 e como ele está pensando em regulamentar a indústria de IA de forma mais ampla.

“Há um projeto de lei que é meio descomunal em termos de discurso público e consciência; é este SB 1047”, disse Newsom no palco este mês. “Quais são os riscos demonstráveis ​​na IA e quais são os riscos hipotéticos? Não consigo resolver tudo. O que podemos resolver? E essa é a abordagem que estamos adotando em todo o espectro.”

Volte neste artigo para obter atualizações sobre quais leis de IA o governador da Califórnia assina e o que ele não assina.