Se o seu código gerado por IA apresentar defeito, quem enfrentará maior exposição a responsabilidades?

No primeiro artigo desta análise em duas partes, analisamos quem é o proprietário do código criado por chatbots de IA como o ChatGPT e exploramos as implicações legais do uso de código gerado por IA.

Parte I: Quem é o proprietário do código? Se a IA do ChatGPT ajudar a escrever seu aplicativo, ele ainda pertence a você?

Agora, discutiremos questões de responsabilidade e exposição.

Responsabilidade funcional

Para enquadrar esta discussão, recorro ao advogado e membro de longa data do Internet Press Guild Ricardo Santalesa. Com sua formação em jornalismo tecnológico, Santalesa entende essas coisas tanto do ponto de vista jurídico quanto tecnológico. (Ele é membro fundador do Grupo SmartEdgeLaw.)

“Até que os casos cheguem aos tribunais para responder definitivamente a esta questão, as implicações legais do código gerado pela IA são as mesmas que as do código criado pelo homem”, aconselha.

Tenha em mente, continua ele, que o código gerado por humanos está longe de ser isento de erros. Nunca haverá um acordo de nível de serviço que garanta que o código seja perfeito ou que os usuários tenham uso ininterrupto dos serviços.

Também: ChatGPT e a nova IA estão causando estragos na segurança cibernética de maneiras emocionantes e assustadoras

Santalesa também ressalta que é raro que todas as partes de um software sejam inteiramente desenvolvidas internamente. “A maioria dos programadores usa SDKs e bibliotecas de código que não foram pessoalmente examinados ou analisados, mas nos quais confiam mesmo assim”, diz ele. “Acho que o código gerado pela IA – por enquanto – estará no mesmo grupo quanto às implicações legais.”

Envie os trolls

Sean O’Brien, professor de segurança cibernética na Yale Law School e fundador do Yale Privacy Lab, aponta um risco para os desenvolvedores que é inegavelmente preocupante:

As chances de que os prompts de IA possam gerar código proprietário são muito altas, se estivermos falando de ferramentas como ChatGPT e Copilot, que foram treinadas em um enorme tesouro de código, tanto de código aberto quanto de variedade proprietária.

Não sabemos exatamente qual código foi usado para treinar os chatbots. Isso significa que não sabemos se os segmentos de saída de código do ChatGPT e outras ferramentas semelhantes são gerados pela IA ou apenas ecoados do código que ela ingere como parte do processo de treinamento.

Também: 5 maneiras de explorar o uso de IA generativa no trabalho

Se você é um desenvolvedor, é hora de se preparar. Aqui está a previsão de O’Brien:

Acredito que em breve haverá toda uma subindústria de trolling que espelha os trolls de patentes, mas desta vez em torno de trabalhos gerados por IA. À medida que mais autores usam ferramentas baseadas em IA para enviar código sob licenças proprietárias, um ciclo de feedback é criado. Haverá ecossistemas de software poluídos com códigos proprietários que serão objecto de reivindicações de cessação e desistência por parte de empresas empreendedoras.

Assim que O’Brien mencionou o fator troll, os cabelos da minha nuca se arrepiaram. Isso vai ficar muito, muito confuso.

O advogado canadense Robert Piasentin, sócio do grupo de tecnologia do escritório canadense de advocacia empresarial McMillan LLP, também aponta que os chatbots poderiam ter sido treinados em trabalho de código aberto e fontes legítimas, juntamente com trabalho protegido por direitos autorais. Todos esses dados de treinamento podem incluir dados (ou algoritmos) falhos ou tendenciosos, bem como dados proprietários corporativos.

Além disso: o estudioso de IA Gary Marcus defende fortemente uma agência reguladora de IA

Piasentin explica: “Se a IA se basear em informações incorretas, deficientes ou tendenciosas, o resultado da ferramenta de IA pode dar origem a várias reclamações potenciais, dependendo da natureza do dano potencial ou dano que o resultado pode ter causado (seja diretamente ou indiretamente).”

Aqui está outro pensamento: alguns tentarão corromper os corpora de treinamento (as fontes de conhecimento que as IAs usam para fornecer seus resultados). Uma das coisas que os humanos fazem é encontrar maneiras de manipular o sistema. Portanto, não só haverá exércitos de trolls legais tentando encontrar pessoas para processar, mas também haverá hackers, criminosos, estados-nação desonestos, estudantes do ensino médio e malucos – todos tentando alimentar dados errados em cada IA ​​que puderem encontrar, seja pelo prazer ou por razões muito mais nefastas.

Talvez não devêssemos insistir muito no lado negro.

Quem é o culpado?

Nenhum dos advogados, porém, discutiu quem é o culpado se o código gerado por uma IA resultar em algum resultado catastrófico.

Por exemplo: A empresa que entrega um produto compartilha alguma responsabilidade por, digamos, escolher uma biblioteca que apresenta deficiências conhecidas. Se um produto for enviado usando uma biblioteca que possui explorações conhecidas e esse produto causar um incidente que resulte em danos tangíveis, quem é o proprietário dessa falha? O fabricante do produto, o codificador da biblioteca ou a empresa que escolheu o produto?

Normalmente, são todos os três.

Também: O mais recente desafiante do ChatGPT: A Suprema Corte

Agora adicione o código AI à mistura. Claramente, a maior parte da responsabilidade recai sobre os ombros do codificador que opta por usar o código gerado por uma IA. Afinal, é do conhecimento geral que o código pode não funcionar e precisa ser exaustivamente testado.

Num processo abrangente, os requerentes também irão atrás das empresas que produzem as IAs e até mesmo das organizações das quais o conteúdo foi retirado para treinar essas IAs (mesmo que isso seja feito sem permissão)?

Como todos os advogados me disseram, há muito pouca jurisprudência até agora. Não saberemos realmente as respostas até que algo dê errado, as partes cheguem ao tribunal e o caso seja julgado minuciosamente.

Estamos em águas desconhecidas aqui. Meu melhor conselho, por enquanto, é testar seu código completamente. Teste, teste e teste mais um pouco.

---

Você pode acompanhar as atualizações diárias do meu projeto nas redes sociais. Não deixe de me seguir no Twitter em @DavidGewirtzno Facebook em Facebook.com/DavidGewirtz, no Instagram em Instagram.com/DavidGewirtz e no YouTube em YouTube.com/DavidGewirtzTV.