Agora, os artistas estão revidando. E algumas das ferramentas mais poderosas que eles têm foram criadas por Shawn Shan, 26, um estudante de doutorado em ciência da computação na Universidade de Chicago (e Inovador do Ano de 2024 da MIT Technology Review).
Shan começou sua carreira em segurança e privacidade de IA como estudante de graduação lá e participou de um projeto que construiu o Fawkes, uma ferramenta para proteger rostos da tecnologia de reconhecimento facial. Mas foram conversas com artistas que foram prejudicados pelo boom da IA generativa que o lançaram no meio de uma das maiores lutas do campo. Logo após saber sobre o impacto nos artistas, Shan e seus conselheiros Ben Zhao (que entrou na nossa lista de Inovadores com Menos de 35 em 2006) e Heather Zheng (que estava na lista de 2005) decidiram construir uma ferramenta para ajudar. Eles reuniram informações de mais de mil artistas para aprender o que precisavam e como usariam qualquer tecnologia de proteção.
CLARISSA BONETShan codificou o algoritmo por trás do Glaze, uma ferramenta que permite que os artistas mascarem seu estilo pessoal da imitação de IA. O Glaze foi lançado no início de 2023 e, em outubro passado, Shan e sua equipe introduziram outra ferramenta chamada Beladona que adiciona uma camada invisível de “veneno” às imagens para dificultar modelos de IA geradores de imagens se eles tentarem incorporar essas imagens em seus conjuntos de dados. Se veneno suficiente for introduzido nos dados de treinamento de um modelo de aprendizado de máquina, isso pode quebrar modelos permanentemente e tornar suas saídas imprevisíveis. Ambos os algoritmos funcionam adicionando mudanças invisíveis aos pixels das imagens que interrompem a maneira como os modelos de aprendizado de máquina as interpretam.
A resposta ao Glaze foi “esmagadora e estressante”, diz Shan. A equipe recebeu reações negativas de impulsionadores da IA generativa nas mídias sociais, e houve várias tentativas de quebrar as proteções.
Mas os artistas adoraram. O Glaze foi baixado quase 3,5 milhões de vezes (e o Nightshade mais de 700.000). Ele também foi integrado à popular nova plataforma de arte Cara, permitindo que os artistas incorporem sua proteção em seus trabalhos quando eles carregam suas imagens. E o Glaze recebeu um prêmio de artigo distinto e o Prêmio de Defesa da Internet no Simpósio de Segurança Usenix, uma das principais conferências de segurança de computadores
O trabalho de Shan também permitiu que os artistas voltassem a ser criativos online, diz Karla Ortiz, uma artista que trabalhou com ele e a equipe para criar o Glaze e faz parte de uma ação coletiva contra empresas de IA generativa por violação de direitos autorais.
“Eles fazem isso porque são apaixonados por uma comunidade que foi… aproveitada (e) explorada, e eles estão realmente envolvidos nisso”, diz Ortiz.
Foi Shan, diz Zhao, quem primeiro entendeu que tipos de proteção os artistas estavam procurando e percebeu que o trabalho que eles fizeram juntos em Fawkes poderia ajudá-los a construir Glaze. Zhao descreve as habilidades técnicas de Shan como algumas das mais fortes que ele já viu, mas o que realmente o diferencia, ele diz, é sua capacidade de conectar pontos entre disciplinas. “Esses são os tipos de coisas que você realmente não pode treinar”, acrescenta Zhao.
