O Human Rights Law Center lançou um novo guia que capacita os funcionários de tecnologia australianos a se manifestarem contra práticas ou produtos prejudiciais da empresa.
O guia, Denúncias Relacionadas à Tecnologia, fornece um resumo das vias legalmente protegidas para levantar preocupações sobre os impactos nocivos da tecnologia, bem como considerações práticas.
VEJA: Leis de ‘direito à desconexão’ levam os empregadores a repensar o uso da tecnologia para o equilíbrio entre vida pessoal e profissional
“Ouvimos muito este ano sobre a conduta prejudicial de empresas habilitadas para tecnologia e, sem dúvida, há mais por vir”, disse Alice Dawkins, diretora executiva da Reset Tech Australia, em um comunicado. Reset Tech Australia é coautor do relatório.
Ela acrescentou: “Sabemos que levará tempo para progredir em proteções abrangentes para os australianos contra danos digitais – é especialmente urgente abrir a porta para a responsabilização pública por meio de denúncias”.
Danos potenciais da tecnologia são uma área de foco no mercado australiano
A Austrália sofreu relativamente poucas denúncias relacionadas à tecnologia. Na verdade, Kieran Pender, diretor jurídico associado do Human Rights Law Centre, disse: “a onda de denúncias de tecnologia ainda não chegou à Austrália”.
No entanto, os potenciais danos envolvidos nas tecnologias e plataformas têm estado no centro das atenções devido às novas leis do governo australiano e a vários escândalos relacionados com a tecnologia e à cobertura mediática.
Proibição da Austrália de mídias sociais para menores de 16 anos
A Austrália legislou a proibição das redes sociais para cidadãos menores de 16 anos, que entrará em vigor no final de 2025. A proibição, estimulada por questões sobre os impactos das redes sociais na saúde mental dos jovens, exigirá plataformas como Snapchat, TikTok, Facebook, Instagram, e Reddit para verificar a idade dos usuários.
Um ‘dever digital de cuidado’ para empresas de tecnologia
A Austrália está em processo de legislar um “dever de cuidado digital” após uma revisão de sua Lei de Segurança Online de 2021. A nova medida exige que as empresas de tecnologia mantenham proativamente os australianos seguros e evitem melhor os danos online. Segue uma abordagem legislativa semelhante às versões do Reino Unido e da União Europeia.
Má automação no escândalo fiscal Robodebt
A automação assistida por tecnologia, na forma de correspondência de dados do contribuinte e cálculos de média de rendimento, resultou em 470.000 dívidas fiscais emitidas indevidamente, sendo processadas pelo Australian Taxation Office. O chamado esquema Robodebt foi considerado ilegal e resultou numa investigação completa da Comissão Real.
Uso de dados de IA e impacto nos empregos australianos
Um Comitê Seleto do Senado Australiano recomendou recentemente o estabelecimento de uma lei de IA para governar as empresas de IA. OpenAI, Meta e Google LLMs seriam classificados como de “alto risco” sob a nova lei.
Muitas das preocupações envolviam o uso potencial de material protegido por direitos autorais em dados de treinamento de modelos de IA sem permissão e o impacto na subsistência dos criadores e outros trabalhadores devido à IA. Um denunciante recente da OpenAI compartilhou algumas preocupações nos EUA
Consentir um problema nos dados de integridade do modelo de IA
O guia de denúncias relacionadas à tecnologia aponta para relatos de que uma empresa australiana de radiologia entregou exames médicos de pacientes sem seu conhecimento ou consentimento para uma start-up de IA de saúde usar os exames para treinar modelos de IA.
Fotos de crianças australianas usadas por modelos de IA
A análise da Human Rights Watch descobriu que o LAION-5B, um conjunto de dados usado para treinar algumas ferramentas populares de IA por meio da coleta de dados da Internet, contém links para fotos identificáveis de crianças australianas. As crianças ou suas famílias não deram consentimento.
Pagamento após escândalo do Facebook Cambridge Analytica
O Escritório do Comissário de Informação Australiano aprovou recentemente um acordo de US$ 50 milhões da Meta após alegações de que dados de usuários do Facebook foram coletados por um aplicativo, expostos a possível divulgação à Cambridge Analytica e outros, e possivelmente usados para perfis políticos.
Preocupações com o algoritmo de detidos de imigração
O guia de denúncias relacionadas à tecnologia faz referência a relatórios sobre um algoritmo usado para avaliar os níveis de risco associados aos detidos de imigração. A classificação do algoritmo supostamente impactou a forma como os detidos de imigração eram gerenciados, apesar das dúvidas sobre os dados e as classificações.
Trabalhadores de tecnologia australianos têm proteções detalhadas contra denúncias
O guia descreve detalhadamente as proteções potencialmente disponíveis para denunciantes de funcionários de tecnologia. Por exemplo, explica que no sector privado australiano existem diferentes leis de denúncia que cobrem certas “questões divulgáveis” que tornam os funcionários elegíveis para protecções legais.
De acordo com a Lei das Sociedades por Ações, um “assunto divulgável” surge quando há motivos razoáveis para suspeitar que a informação se refere a má conduta ou a um estado de coisas ou circunstâncias impróprias em uma organização.
VEJA: Accenture, líderes SAP em problemas e soluções de diversidade de preconceitos de IA
Os funcionários do setor público podem aproveitar a legislação de Divulgação de Interesse Público em circunstâncias que envolvam riscos substanciais para a saúde, a segurança ou o ambiente.
“É provável que surjam preocupações com a tecnologia digital nos setores público e privado, o que significa que existe a possibilidade de que a sua divulgação possa ser capturada pelas leis de denúncia do setor privado ou por um esquema PID – dependendo da organização à qual o seu relatório se refere”, o guia aconselhou os funcionários australianos.
“Na maioria dos casos, isso será fácil de determinar, mas caso contrário, encorajamos você a procurar aconselhamento jurídico.”
Austrália: um campo de testes para o que é “bom, ruim e ilegal” na tecnologia
A denunciante Frances Haugen, fonte do material interno do Facebook que levou à investigação dos Arquivos do Facebook no Wall Street Journal, escreveu um prefácio para o guia australiano. Ela disse que o governo australiano estava sinalizando medidas de responsabilização tecnológica, mas seu projeto “continua incipiente”.
“A Austrália é, em muitos aspectos, um centro de testes para muitos dos gigantes tecnológicos existentes no mundo e uma incubadora para o que é bom, o que é mau e o que é ilegal”, afirmou ela no guia de denúncia.
VEJO: Austrália propõe proteções obrigatórias para IA
Os autores argumentam no seu comunicado que mais pessoas do que nunca na Austrália estão a ser expostas aos danos causados pelas novas tecnologias, plataformas digitais e inteligência artificial. No entanto, observaram que, no meio do debate político, o papel dos denunciantes na exposição de irregularidades tem sido largamente ignorado.
Haugen escreveu que “a profundidade, a amplitude e o ritmo dos novos riscos digitais estão a surgir em tempo real”.
“As divulgações oportunas continuarão a ser vitalmente necessárias para obter uma imagem mais clara dos riscos e potenciais danos decorrentes dos produtos e serviços digitais”, concluiu ela.