A IA é perigosa porque as grandes empresas não a deixam ser segura

Inteligência Artificial, a tecnologia que levará a humanidade a uma utopia tecnológica ou ao inferno num cesto de mão. Estamos no ponto do desenvolvimento da IA ​​em que qualquer uma das realidades pode se tornar realidade. IA é fogo, e todos nós somos homens das cavernas prestes a aprender seu potencial construtivo e destrutivo. Embora os CEOs e porta-vozes das principais empresas que desenvolvem IA façam o possível para nos garantir que o sabor da tecnologia é seguro, são essas mesmas empresas que tornam a IA menos que segura.

Obviamente, não podemos falar por TODAS as empresas, mas podemos iluminar as maiores baleias do lago. Isso inclui empresas como Google, Meta, OpenAI e Microsoft. Empresas como Anthropic, Perplexity e Apple são importantes, mas as empresas mencionadas são algumas das que estão fazendo os maiores movimentos no mercado de IA. Claro, a Apple é uma empresa ENORME, mas, por enquanto, ainda é uma empresa que prioriza o hardware; ainda não fez nenhum movimento importante no mercado de IA.

A tecnologia de IA nunca seria segura, vamos encarar. As engrenagens estão girando, e já estão girando há algum tempo, o que basicamente elimina qualquer possibilidade de isso acontecer.

Apenas mais uma corrida desenfreada com fins lucrativos

Todos nós gostamos de pensar que a IA está sendo desenvolvida por grandes nerds que só querem tornar o mundo um lugar melhor. Embora Sundar Pichai, Sam Altman, Satya Nadella e Mark Zuckerberg sejam nerds, eles são, antes de mais nada, CEOs. Isso significa que o foco principal é garantir que sua IA seja rentável. Eles precisam manter os investidores felizes, como sempre. Portanto, lançar os mais novos e mais chamativos trunfos da IA, tornando-o realmente seguro.

A IA é apenas mais uma corrida desenfreada voltada para o lucro, e isso traz todas as armadilhas clássicas. Por mais que gostemos de acreditar nas falas que ouvimos durante as palestras, o fato é que a segurança simplesmente não é a prioridade. Segurança não significa apenas criar tecnologia de IA que não produza conteúdo impreciso ou racista. A segurança também diz respeito a evitar que uma ferramenta de IA assuma empregos em massa.

Já estamos vendo mecanismos de pesquisa e ferramentas de IA, como o AI Overviews do Google, dominando o espaço. Qualquer idiota pode ver como ferramentas como essas podem devastar inúmeras empresas ao redor do mundo. Bem, adivinhe, a OpenAI agora está competindo com o Google e vice-versa. Além disso, ambas as empresas estão competindo com a Perplexity. Eles já estão travando uma batalha acirrada por esse mercado e agora é uma corrida louca para tornar suas ferramentas mais úteis. É improvável que alguma empresa recue pelo bem dos negócios e das pessoas afetadas por isso. Não! Agora, é hora das empresas se esforçarem e criarem o mecanismo de busca de IA mais fácil de usar para irritar a concorrência.

As empresas não podem priorizar a segurança neste momento porque precisam tornar as suas ferramentas de IA mais úteis e populares do que a concorrência. Se não conseguirem, então os seus investidores levarão os seus dólares para outro lugar.

Priorizar a segurança significa dar um passo atrás e perguntar como as pessoas serão afetadas negativamente por uma tecnologia. No entanto, temos visto alguns movimentos bastante desprezíveis por parte dessas grandes empresas de IA. Estamos vendo empresas como RunwayAI, Meta e Alphabet (basicamente Google) indo para Hollywood e outros estúdios de cinema para usar sua mídia licenciada para treinar seus geradores de vídeo de IA. Esta tecnologia está preparada para colocar nas ruas milhares de pessoas da indústria cinematográfica, mas as empresas precisam de dados para tornar os seus modelos os maiores e melhores do mercado. Para o inferno com o povo!

Sem regulamentação adequada, as empresas de IA são livres para fazer todos os esforços para garantir que a sua IA seja a melhor, e não há ninguém para impedi-la.

E as outras empresas?

As empresas que fabricam a IA são péssimas, mas não podemos esquecer das empresas que utilizam a IA. No momento em que vimos algumas das habilidades do ChatGPT, uma das piores características da IA ​​tornou-se aparente. Esta tecnologia dá às empresas a capacidade de eliminar trabalhadores a torto e a direito. Deveríamos realmente ficar surpresos? A maioria das grandes empresas não hesitará em demitir equipes inteiras se isso significar que podem maximizar os lucros, e isso tem sido verdade muito antes de a IA existir. À medida que são lançadas novas tecnologias que trazem maior eficiência, as empresas dispensam os seus trabalhadores humanos para maximizar os seus lucros.

Bem pessoal, adivinhem o que é IA. Isso mesmo! É uma nova tecnologia que traz maior eficiência. “Por que pagar uma equipe de redatores quando duas pessoas poderiam fazer com que o ChatGPT publicasse artigos com o dobro da velocidade?” “Espere, esta ferramenta de IA pode simular um agente real de call center? Por que preciso de humanos nos telefones?!” “Não entendo por que preciso trazer uma equipe de cineastas para o set quando posso simplesmente gerar essas cenas.”

Existem várias empresas por aí que não se venderam à IA e ainda empregam trabalho humano, mas essas empresas têm de partilhar espaço com megacorporações sedentas de lucro. Já estamos vendo ferramentas de IA que tornam obsoletas diversas funções em diversos setores. O pior é que estamos vendo pessoas sendo dispensadas a torto e a direito. Artistas, escritores, compositores e outros trabalhadores estão a ser despedidos porque eliminar o lixo gerado pela IA a um quinto do tempo e do preço é mais importante do que os seres humanos. Do jeito que as grandes empresas têm sido historicamente, não havia como a IA não colocar as pessoas nas ruas aos montes. À medida que a tecnologia de IA se torna mais avançada, veremos esta tendência continuar.

Não vamos esquecer do dinheiro

Adivinhe quanto dinheiro essas grandes corporações ganharam com a tecnologia de IA. US$ 0,00. Atualmente, a tecnologia de IA representa uma enorme perda financeira para as empresas envolvidas. Isto se aplica às empresas que treinam os modelos de IA, e não às pequenas empresas que utilizam esses modelos.

A principal razão pela qual essas empresas estão lutando para obter lucro é que treinar seus modelos custa muito dinheiro. Essa é uma das maiores despesas e, como você pode imaginar, vem aumentando ao longo dos anos. Como informamos (via Época), o custo de treinamento de modelos de IA mais que dobrou a cada ano desde 2016. Em 2016, o custo médio de treinamento de um modelo de IA era de cerca de US$ 15 mil, e isso era para modelos rudimentares. Em 2024, o preço médio é de US$ 11 milhões.

Esta é apenas a média, e as empresas maiores pagam muito mais para treinar seus modelos. Por exemplo, o Google gastou cerca de US$ 120 milhões treinando o Gemini 1.0 Ultra. Desde então, obtivemos modelos adicionais do Google, como a série Gemini 1.5. Além disso, o Google tem vários outros modelos que treina diariamente. Isso vale para outras grandes empresas como Microsoft, Meta e OpenAI.

Eles estão vazando dinheiro como se isso não fosse da conta de ninguém, mas o fato é que isso É da conta de outras pessoas. Empresas como Google, Microsoft e Meta são conhecidas por dispensar milhares de funcionários. Juntas, estas empresas despediram dezenas de milhares de trabalhadores nos últimos anos. Bem, com eles gastando mais dinheiro a cada ano em sua tecnologia de IA, e com sua tecnologia de IA não ganhando nenhum dinheiro, só podemos esperar que as demissões continuem.

O que torna isso pior é o fato de que o Google depende fortemente da tecnologia de IA internamente. Com os custos e capacidades crescentes da IA, quem pode dizer quantas pessoas mais perderão os seus empregos?

Esse é apenas um lado da moeda. Os preços já estão a subir para os consumidores em geral, à medida que a economia está a sofrer. O mesmo vale para os serviços oferecidos por empresas como Google e Microsoft. Bem, com eles investindo dinheiro na IA, também podemos esperar que os preços dos seus serviços subam para compensar. A OpenAI já declarou que o preço do ChatGPT Plus aumentará para US$ 22/mês até o final de 2024. À medida que essas empresas investem mais dinheiro em IA, sabemos que alguns desses custos serão transferidos para os usuários.

A IA tem fome de poder!

A IA é uma tecnologia bastante cara e não estamos falando apenas de dinheiro. Exige uma tonelada de energia. Para treinar esses modelos, as empresas precisam de data centers massivos que funcionem constantemente. Bem, esses data centers requerem muita energia para continuar funcionando. O Google e as outras empresas também não estão fechando esses data centers durante a noite. Não, eles estão funcionando 24 horas por dia, 7 dias por semana. Isto já é suficientemente mau, mas a verdade é que as empresas estão a adicionar mais chips a estes centros de dados à medida que os seus modelos de IA crescem. Suas demandas energéticas crescerão junto com eles.

Novamente, o foco principal dessas empresas é fazer com que o modelo acabe com todos os modelos. Eles não se importam com o que é preciso para chegar a esse ponto. Assim, o consumo de energia disparará à medida que os modelos de IA crescerem. Um relatório do Barclays afirma que os data centers representam atualmente cerca de 3,5% do consumo de energia nos EUA. 3,5% é um número muito pequeno, mas é uma parte bastante substancial de TODO o consumo de energia no país. Em 2027, esse número poderá crescer para 5,5% e poderá chegar a 9% em 2030. Portanto, se o relatório for verdadeiro, os centros de dados de IA poderão ser responsáveis ​​por quase 10% do consumo de energia do país em apenas seis anos!

Se isto continuar, estaremos no caminho certo para uma crise energética. Como essas empresas estão travando uma batalha acirrada, nenhuma delas pode recuar para economizar energia. Eles precisam reunir mais GPUs, expandir seus data centers e aumentar ainda mais a conta de energia mundial em prol da IA. É muito difícil usar IA em seus negócios se não houver energia para realmente administrá-los.

O que torna isto pior é o facto de várias das principais empresas de IA, incluindo Google, Microsoft e Meta, estarem a investigar a energia nuclear. Esta fonte de energia já é assustadora o suficiente, mas agora as empresas estão procurando construir mais reatores para sustentar seus data centers. Claro, os colapsos nucleares não são comuns, mas acontecem. Ostensivamente, com mais reactores, a probabilidade de colapsos só aumentará.

Se as empresas já estão de olho na tecnologia nuclear apenas dois anos após o início da era da IA, só podemos imaginar o que acontecerá daqui a 10 anos. As empresas ainda estarão à procura de fontes de energia mais robustas? Energia é algo em que realmente não pensamos, mas é uma daquelas coisas que todos temos que compartilhar. Se uma fonte consumir tudo, não haverá o suficiente para todos.

Há o efeito no meio ambiente

Quando a maioria das pessoas pensa em tecnologia de IA, na verdade não pensa nos seus efeitos no meio ambiente. No entanto, todas as empresas têm uma pegada de carbono, e isso vale especialmente para as grandes empresas. A produção de carbono não é específica das empresas de IA. No entanto, a IA é um catalisador que está a aumentar a quantidade de carbono que estas empresas expelem para a atmosfera.

Não acredite apenas na nossa palavra, acredite na própria boca do Google. A empresa informou que suas emissões de carbono aumentaram 48% nos últimos cinco anos. Embora as suas recentes ambições em IA tenham surgido há cerca de dois anos, a empresa vem treinando seus modelos de IA há muito mais tempo. Outro exemplo é a Microsoft, que relatou um aumento de 30% nas emissões de carbono desde 2020.

Não podemos ignorar que outros fatores contribuíram para o aumento das emissões de carbono de cada empresa. No entanto, a rápida expansão dos data centers de IA, a aquisição de GPUs e outros fatores fizeram com que suas emissões disparassem.

Mais uma vez, temos que fazer a pergunta: o que acontecerá daqui a 10 anos? As empresas têm metas neutras em carbono que planeiam atingir dentro de uma década, mas estão a ir na direção errada. Quanto mais expandem os seus modelos de IA, maior cresce a sua pegada de carbono. Infelizmente, o meio ambiente já está sofrendo há séculos com os seres humanos…. bem, existente. Com as grandes empresas a pressionarem cada vez mais por uma IA mais poderosa, como podemos esperar que compensem adequadamente as suas emissões? Você não pode parar um carro se seu pé estiver no acelerador.

Da maneira mais difícil

A era da IA ​​ainda está começando e estamos apenas começando a ver alguns de seus efeitos. Por mais que os CEOs das grandes empresas gostem de destacar todos os benefícios da IA, estamos vendo vários dos benefícios opostos. Estamos vendo pessoas perdendo seus empregos, aumentos de preços, aumento de carbono e aumento do uso de energia. Toda tecnologia tem seus lados bons e ruins, e a IA não é diferente. No entanto, as principais pessoas que têm a capacidade – e a responsabilidade – de torná-la segura são as principais, tornando-a uma das tecnologias mais perigosas que já existiu.

A tecnologia de IA pode ter alguns efeitos negativos importantes para a humanidade, e ainda não sabemos quais são. Mas, se as empresas não mudarem seus hábitos, descobriremos o que são da maneira mais difícil.