Afinal, a IA generativa não precisa ser um consumidor de energia

Como uma crise de meia-idade, com o pai trocando seu sedã econômico por um muscle car que consome muita gasolina, a ascensão da IA ​​generativa (gen AI) e suas GPUs ávidas de energia pareciam ser a sentença de morte para qualquer preocupação com computação. eficiência energética e sustentabilidade corporativa.

Os primeiros números pareciam mostrar que esse pesadelo se tornava realidade. Após anos de aumentos constantes nos compromissos para reduzir o consumo de energia e criar capacidades de computação eficientes, a investigação de Aberdeen em 2023 mostrou pela primeira vez um pequeno declínio nestas métricas, à medida que as empresas deixaram de lado os compromissos de eficiência na corrida para implementar infra-estruturas de computação poderosas para alavancar tecnologias artificiais. inteligência (IA).

Além disso: as tendências tecnológicas do Gartner para 2025 mostram como sua empresa precisa se adaptar – e rapidamente

É difícil culpar as empresas por esse lapso. Afinal, o entusiasmo que acompanhou a primeira onda da geração de IA fez com que muitas organizações acreditassem que precisavam ter soluções e capacidades de IA o mais rápido possível.

Isso acompanhou histórias sobre a escassez de GPU e o aumento do poder de uma determinada empresa de chips gráficos que enfatizava o poder de computação em vez da conservação de energia. Ouvimos até falar de algumas pequenas empresas que compraram sistemas de jogos para criação de IA. Por algum tempo, parecia que a era da sustentabilidade, da conservação de energia e dos compromissos de carbono zero estava em terreno bastante instável.

Mas, juntamente com a redução do entusiasmo e o aumento do cepticismo razoável sobre algumas das previsões mais extremas da IA, as tendências na utilização e implementação da IA ​​generativa mostram que muitas empresas podem tirar partido da IA ​​e, ao mesmo tempo, reduzir o consumo de energia e os custos.

Para compreender algumas destas tendências, a Aberdeen concluiu recentemente um novo inquérito sobre como as empresas utilizam e planeiam utilizar a IA. Neste inquérito, perguntámos sobre os fatores que levam as empresas a utilizar a IA, os desafios que enfrentam, as principais estratégias e tecnologias que utilizam e quais os benefícios que já podem ter obtido com a utilização da IA. As descobertas serão apresentadas na próxima conferência SpiceWorld, em novembro, em Austin.

Além disso: Spiceworks convida leitores ZDNET para sua conferência de TI SpiceWorld 2024 – com desconto de 40%

Como seria de esperar, a maioria das organizações está a levar a IA muito a sério, com mais de 90% a utilizar IA de alguma forma e 25% a fazer investimentos estratégicos dedicados na construção de IA (um número que deverá crescer mais de 20% nos próximos seis meses). No entanto, curiosamente, também estamos a assistir ao surgimento de uma abordagem mais prática e focada na eficiência para a utilização da IA ​​genérica.

Em grande medida, as empresas procuram aproveitar a IA internamente, com os seus próprios dados e utilizando pequenos modelos de linguagem personalizados. À primeira vista, isso pode levar você a se preocupar com a possibilidade de eles investirem em muitos sistemas que consomem muita energia e usam GPU.

Mas cada vez mais, as empresas estão descobrindo que a construção de pequenos modelos personalizados não requer bancos enormes de sistemas poderosos (já ouvi falar de algumas empresas que construíram seus modelos no laptop de um único engenheiro) e que o consumo de energia pode ser reduzido ao mínimo. Na verdade, quando perguntamos quais tecnologias as empresas estavam comprando para apoiar suas iniciativas de IA, as GPUs caíram para o 4º lugar, enquanto o aumento da capacidade de armazenamento e os recursos de nuvem híbrida estavam no topo da lista.

Estas tendências fazem sentido, uma vez que as empresas precisam de gerir e armazenar as enormes quantidades de dados necessários para alimentar os seus modelos de IA. E cada vez mais, os modelos de nuvem híbrida que aproveitam a flexibilidade da nuvem e a segurança e o desempenho do local estão provando ser infraestruturas essenciais para a implantação de soluções de IA.

Além disso: o segredo para iniciativas digitais bem-sucedidas é muito simples, de acordo com o Gartner

Mais importante ainda, as empresas e os usuários de IA não estão mais priorizando o poder computacional em detrimento da eficiência quando se trata de usar IA generativa. Na nossa pesquisa, vimos que o declínio na preocupação com o uso de energia se inverteu e, em vez disso, vimos um aumento de 10% nas preocupações com o consumo de energia, uma vez que estas organizações estão a compreender que podem beneficiar da IA ​​sem deitar fora a conservação de energia e a sustentabilidade. a janela.

É claro que, quando se trata dos maiores fornecedores de IA do mundo, a energia ainda é uma necessidade, e é por isso que vemos grandes intervenientes como a Amazon, a Microsoft e a Google a fazerem acordos de exclusividade para a energia proveniente de novas centrais nucleares. Mas existem outras tendências e potenciais novas tecnologias em torno da IA ​​que poderão até reduzir o consumo de energia destes gigantes.

Além disso: o futuro da computação deve ser mais sustentável, mesmo que a demanda por IA alimente o uso de energia

Pesquisadores dos setores público e privado estão trabalhando e demonstrando novas técnicas usando Multiplicação de Complexidade Linear e Multiplicação de Matrizes que têm o potencial de reduzir enormemente o consumo de energia da IA ​​generativa. E no período mais imediato, vimos vários novos desenvolvimentos de servidores e sistemas de grandes fornecedores que são projetados para serem mais eficientes quando se trata de construir e desenvolver soluções de IA.

Tudo isto significa que a era da IA ​​generativa e da conservação de energia mutuamente exclusivas pode estar a chegar ao fim. As empresas preocupam-se com a poupança de energia e a eficiência e estão a descobrir que podem beneficiar da IA ​​e atingir os seus objetivos de poupança de energia.

Mais ou menos como se aquele pai em crise de meia-idade trocasse o carro esporte por um EV de alto desempenho.