Este ano, houve um enorme investimento empresarial em inteligência artificial (IA), aproximando-se dos 14 mil milhões de dólares. No entanto, uma proporção significativa de empresas não tem certeza do que estão fazendo com a tecnologia, de acordo com uma pesquisa realizada pela empresa de capital de risco Menlo Ventures.
“Mais de um terço dos entrevistados da nossa pesquisa não têm uma visão clara de como a IA generativa será implementada em suas organizações”, escrevem os autores do relatório, os sócios da Menlo Ventures, Tim Tully e Joff Redfern, e o investidor Derek Xiao, que usou a ajuda do modelo de linguagem grande (LLM) Claude Sonnet 3.5 da Anthropic para compilar o relatório.
Além disso: a AWS diz que seus data centers de IA ficaram ainda mais eficientes – veja como
O relatório completo, 2024: O estado da IA generativa nas empresaspode ser lido no site da Menlo Ventures. A pesquisa foi realizada em setembro e outubro e é baseada nas respostas de 600 tomadores de decisão de TI.
O relatório é o resultado mais recente de Tully, Redfern e Xiao, que também ofereceram uma perspectiva sobre os agentes de IA em setembro.
Também: A jornada para agentes de IA totalmente autônomos e os capitalistas de risco que os financiam
Os autores sugerem que a incerteza em torno da IA generativa (Gen AI) indica que “ainda estamos nos estágios iniciais de uma transformação em grande escala”.
Na verdade, a falta de clareza sobre a estratégia de IA é apenas um elemento de uma peça que de outra forma seria muito positiva. Deixando de lado os gastos com chips de IA da Nvidia e outros, os gastos em “modelos básicos, treinamento + implantação de modelos, infraestrutura de dados específica de IA e novos aplicativos generativos de IA” totalizaram US$ 13,8 bilhões em 2024, relatam os autores, mais de seis vezes mais. como total de 2023 (US$ 2,3 bilhões).
“Este aumento nos gastos reflete uma onda de otimismo organizacional”, escrevem os autores. “72% dos tomadores de decisão antecipam uma adoção mais ampla de ferramentas generativas de IA num futuro próximo.”
A maior categoria de gastos com IA por essas empresas são os modelos básicos, os LLMs desenvolvidos pela Anthroptic, OpenAI e outros, que dispararam de mil milhões de dólares em 2023 para 6,8 mil milhões de dólares este ano. O menor gasto foi em dados e infraestrutura, de US$ 400 milhões.
Também: Os clientes da Snowflake obtêm ganhos iniciais com aplicativos Gen AI
No entanto, o maior aumento individual é para aplicações de IA, que aumentaram oito vezes, para 4,6 mil milhões de dólares. Esse número inclui três categorias: IA vertical, IA departamental e IA horizontal.
A maior categoria de gastos com IA são os modelos básicos.
Menlo Ventures
A categoria de aplicativos está “esquentando”, escrevem os pesquisadores.
“Embora os investimentos em modelos básicos ainda dominem os gastos com IA generativa das empresas, a camada de aplicação está agora crescendo mais rapidamente”, escrevem eles, “beneficiando-se da fusão de padrões de design no nível da infraestrutura. abrindo caminho para uma inovação mais ampla.”
Os casos de uso dominantes, por destaque, incluem a geração de código por meio de copilotos de código, incluindo o GitHub Copilot da Microsoft, atualmente em vias de atingir US$ 300 milhões em receita anual. Em seguida estão os chatbots de suporte, seguidos pela pesquisa e recuperação corporativa e resumos de reuniões gerados automaticamente.
Também: A IA não está atingindo um muro, apenas está ficando inteligente demais para benchmarks, diz Anthropic
Menlo tem interesse financeiro direto em gastos com IA, já que a empresa apóia muitas startups na área, incluindo a Pinecone, fabricante de bancos de dados antrópicos e vetoriais.
Na verdade, a Anthropic está ganhando terreno contra a OpenAI, relatam os autores, conquistando conversões de GPT para Claude.
“Entre os modelos de código fechado, a vantagem pioneira da OpenAI diminuiu um pouco, com a participação de mercado empresarial caindo de 50% para 34%”, relatam. “O principal beneficiário foi a Anthropic, que dobrou sua presença empresarial de 12% para 24% quando algumas empresas mudaram do GPT-4 para o Claude 3.5 Sonnet quando o novo modelo se tornou o que há de mais moderno.”
A parte mais prospectiva do relatório cobre o que Tully, Redfern e Xiao chamam de “Modern AI Stack”, camadas de tecnologia de infraestrutura usadas para construir aplicativos.
A moderna pilha de IA e suas camadas.
Menlo Ventures
Os pesquisadores relatam que “as empresas (estão) se unindo em torno dos principais blocos de construção que compõem as arquiteturas de tempo de execução da maioria dos sistemas de IA de produção”.
Essa abordagem inclui os modelos básicos, serviços de dados acima deles, como o Pinecone, estruturas de desenvolvimento de software para orquestrar agentes de IA, como o LangChain, e, no topo, ferramentas de integração, como as da Composio.
Também: Como LangChain transforma GenAI em um assistente genuinamente útil
O relatório oferece três previsões para o próximo ano.
Em primeiro lugar, os agentes de IA estão preparados para “perturbar” o mercado de software empresarial de 400 mil milhões de dólares, liderado por plataformas como Clay e Forge, “abordando tarefas complexas e de vários passos que vão além das capacidades dos sistemas actuais focados na geração de conteúdos e recuperação de conhecimento. “
Em segundo lugar, as empresas de software estabelecidas poderiam ser perturbadas, tal como aconteceu com o vendedor de livros didáticos Chegg e a empresa de discussões de TI Stack Overflow. “Empresas de terceirização de TI como a Cognizant e players de automação legados como a UiPath devem se preparar para a entrada de desafiantes nativos de IA em seu mercado. Com o tempo, até mesmo gigantes de software como Salesforce e Autodesk enfrentarão desafiantes nativos de IA”, escrevem Tully, Redfern e Xiao.
Terceiro, haverá “uma enorme seca de talentos” à medida que os sistemas de IA se tornarem mais predominantes, contrariando a falta de cientistas de dados e especialistas no domínio do assunto. “Prepare-se para a concorrência crescente e prêmios salariais de 2 a 3 vezes para arquitetos corporativos já bem pagos e qualificados em IA”, prevêem os pesquisadores.