CIOs enfrentam dificuldades crescentes de IA

O caminho a seguir para os líderes de TI Transformar a promessa da inteligência artificial generativa (IA) em valor comercial continua difícil e assustadormas os principais componentes do roteiro de IA generativa (dados, plataforma e competências) estão a evoluir e a tornar-se mais bem definidos.

Essa foi a principal conclusão do painel O que vem por aí para a IA generativa nas empresas que decorreu no âmbito do evento Big.AI@MIT, moderado por Lan Guan, CAIO da Accenture.

Guan, juntamente com líderes de IA da S&P Global e Corning, analisaram o enorme desafios envolvidos na movimentação de modelos generativos de IA da prova de conceito para a produçãobem como as bases necessárias para que os modelos generativos de IA sejam verdadeiramente valiosos para os negócios.

É uma posição em que muitos CIOs se encontram, como Guan observou que, de acordo com uma pesquisa da Accenture, Menos de 10% das empresas possuem modelos generativos de IA em produção.

Accenture

“98% dos líderes empresariais dizem que querem adotar IAnão é verdade?, Mas muitos deles simplesmente não sabem como fazer isso”, disse Guan, que atualmente trabalha com uma grande companhia aérea na Arábia Saudita, uma grande empresa farmacêutica e uma empresa de alta tecnologia para implementar internamente modelos generativos de IA.

Infelizmente, apesar das lições duramente aprendidas sobre o que funciona e o que não funciona, Arquiteturas de referência testadas sob pressão para IA generativa (o que os executivos de TI mais desejam) Eles permanecem poucos e distantes entre sidisse.

Progresso e desafios

O trabalho da Accenture com a Saudi Airlines envolve um modelo de “companheiro de viagem” que é muito mais do que uma agência de viagens online, um agente de reservas ou um guia de viagens, explicou Guan. A companhia aérea, que concorre com a Qatar Airlines, conta com inteligência artificial Agentic e um LLM para aumentar suas reservas e expandir sua participação no mercado crescentedisse, acrescentando que o modelo, que já está em funcionamento há seis meses, atraiu 3 milhões de visitantes e geriu algumas reservas, mas o seu valor é muito mais estratégico.

“Seu principal objetivo é mudar a percepção da marca e oferecer uma melhor experiência”ele afirmou. “Não posso dizer que tenho muitos exemplos como este.”

Soumya Seetharam, diretor de TI da Corning, disse que o fabricante está imerso no processo de transformação de dados há vários anos e que mais de 70% dos seus dados de transações comerciais são incorporados em uma plataforma de dados. Mas são apenas dados estruturados, enfatizou.

“Nosso maior desafio, honestamente, são os dados não estruturados”, Seetharam disse, observando que a Corning deve agora “descobrir como categorizar (dados não estruturados) e apresentá-los em um formato que possa ser útil.”

Bhavesh Dayalji, CAIO da S&P Global, acrescentou que Integrar todos os tipos de estruturas de dados em modelos generativos de IA é um desafio. Para fazer isso, a empresa de informações e análises financeiras está desenvolvendo APIs e examinando todos os métodos para “conectar seus dados a grandes modelos de memória”.

A S&P Global também criou conjuntos de avaliação não apenas para testar modelos de IA generativos para alucinações, mas também para garantir que exista um método comum para avaliar resultados e eficácia. Como especialistas em serviços financeiros e mercados de commodities, devem existir métodos de avaliação padronizados, disse ele.

“Depois, temos que levar isso à comunidade (de serviços financeiros) como um todo para avaliar modelos e soluções (de IA generativa)”, disse Dayalji, que também é CEO da Kensho, centro de inovação de IA da S&P Global. “Acho que analisando os dados podemos encontrar algum tipo de solução.”

Siga um roteiro

O chefe de IA da Accenture ofereceu três dicas importantes para os CIOs maximizarem o ROI da IA ​​generativa, sem sucumbir a falhas do tipo “entra lixo, sai lixo”.

Em primeiro lugar, todos os dados corporativos devem ser limpos e devidamente preparados para uso em modelos fundamentais de IAGuan disse para CIO.com durante uma entrevista privada após o painel.

“Eles não estão a limpar os seus dados”, disse ele, alertando que embora muitos CIOs estejam a assumir o desafio dos dados, a maioria não os está a preparar adequadamente para a IA generativa. “Dados proprietários são sua maior vantagem competitiva.”

Em segundo lugar, Guan disse, Os CIOs devem adotar uma “abordagem baseada em plataforma” para o desenvolvimento e implantação de IA. As empresas podem executar cargas de trabalho generativas de IA no computador centralpor exemplo, mas a maior parte da atividade será executada na nuvem pública ou em nuvens privadas locais, disse ele.

“É hora de eles realmente revisarem sua arquitetura empresarial atual em termos de dados e inteligência artificial”, Guan afirmou.

“Uma abordagem de IA baseada em plataforma enfatiza a construção de uma base escalável e reutilizável que evolui com a organização, em vez de desenvolver soluções caras e isoladas para casos de uso individuais.”disse Guan, apoiando a ideia de que é necessário estabelecer padrões para testar os resultados dos modelos.

“Ao identificar pontos em comum entre os casos de uso (como pipelines de dados, gerenciamento de modelos e aplicativos), a organização pode criar componentes compartilhados que agilizam a implantação, reduzem a redundância e aceleram o tempo de obtenção de valor para soluções de TI e reinvenção de negócios.”

A Accenture desenvolveu a sua própria refinaria de IA: uma abordagem baseada em plataforma para criar e implementar modelos generativos de IA.

“Em termos práticos, a AI Refinery é uma arquitetura cognitiva, com inteligência e contexto integrados, onde os agentes de IA podem raciocinar, planejar e trabalhar em conjunto com humanos para executar tarefas de forma dinâmica”, disse Guan. “Através do uso do LLM, o sistema interpreta as intenções humanas e se adapta com base na experiência, integrando o conhecimento organizacional para uma melhor tomada de decisão.”

Finalmente, Os CIOs precisam garantir que possuem um bom grupo de pessoas qualificadas em IA e um conjunto de habilidades especializadas para construir e implantar modelos generativos de IA.ele aconselhou. A maioria dos CIOs não está capacitando ou treinando os funcionários com rapidez suficiente, e uma ampla gama de talentos é escassa, incluindo cientistas de dados e engenheiros de TI. programas com habilidades de planejamento de infraestrutura de GPU.

Guan trabalhou como cientista de dados na Accenture há seis anos e começou a desenvolver habilidades em engenharia de dados. programasdesenvolvimento de aplicações e planeamento de infraestruturas para se preparar para a IA generativa. Encontrar talentos é “um desafio que também enfrento”, disse Guan.

Na cimeira, uma vasta gama de startups e fornecedores de soluções de IA estiveram presentes, apresentando soluções que pretendem resolver vários desafios de IA enfrentados por CIOs e CAIOs. Num painel separado, os capitalistas de risco da New Technology Ventures e da Underscore VC afirmaram que os dólares de investimento para a inovação são abundantes, mas reconhecem que o mercado ainda se encontra num ciclo de hype.

No entanto, como observou o moderador do painel VC, a maioria dos jogadores sabe que a IA generativa é uma tecnologia transformadora.

“As pessoas reconhecem o quão tectónica é esta mudança… e estão a aderir a ela”disse Heidi Messer, VC e cofundadora do comece de inteligência artificial Collective(i), que oferece serviço de previsão financeira. “Temos que ler além do ruído e isso fica complicado, mas nos próximos cinco ou sete anos será criado valor (significativo).”

Entretanto, Dayalji, da S&P, disse que as empresas precisam de pensar além das competências especializadas em IA para prever todos os aspectos das novas funções que serão criadas como resultado da interação dos funcionários com modelos generativos de IA e agentes de IA que lidam com tarefas mundanas.

“Continuamos a treinar nossos funcionários e a garantir que eles entendam o impacto da IA ​​e como desempenham suas funções”, disse ele. “Em segundo lugar, como lhes damos ferramentas para realizarem trabalhos diferentes e inovarem?”