Ao implementar IA, primeiro treine seus gerentes

Colocar a inteligência artificial numa organização requer mais do que um conhecimento prático de IA – este é apenas o primeiro passo. Uma pesquisa recente mostra que a maioria das organizações e seus departamentos de TI – especialmente gerentes e executivos que controlam os recursos para fazer avançar as coisas – simplesmente ainda não estão prontos para lidar com a IA. Além disso, as habilidades, ferramentas e soluções necessárias ainda não estão implementadas.

Mesmo os líderes dos departamentos de TI ainda não compreendem as implicações da IA, de acordo com uma pesquisa realizada com 1.600 tomadores de decisão de TI divulgada pelo SAS. Nove em cada 10 decisores tecnológicos seniores (93%) admitem que não compreendem totalmente a IA generativa (GenAI) ou o seu impacto potencial nos processos de negócios.

Além disso: o que é um Chief AI Officer e como você se torna um?

Os executivos precisam desesperadamente ser atualizados. Menos de metade (45%) dos CIOs inquiridos e pouco mais de um terço (36%) dos CTOs consideram-se “extremamente familiarizados” com a adoção da GenAI nas suas organizações. Pior ainda, apenas 13% dos diretores digitais admitem estar intimamente familiarizados com a IA.

Fica pior: apenas 4% dos chefes de TI ou de sistemas de informação afirmam extrema familiaridade com IA, juntamente com apenas 2% dos gestores ou diretores de TI.

No geral, apenas 7% proporcionam um elevado nível de formação sobre governação e monitorização geral da IA, e outros 15% prestam essa assistência à IA generativa. Isto é fundamental, pois 75% dos entrevistados estão preocupados com a privacidade e segurança dos dados quando a GenAI é usada na sua organização.

Isto significa que pode levar tempo, juntamente com muita educação e análise, para superar os problemas que podem inviabilizar as implementações de IA. Por exemplo, apenas 5% possuem um sistema confiável para medir preconceitos e riscos à privacidade em grandes modelos linguísticos. Outros 42% são considerando desenvolvendo capacidades internas para detecção de riscos de privacidade, e 32% estão considerando desenvolver capacidades internas para detecção de preconceitos.

Apenas 29% têm monitoramento automatizado contínuo de suas implementações de IA generativa. Apenas 25% realizam auditorias manuais regulares dos seus resultados de IA.

Além disso: Os melhores cursos gratuitos de IA em 2024 (e se os certificados de IA valem a pena)

“O investimento ideal na GenAI oferece oportunidades claras de eficiência e uma melhor experiência do cliente, mas muitas organizações relatam lacunas no pensamento estratégico que estão afetando o sucesso da implementação”, afirmam os coautores do relatório. “Nossa pesquisa mostra que as empresas estão correndo para a GenAI antes de estabelecerem sistemas adequados de governança, o que poderia resultar em sérios problemas de qualidade e conformidade posteriormente”.
A integração da IA ​​nos processos e sistemas existentes também é uma fonte de problemas. “Muitas empresas lutam para integrar a tecnologia com as tarefas e ferramentas existentes”, afirmam os autores da pesquisa. Além disso, quase metade (47%) dos decisores relatam que não possuem ferramentas adequadas para implementar a GenAI.

Aqui estão os principais problemas enfrentados entre as organizações que usam IA:

• 48% relatam que estão enfrentando problemas ao utilizar conjuntos de dados públicos e proprietários de maneira eficaz.
• 45% relatam ausência de ferramentas adequadas.
• 42% indicam que estão enfrentando desafios na transição da IA ​​generativa de uma fase conceitual para o uso prático.
• 39% dizem que estão tendo problemas de compatibilidade com os sistemas atuais.

A experiência interna em IA também é muito procurada, mostra a pesquisa. Metade das organizações (51%) está preocupada por não possuir as competências internas para utilizar a tecnologia de forma eficaz. Cerca de quatro em cada 10 entrevistados (39%) afirmam que consideram que a experiência interna insuficiente é um obstáculo à implementação da GenAI.

Além disso: a adoção da IA ​​generativa diminuirá por causa deste único motivo

Os autores da pesquisa apontam os seguintes mandatos associados a projetos de IA bem-sucedidos:

• Integração de IA: A necessidade de “integrar perfeitamente os modelos GenAI em fluxos de trabalho de decisão, aplicativos de IA e aprendizado de máquina e processos de negócios existentes, usando ferramentas de fluxo de decisão, como a decisão inteligente”.
• Proteção de dados: “Garantir a privacidade e a segurança do usuário com medidas robustas de qualidade de dados – incluindo geração de dados sintéticos, minimização de dados, anonimato e criptografia – que fornecem salvaguardas de informações confidenciais.”
• Resultados confiáveis ​​e explicáveis: “Os especialistas em dados podem aplicar técnicas de processamento de linguagem natural para pré-processar dados, explicar o resultado gerado em termos facilmente compreensíveis, minimizar alucinações e reduzir custos de tokens.”
• Governança aprimorada: “Use fluxos de trabalho integrados que validam todo o ciclo de vida dos LLMs, desde a conformidade regulatória até o gerenciamento de risco de modelo.”

Prever ou calcular o retorno do investimento é outro mandato que precisa ser cumprido. Mais de um terço (36%) dos tomadores de decisão de TI prevêem dificuldade em provar que a GenAI oferece um forte ROI ou acham isso difícil de provar, mostra a pesquisa. Quase metade (47%) enfrenta desafios na transição do conceito para a utilização prática da GenAI. Quatro em cada 10 organizações (39%) não possuem uma política de uso GenAI em vigor.