Como os CIOs podem lidar com a IA com ferramentas de ITSM

Mesmo objetivo, tecnologia diferente

"O objetivo final da boa infraestrutura de IA é semelhante à TI tradicional", disse Ken Zamkow, gerente geral para a América do Norte na Run:AI, uma provedora de ferramentas de virtualização de IA. Isso inclui permitir que os usuários da organização, como cientistas e engenheiros de dados, trabalhem de forma mais rápida e eficiente, mantendo os custos sob controle e mantendo controle, visibilidade e segurança.

No entanto, as tecnologias subjacentes são diferentes porque a IA é baseada em experimentos longos e repetitivos em vez de codificação pura; os conjuntos de dados envolvidos são significativamente maiores; e as necessidades de computação são muito maiores e envolvem hardware muito mais caro. "Acertar tudo isso é a chave e o principal desafio", disse Zamkow.

Parte do problema está na navegação da enorme variedade de fluxos de trabalho, ferramentas, infraestrutura e plataformas disponíveis para treinamento e implantação de IA. Embora existam algumas opções de TI que estão rapidamente ganhando popularidade, não há nenhum padrão do setor bem desenvolvido e adotado por todos em que confiar. Isso significa que as equipes de TI e infraestrutura de cada empresa precisam essencialmente costurar uma coleção de ofertas que atendam a seus casos de uso particular.

Isso muitas vezes também leva a uma complexidade crescente, custos aumentados e falta de visibilidade sobre como os recursos são utilizados. Zamkow descobriu que uma boa estratégia é usar ferramentas de IA fáceis de integrar com as ferramentas ITSM existentes para ajudar a fornecer uma arquitetura mais suave e flexível.

Qual é o seu quociente de IA?

Wright acredita que os executivos de TI devem considerar novas métricas, que ele chama de quociente de IA, para ajudar a avaliar a maturidade dos processos relacionados à IA. Isso pode ser semelhante à forma como a integração do modelo de maturidade de capacidade é usada para melhorar os processos tradicionais de desenvolvimento de software.

Aspectos disso podem incluir a medição de recursos de análise, a capacidade de melhorar o feedback dos resultados da IA e a capacidade de fazer uso de dados emocionais de usuários de ferramentas de IA. Por exemplo, novas métricas como a consciência emocional podem ser quantificadas interpretando pesquisas de satisfação de gerência e clientes e analisando o tom emocional usado nas mensagens de voz e chat. Intervalos poderiam ser estabelecidos, e um índice emocional poderia ser calculado para se correlacionar com diferentes papéis impactados pela IA. Os recursos de análise podem ser quantificados em termos de tempo para lançamento e da capacidade de fornecer valor a diferentes grupos de negócios. Uma métrica de feedback poderia refletir a capacidade de medir degradações na precisão do modelo de IA e retreiná-las com dados frescos.

Novos desafios

Mike Leone, analista sênior da Enterprise Strategy Group (ESG), uma empresa de pesquisa de mercado de TI, vê três categorias principais de desafios para gerenciar serviços de IA: infraestrutura, pessoas e dados.

As empresas lutam com novos tipos de ambientes de desenvolvimento de aplicativos de IA, ferramentas de ciência de dados e plataformas integradas de dados ou análises, além das despesas operacionais que vão para a gestão e manutenção de tudo. Do lado das pessoas, a pesquisa da ESG descobriu que mais de 20% das organizações citam a falta de funcionários experientes ou treinados como seu principal desafio relacionado à IA.

Toda empresa precisa apresentar a infraestrutura adequada para atender aos casos específicos de uso de IA dentro da organização, disse Leone. Por exemplo, o hardware importa menos se você estiver utilizando serviços públicos em nuvem. Se você é um cientista de dados sendo encarregado de criar um modelo, você provavelmente se concentrará puramente nas ferramentas de ciência de dados.

Toda empresa precisa definir a infraestrutura adequada para atender aos casos específicos de uso de IA dentro da organização, disse Leone. Por exemplo, o hardware importa menos se você estiver utilizando serviços públicos em nuvem. Se você é um cientista de dados sendo encarregado de criar um modelo, você provavelmente se concentrará puramente nas ferramentas de ciência de dados.

Do lado dos dados, as empresas lutam com a qualidade insuficiente dos dados para a IA. "A qualidade dos dados e o gerenciamento do fluxo de trabalho de dados são interessantes, pois muitas vezes são negligenciados, mas acabam sendo o componente mais essencial em tudo isso", disse Leone. Sem dados de alta qualidade, todo o trabalho teria um percentual de custo e tempo que poderia ser desperdiçado. E sem fluxos de trabalho eficientes nos diferentes estágios do ciclo de vida da IA e nas diferentes ferramentas e componentes, o tempo de valorização explodirá.

Lacunas nas pilhas de IA

Leone recomenda que os executivos de TI encontrem maneiras de simplesmente estender as ferramentas ITSM usadas hoje para gerenciar novos tipos de cargas de trabalho. Por exemplo, as métricas de infraestrutura são as mesmas em termos de latência, IOPS, rendimento e utilização. Com a IA, trata-se de casar essas métricas em infraestrutura com componentes de software para garantir que eles estejam em sintonia.

"É improvável que você encontre uma solução completa de IA com gerenciamento abrangente hoje, porque ela é composta de múltiplos componentes de diferentes fornecedores", disse Leone. Como resultado, as empresas são quase forçadas a escolher a interface que pode gerenciar o máximo possível da pilha de IA.

Leone vê uma lacuna agora no mercado para gerenciar e orquestrar adequadamente a pilha de IA de forma abrangente. Isso ocorre em parte porque os desenvolvedores de IA estão descobrindo rapidamente novos fluxos de trabalho que levaram a uma explosão em novos componentes e fornecedores em toda a pilha de IA e pipeline de dados. A pesquisa do ESG descobriu que uma empresa típica estava trabalhando com 37 fornecedores diferentes de hardware e software em todo o pipeline de dados de IA e aprendizado de máquina.

"A necessidade de consolidar a gestão em silos por todos esses fornecedores é uma oportunidade enorme para os fornecedores e um enorme desafio para empresas com iniciativas de IA em andamento", disse Leone.

Ampliando as ferramentas ITSM existentes

Os processos de autoatendimento e cumprimento do ITSM são técnicas importantes onde as equipes de cientistas de dados podem obter a infraestrutura de IA necessária para seus projetos, disse Vesna Soraic, gerente global da equipe de marketing de produtos de gerenciamento e cumprimento de serviços na Micro Focus, uma plataforma de gerenciamento de operações de TI.

Outros princípios importantes do ITSM para a IA são os processos de gestão de mudanças. Por exemplo, modelos de IA recém-treinados devem ser implantados em produção com a velocidade e agilidade necessárias, mas também com processos de governança adequados.

O gerenciamento de ativos é uma ferramenta tradicional ITSM, onde ativos de hardware e software, como licenças e assinaturas, são gerenciados. Ramprakash Ramamoorthy, gerente de produto da Zoho Labs, uma divisão da Zoho Corporation, empresa-mãe da plataforma ITSM ManageEngine, disse que técnicas semelhantes também poderiam ser aplicadas aos dados para IA. Neste caso, as ferramentas ITSM precisariam de recursos para versionar conjuntos de dados e gerenciar controles de acesso para eles.

Ritmo mais rápido de mudança

Tanto o hardware quanto o software estão evoluindo rapidamente, o que pode levar a processos de mudança ITSM mais complexos. Arvind Ganga, líder de IA na TOPdesk, um provedor de software e serviços ITSM, recomenda que os CIOs reavaliem seu processo de mudança existente ou criem um processo de mudança diferente especificamente para infraestrutura e processos de IA.

Em geral, a gestão da infraestrutura e dos processos relacionados à IA é como o ITSM tradicional, no sentido de que o ITSM tradicional já lidou com os mesmos problemas. "No entanto, tudo se tornará mais complexo porque mais ferramentas, componentes de infraestrutura, partes, conjuntos de dados, integrações e regulamentos estão em vigor, e por causa das atualizações frequentes", disse Ganga. Como resultado, processos ágeis se tornarão mais importantes no ITSM, pois isso oferece a possibilidade de lidar com mudanças rápidas.

O ITSM tradicional era, e é, bom para a infraestrutura tradicional, mas os processos de IA visam ser ágeis, como técnicas modernas de desenvolvimento de software, usando integrações contínuas e implantação contínua, disse Soraic, da Micro Focus. Ela espera ver mais empresas adotando infraestrutura e processos de IA baseados em contêineres.