Cómo los CIO pueden abordar la IA con herramientas de ITSM

Mismo objetivo, nueva tecnología

"El objetivo final de una buena infraestructura de IA es similar al de la TI tradicional", dijo Ken Zamkow, gerente general para América del Norte en Run:AI, un proveedor de herramientas de virtualización de IA. Esto incluye permitir que los usuarios de la organización, como los científicos e ingenieros de datos, trabajen de manera más rápida y eficiente mientras mantienen los costos bajo control y mantienen el control, la visibilidad y la seguridad.

Sin embargo, las tecnologías subyacentes son diferentes porque la IA se basa en experimentos largos y repetitivos en lugar de codificación pura; los conjuntos de datos involucrados son significativamente más grandes; y las necesidades informáticas son mucho mayores e implican un hardware mucho más caro. "Hacer todo esto bien es la clave y el principal desafío", dijo Zamkow.

Parte del problema radica en navegar por la gran variedad de flujos de trabajo, herramientas, marcos y plataformas que están disponibles para el entrenamiento y la implementación de IA. Si bien hay algunas opciones de TI que están ganando popularidad rápidamente, no existen estándares de la industria integrales y bien desarrollados en los que confiar. Esto significa que los equipos de TI e infraestructura de cada empresa necesitan esencialmente unir una colección de ofertas que satisfagan sus casos de uso particulares.

Esto, a menudo, también conduce a una creciente complejidad, costos y falta de visibilidad sobre cómo se utilizan los recursos. Zamkow descubrió que una buena estrategia es usar herramientas de IA que sean fáciles de integrar con las herramientas de ITSM existentes para ayudar a proporcionar una arquitectura más fluida y flexible.

¿Cuál es su cociente de IA?

Wright cree que los ejecutivos de TI deberían considerar nuevas métricas, a las que llama cociente de IA, para ayudar a evaluar la madurez de los procesos relacionados con la IA. Esto podría ser similar a cómo se utiliza la integración del modelo de madurez de capacidad para mejorar los procesos tradicionales de desarrollo de software.

Los aspectos de esto podrían incluir la medición de las capacidades de análisis, la capacidad de mejorar la retroalimentación de los resultados de la IA y la capacidad de hacer uso de los datos emocionales de los usuarios de las herramientas de IA. Por ejemplo, las nuevas métricas, como la conciencia emocional, podrían cuantificarse interpretando las encuestas de satisfacción de los clientes y de la gerencia y analizando el tono emocional utilizado en los mensajes de voz y chat. Se podría establecer rangos y se podría calcular un índice emocional para correlacionar con diferentes roles impactados por la IA. Las capacidades de análisis podrían cuantificarse en términos del tiempo de lanzamiento y la capacidad de proporcionar valor a diferentes grupos comerciales. Una métrica de retroalimentación podría reflejar la capacidad de medir las degradaciones en la precisión del modelo de IA y volver a entrenarlos con datos nuevos.

Nuevos desafios

Mike Leone, analista sénior de Enterprise Strategy Group (ESG), una firma de investigación de mercado de TI, ve tres categorías principales de desafíos para administrar los servicios de IA: infraestructura, personas y datos.

Las empresas luchan con nuevos tipos de entornos de desarrollo de aplicaciones de IA, herramientas de ciencia de datos y plataformas integradas de datos o análisis, además de los gastos operativos que implican la gestión y el mantenimiento de todo. Por el lado de las personas, la investigación de ESG encontró que más del 20 % de las organizaciones mencionan la falta de personal capacitado o con experiencia como su principal desafío relacionado con la IA.

Cada empresa debe crear la infraestructura adecuada para cumplir con los casos de uso específicos de IA dentro de la organización, dijo Leone. Por ejemplo, el hardware importa menos si utiliza servicios de nube pública. Si es un científico de datos que tiene la tarea de crear un modelo, es probable que se concentre únicamente en las herramientas de ciencia de datos.

Por el lado de los datos, las empresas luchan con una calidad de datos insuficiente para la IA. "La calidad de los datos y la gestión del flujo de trabajo de datos son interesantes porque a menudo se pasan por alto, pero terminan siendo el componente más esencial de todo esto", dijo Leone. Sin datos de alta calidad, todo el trabajo, el costo y el tiempo podrían desperdiciarse hasta cierto punto. Y sin flujos de trabajo eficientes en las diferentes etapas del ciclo de vida de la IA, y las diferentes herramientas y componentes, el tiempo de creación de valor se disparará.

Brecha en pilas de IA

Leone recomienda que los ejecutivos de TI encuentren formas de simplemente extender las herramientas de ITSM que se usan hoy para administrar nuevos tipos de cargas de trabajo. Por ejemplo, las métricas de infraestructura son las mismas en términos de latencia, IOPS, rendimiento y utilización. Con la IA, se trata de casar esas métricas entre la infraestructura y los componentes de software para garantizar que estén sincronizados.

"Es poco probable que encuentre una solución de IA completa con una gestión integral hoy en día porque está compuesta por múltiples componentes de diferentes proveedores", dijo Leone. Como resultado, las empresas casi se ven obligadas a elegir la interfaz que pueda administrar la mayor cantidad posible de la pila de IA.

Leone ve una brecha en este momento en el mercado para administrar y orquestar adecuadamente la pila de IA de manera integral. Esto se debe, en parte, a que los desarrolladores de IA están descubriendo rápidamente nuevos flujos de trabajo que han dado lugar a una explosión de nuevos componentes y proveedores en toda la pila de IA y la canalización de datos. La investigación de ESG encontró que la empresa promedio estaba trabajando con 37 proveedores diferentes de hardware y software en toda la canalización de datos de inteligencia artificial y aprendizaje automático .

"La necesidad de consolidar los silos de gestión en todos esos proveedores es una gran oportunidad para los proveedores y un gran desafío para las empresas con iniciativas de IA en marcha", dijo Leone.

Ampliación de las herramientas de ITSM existentes

Los procesos de cumplimiento y autoservicio de ITSM son técnicas importantes en las que los equipos de científicos de datos pueden obtener la infraestructura de inteligencia artificial necesaria para sus proyectos, dijo Vesna Soraic, gerente del equipo de márketing de productos globales de gestión y cumplimiento de servicios en Micro Focus, una plataforma de gestión de operaciones de TI.

Otros principios importantes de ITSM para la IA son los procesos de gestión de cambios. Por ejemplo, los modelos de IA recién entrenados deben implementarse en producción con la velocidad y agilidad necesarias, pero también con procesos de gobierno adecuados.

La gestión de activos es una herramienta tradicional de ITSM, donde se gestionan activos de hardware y software como licencias y suscripciones. Ramprakash Ramamoorthy, gerente de producto de Zoho Labs, una división de Zoho Corporation, empresa matriz de la plataforma de ITSM ManageEngine, dijo que también se podrían aplicar técnicas similares a los datos para la IA. En este caso, las herramientas de ITSM necesitarían capacidades para versionar conjuntos de datos y administrar controles de acceso para ellos.

Un ritmo de cambio más rápido

Tanto el hardware como el software están evolucionando rápidamente, lo que podría conducir a procesos de cambio de ITSM más complejos. Arvind Ganga, líder de IA en TOPdesk, un proveedor de servicios y software de ITSM, recomienda a los CIO que reevalúen su proceso de cambio existente o creen un proceso de cambio diferente específicamente para la infraestructura y los procesos de IA.

En general, la gestión de la infraestructura y los procesos relacionados con la IA es como la ITSM tradicional, en el sentido de que la ITSM tradicional ya se ha ocupado de los mismos problemas. "Sin embargo, todo se volverá más complejo debido a que existen más herramientas, componentes de infraestructura, partes, conjuntos de datos, integraciones y regulaciones, y debido a las actualizaciones frecuentes", dijo Ganga. Como resultado, los procesos ágiles serán más importantes en ITSM ya que ofrecen la posibilidad de lidiar con cambios rápidos.

El ITSM tradicional era y es bueno para la infraestructura tradicional, pero los procesos de IA tienen como objetivo ser ágiles como las técnicas modernas de desarrollo de software utilizando integraciones e implementación continuas, dijo Soraic de Micro Focus. Ella espera ver más empresas que adopten infraestructura y procesos de IA basados ​​en contenedores.