Con IA Gen y la nube, la gobernanza importa más que la eficiencia

Con más de dos décadas de existencia, Inmetrics es una empresa que ofrece soluciones para la eficiencia digital, y es reconocida especialmente en ingeniería de software y nube. Recientemente, la compañía lanzó una herramienta de inteligencia artificial generativa, llamada Liev, que busca mejorar la productividad de los equipos en las áreas de generación de código, calidad de software, actividades auxiliares en el desarrollo de software, así como búsquedas en documentos, descripciones automáticas de productos y apoyo a teleoperadores.

En entrevista con ComputerWeekly en Español, el CEO de Inmetrics Latam, Paulo Souto Coelho, habló sobre la importancia de utilizar casos de negocio y productos mínimos viables (MVP) al implementar herramientas de IA generativa en una organización, lo cual requiere tener en claro para qué se utilizará la tecnología, y qué valor se espera lograr con ella.

Souto, que gestiona la operación de Inmetrics para América Latina (excepto Brasil) desde Santiago de Chile, explicó que la IA generativa se perfila como una tecnología que permite grandes transformaciones, como sucedió con la nube, pero es necesario que las empresas incorporen una adecuada gobernanza para que, al usarla de manera cotidiana, la tecnología no se les salga de control.

¿Cómo funciona Liev, su herramienta de IA generativa?

Paulo Souto

Paulo Souto: Liev es una plataforma de IA generativa [de código abierto] que posee la arquitectura de un hub de inteligencia. Detrás de ella, vas a poder conectar con los modelos de lenguaje de gran tamaño (LLM), de acuerdo con la necesidad de la especialidad que desees y necesitas. Esto le da una amplitud de aplicaciones, por lo que no está restringida a una utilización específica en tecnología o un área específica de negocios. Se puede tomar de diversas formas, con diversas finalidades.

Nosotros, en Latam, hemos estado muy enfocados en tomarla como una herramienta de eficiencia y calidad para los servicios que damos a nuestros clientes: desarrollo, ingeniería de calidad, proyectos de migración hacia la nube, obsolescencia de código. Estamos muy enfocados en la utilización de Liev dentro del ámbito de tecnología, y estamos haciendo pruebas de concepto con varios otros escenarios, en especial con áreas de negocios.

¿Es decir que ustedes utilizan Liev como una herramienta interna, o también la ofrecen a sus clientes?

Paulo Souto: Antes que nada, Liev es una herramienta de IA generativa que está dentro de un ambiente controlado; está en una nube privada, sea la nuestra o en la propia de nuestro cliente. Hoy la tenemos hosteada en AWS, pero se puede usar otra nube sin problema. Esta característica es muy importante en casos, en especial en la banca, donde la data es un activo que no se comparte y no puede estar abierto.

Tenemos dos modelos de negocio para Liev. Primero, como una herramienta nuestra, que nos acelera y nos ayuda a generar eficiencia y a entregar [productos] con mucha más calidad. Te doy un ejemplo: un código generado por Liev va a estar documentado y en él se van a aplicar las mejores prácticas, así como una lógica mucho más adecuada, que pueda ser comprendida y tomada por cualquier otro desarrollador en el futuro. O sea, elimina una cantidad no menor de problemas [que surgen al desarrollar aplicaciones]. [Frente a esto,] cuando un desarrollador codifica manualmente, aplica su propia lógica [en el código], dependiendo del día o de sus conocimientos, puede aplicar o no mejores prácticas, y puede documentar todo, o no. La otra ventaja es la eficiencia [que permite], porque lo hace en minutos [aprovechando] una definición que ya tiene para la construcción de ese código.

Otro punto importante es que siempre hay fragilidades en las pruebas unitarias de los códigos escritos, y Liev puede, después de generar el código y que el desarrollador lo revise y lo apruebe –siempre hay que hacer una revisión para ver si el código está dentro del contexto y dentro de lo esperado–, desarrollar y ejecutar las pruebas unitarias de estos códigos. Entonces, la entrega se hace mucho más eficiente y con mucha más calidad.

¿Cómo se entrena el motor de Liev para que los clientes trabajen con él, ya que la privacidad de los datos es un tema álgido en la IA generativa?

Paulo Souto: Hay un tema importante, que hoy se comenta poco, referente a los datos. Una herramienta de IA, por sí sola, se puede desarrollar con datos abiertos, con modelos aplicables [y se puede] validar los modelos; pero cuando vas a aplicar [IA generativa] dentro de un ambiente empresarial, donde la data no va a ser compartida y no es un ambiente abierto, tienes que correr en paralelo otro proyecto, que es la construcción de la base de conocimiento. Construirla y hacerla evolucionar.

Eso lo hacemos de la mano de nuestros clientes, con datos estructurados y no estructurados. En un ambiente cerrado y controlado, la data del cliente tiene que estar disponible según sea necesario para lo que se va a aplicar. Por ejemplo, para apoyar un área comercial, toda la data de la volumetría de ventas –a quién, cuándo, volumen de transacción, qué características de las transacciones– que está ahí, y está viva, hay que ponerla dentro del ambiente donde la IA la va a tomar. Este es un tema del que hay que ocuparse, y es tan importante como elegir la plataforma para usar esos datos.

¿Qué segmentos de negocios pueden aprovechar una herramienta como Liev?

Paulo Souto: En una entrevista de resultados, el CEO de Nvidia decía que en un rato más la IA generativa va a tornarse un commodity dentro del ambiente de tecnología. Aplicada en la tecnología, creo que ya hay mucha madurez. El desafío está dentro del escenario de negocios.

Antes de ir a la data –pues mucho se habla de la aplicabilidad de la IA generativa– hay un punto que es construir casos de negocio. Reconocer y saber qué valor va a generar, y [determinar] si, de hecho, va a generar algún valor, porque a veces ya tienes un flujo, un proceso, un modelo ya maduro que funciona, y lo hace bien. Tal vez no tenga sentido, al menos en un primer momento, meter las manos ahí y cambiar las cosas, así que hay que entender bien, considerando diversos aspectos, dónde tiene más sentido aplicar [la IA generativa].

La mayor aplicabilidad que yo veo en estos momentos, fuera de tecnología, son las áreas operacionales, donde puedes gestionar mejor cómo están, cómo funcionan, qué valor se está generando. Veo muy poca gente hablando de dónde está el MVP para elegir por qué voy a hacer [un proyecto de IA Gen]. ¿Porque va a generar valor al cliente? Tal vez no, porque si el modelo no es maduro, tal vez esté recomendando o contestando cosas fuera de contexto, [o con respuestas que no están actualizadas]. Aplicar todo esto requiere saber bien para qué [se va a usar la IA Gen], qué riesgo va a traer y establecer una ruta de madurez.

Además, si lo implementas [en desarrollo], no le quita la responsabilidad al desarrollador de validar el código, en especial al inicio, cuando estamos en una curva de aprendizaje y hay que validar toda la data necesaria para construir los modelos: si está, si se tiene bien, si es consistente. La curva de aprendizaje no es sólo de parte de quien usa la herramienta, sino de la propia herramienta y de la base de datos.

Nosotros usamos nuestra plataforma [Liev] de forma intensa, en nuestro día a día. Ahora mismo, todas las políticas de la empresa están cargadas en la base de conocimiento de Liev, de modo que, para consultarlas o descubrir dónde está un dato de una política, no es necesario meterte en varios documentos.

Pero hay que saber pedir, hay que saber solicitar. Cuando empiezas a usar esta herramienta de forma más amplia, uno de los desafíos es capacitar [al personal], y establecer qué conocimientos deberían tener esos profesionales para estar aptos en el uso de [la IA generativa] de una forma menos riesgosa. [Se requiere] un perfil profesional distinto, no tan especializado como un tester automatizador –que es un desarrollador con mucha más especialidad técnica–, pero que, de igual forma, es un desafío. Hay que elegir bien los que quieren, los que pueden y hay que hacer seguimiento de los resultados, porque lo que sale de la herramienta tiene que ser validado.

Lo tomamos, por ejemplo, para pruebas funcionales, no automatizadas, y tenemos dos clientes que están usando Liev en servicio de pruebas y as a service.

Otro tema, que pocos consideran, es que muchas veces hay un rechazo a adoptar una herramienta de tecnología por el rechazo del propio ser humano.

Por eso es importante la gestión del cambio, ¿verdad?

Paulo Souto: [Es necesario que] las personas se vean como parte de todo esto y no tomen [las herramientas] como una amenaza. Para eso, tienes que trabajar en la gestión del cambio, para que todos la vean y entiendan, y capacitar a la gente en la plataforma; y, no menos importante, establecer algunos indicadores para poder medir [logros], porque el objetivo es generar eficiencia, claridad, asertividad, y hay que medirlo.

Nosotros tuvimos casos, en nuestro equipo, en los que había [una adopción] de casi un 100% por parte de algunos, y menos del 10% en otros. [En estos casos, los empleados] decían: ‘Yo hago las cosas mejor sin la herramienta, prefiero hacerlo a mi manera’. Muchas veces este rechazo es por miedo o desconocimiento, porque no entienden cómo usarla. Esto nos ha servido para aprender y validar qué tenemos que cambiar en nuestro modelo de implementación.

La plataforma puede verse de una forma muy aislada, pero se va a meter dentro de un ecosistema, en el que hablamos de procesos, gente, datos e incluso del regulador. [Hay clientes que entienden] la necesidad de conversar con compliance, por el riesgo de los datos, pero muchas veces hay más curiosidad que de verdad una idea de lo que quieren, por qué lo quieren y dónde eso les puede generar valor.

¿En qué verticales están viendo más demanda de este tipo de herramientas?

Paulo Souto: En este momento, más allá de tecnología y las áreas de tecnología, lo veo en áreas de negocios, [especialmente] en el servicio de atención al cliente. Call centers y mesas de ayuda. Ese es un caso donde la aplicación de IA generativa ha contribuido y ha demostrado ser muy efectiva.

¿Qué otras soluciones de Inmetrics tienen mayor demanda en América Latina?

Paulo Souto: Tenemos gran demanda de proyectos de migración hacia la nube, especialmente de bases de datos, y de proyectos de rollback, porque [hay casos en los que,] a mitad del camino [de ir hacia la nube], el costo se volvió exponencial si no lo gestionaron, no sabían para qué [usar la nube], había aplicaciones que no deberían [haber ido a la nube], o [migraron aplicaciones] que no son nativas o que no tenía sentido tener en la nube.

Además, los proyectos de FinOps están cobrando cada vez mayor importancia. En comparación con los temas de IA generativa, ahí hay mayor madurez y cuidado. Buscamos concientizar al cliente para que no haga lo mismo que muchos hicieron con la nube, porque esta infraestructura es mucho más cara. [En este sentido], gobernanza para mí es una palabra mucho más importante que eficiencia, porque eficiencia sin gobierno es pérdida de control.

[De ahí la importancia de] saber para qué usar [la tecnología] y dónde aplicarla, porque hay un payback por adoptar IA generativa para una u otra cosa, que es lo que hoy se hace, o se busca hacer, con FinOps. [Hay que] establecer modelos de gestión de gastos para saber qué tengo, qué no tengo, y proyectar el crecimiento del consumo en la nube. Tenemos una plataforma de gestión de FinOps, que hace toda la proyección y funciona muy bien para ambientes multicloud, porque consolida las metodologías de presentar los costos, precios, fechas y demás de cada uno de los proveedores, y genera un análisis predictivo de consumo, comportamiento, de lo que tiene y lo que va a tener. Porque muchas veces los clientes no consideran el crecimiento de su propio negocio, y [el costo de usar la nube] se les va fácilmente de las manos.

Otra especialidad nuestra son las pruebas de estrés y de carga, para medir la latencia. También somos muy conocidos por calidad de ingeniería y calidad de desarrollo, y por servicios (incluso por ahí empezamos, como empresa) de performance de base de datos. Por eso decimos que la eficiencia es algo que siempre estuvo en nuestro ADN.