Algoritmos soberanos garantizan la transparencia y control de la IA

La IA soberana y su impacto en las industrias

Los analistas esperan que la IA revolucione la economía global de la misma manera en que lo hizo internet hace algunas décadas. Para dar un contexto de este alcance, Statista prevé que el tamaño de este mercado alcance los 184 mil millones de dólares en 2024. Además, esperan una tasa de crecimiento anual del 28,46 %, lo que dará como resultado un volumen de mercado de 826.700 millones de dólares para 2030.

El impacto será tan grande que ningún país quedará afuera y, por ese motivo, los especialistas empiezan a preguntarse cómo harán los países y las organizaciones para garantizar su soberanía digital, mucho más cuando se trata de grandes modelos de IA. “Si, con el avance de la IA las empresas incrementan la compra de modelos ya entrenados, deberán estar atentas a conocer el origen, transparencia, calidad y sesgo subyacente de la información con el que se los entrenó”, reflexiona Gugliotta. Y agrega: “El desafío está en desarrollar y mantener modelos entrenados bajo normas locales, evitando principios, valores y otras cuestiones culturales que no pertenecen al propio país”.

Desde Streambe destacan que trabajar con IA sin pensar en los algoritmos que impulsan esa tecnología no implica un resultado positivo o negativo en principio, pero depende del objetivo buscado y la solución que se intenta brindar.

Si se toma el ámbito de la salud, los datos son un elemento extremadamente sensible y hay protocolos de seguridad donde la soberanía digital toma aún más relevancia. “Al ser una industria en la que se suele comprar mucha información local del mercado para tomar decisiones, qué mejor que pensar en ser los propios generadores” de esos datos, señala el gerente general de Streambe.

Existen ventajas claras de operar con algoritmos soberanos. Al estar en un entorno controlado, indican desde Streambe, no se corre el riesgo de que los datos sean transferidos a otras ubicaciones fuera del país y terminen en lugares con menos restricciones y cuidados distintos a los que esperamos.

Por otro lado, al controlar la infraestructura hay mayor acceso a la información y, por último, no en todos los países los criterios legales sobre los datos son similares, por lo que estar en un marco local garantizará operar de la manera esperada,

Gugliotta subraya que las disputas entre Elon Musk y Brasil, y OpenAI y China, serán solo las primeras de varias que ocurrirán durante los próximos años. El impacto futuro de los algoritmos y la IA en las sociedades será tal que los debates sobre cómo regular e implementar esta tecnología y los datos que utiliza se darán en todas las regiones del planeta.

“Considero que, en los próximos cinco años, va a haber más exigencias de controles de los algoritmos y los datos, justamente para dar garantía a ciertas industrias donde hay mayor sensibilidad de la información”, puntualiza.

Los representantes de la firma de transformación digital creen que en el futuro habrá dos maneras distintas de garantizar estas regulaciones. Por un lado, construir infraestructura propia y ser el creador de la información; por el otro, el apoyo y surgimiento de empresas y organizaciones que darán fe de la transparencia algorítmica y de la información. “A los algoritmos se les va a exigir un nivel de transparencia que hoy no existe”, concluye el ejecutivo.