arthead - stock.adobe.com
Algoritmos soberanos garantizan la transparencia y control de la IA
La soberanía de un algoritmo se refiere a que el modelo de datos y la información generada, procesada, convertida y almacenada en forma digital está sujeta a las leyes del país en el que se genera. Este concepto marcará el desarrollo de los avances en esta tecnología.
La creciente influencia de la inteligencia artificial (IA) en la vida diaria y en las decisiones gubernamentales genera tensiones globales relacionadas a lo que se conoce como “soberanía digital”.
Dos casos recientes que visibilizan esta problemática son, por un lado, la disputa entre Elon Musk y Brasil; y por otro, la decisión de OpenAI de bloquear el acceso de desarrolladores de China continental y Hong Kong, lo que supone un golpe para las empresas que desarrollan servicios basados en los grandes modelos de lenguaje de la compañía en esos territorios.
Estos episodios no sólo demuestran el impacto de las redes sociales y los sistemas de IA extranjeros en las naciones, sino que abren el debate sobre la necesidad de desarrollar algoritmos soberanos basados en estándares locales, también para el caso de las empresas.
Gastón Gugliotta, gerente general de Streambe, empresa especializada en transformación digital, explica que, cuando hablamos de algoritmos soberanos, hacemos referencia a operar o tomar decisiones con base en principios de soberanía digital. Es decir, que un gobierno, una comunidad o incluso una empresa es la generadora de su tecnología, de plataformas o de sus propios datos.
“Puntualmente, en el caso de un algoritmo soberano, es un procedimiento operado bajo las leyes de la nación o los principios éticos de la organización, lejos de lo que se pueda desarrollar o definir a partir de un proveedor extranjero”, señala.
¿Cuál es la diferencia principal con un algoritmo tradicional? El control. El punto es que, al desarrollar un algoritmo soberano o propio, son las propias entidades locales y no las extranjeras las que resguardan la seguridad de los datos utilizados. “Por lo tanto, quienes apliquen este tipo de algoritmos se protegerán de cualquier control y sesgo que puedan surgir del desarrollo realizado por instituciones globales que operan en otras regiones”, señalan desde Streambe.
La IA soberana y su impacto en las industrias
Los analistas esperan que la IA revolucione la economía global de la misma manera en que lo hizo internet hace algunas décadas. Para dar un contexto de este alcance, Statista prevé que el tamaño de este mercado alcance los 184 mil millones de dólares en 2024. Además, esperan una tasa de crecimiento anual del 28,46 %, lo que dará como resultado un volumen de mercado de 826.700 millones de dólares para 2030.
El impacto será tan grande que ningún país quedará afuera y, por ese motivo, los especialistas empiezan a preguntarse cómo harán los países y las organizaciones para garantizar su soberanía digital, mucho más cuando se trata de grandes modelos de IA. “Si, con el avance de la IA las empresas incrementan la compra de modelos ya entrenados, deberán estar atentas a conocer el origen, transparencia, calidad y sesgo subyacente de la información con el que se los entrenó”, reflexiona Gugliotta. Y agrega: “El desafío está en desarrollar y mantener modelos entrenados bajo normas locales, evitando principios, valores y otras cuestiones culturales que no pertenecen al propio país”.
Desde Streambe destacan que trabajar con IA sin pensar en los algoritmos que impulsan esa tecnología no implica un resultado positivo o negativo en principio, pero depende del objetivo buscado y la solución que se intenta brindar.
Si se toma el ámbito de la salud, los datos son un elemento extremadamente sensible y hay protocolos de seguridad donde la soberanía digital toma aún más relevancia. “Al ser una industria en la que se suele comprar mucha información local del mercado para tomar decisiones, qué mejor que pensar en ser los propios generadores” de esos datos, señala el gerente general de Streambe.
Existen ventajas claras de operar con algoritmos soberanos. Al estar en un entorno controlado, indican desde Streambe, no se corre el riesgo de que los datos sean transferidos a otras ubicaciones fuera del país y terminen en lugares con menos restricciones y cuidados distintos a los que esperamos.
Por otro lado, al controlar la infraestructura hay mayor acceso a la información y, por último, no en todos los países los criterios legales sobre los datos son similares, por lo que estar en un marco local garantizará operar de la manera esperada,
Gugliotta subraya que las disputas entre Elon Musk y Brasil, y OpenAI y China, serán solo las primeras de varias que ocurrirán durante los próximos años. El impacto futuro de los algoritmos y la IA en las sociedades será tal que los debates sobre cómo regular e implementar esta tecnología y los datos que utiliza se darán en todas las regiones del planeta.
“Considero que, en los próximos cinco años, va a haber más exigencias de controles de los algoritmos y los datos, justamente para dar garantía a ciertas industrias donde hay mayor sensibilidad de la información”, puntualiza.
Los representantes de la firma de transformación digital creen que en el futuro habrá dos maneras distintas de garantizar estas regulaciones. Por un lado, construir infraestructura propia y ser el creador de la información; por el otro, el apoyo y surgimiento de empresas y organizaciones que darán fe de la transparencia algorítmica y de la información. “A los algoritmos se les va a exigir un nivel de transparencia que hoy no existe”, concluye el ejecutivo.
