La IA necesita un marco ético, pero éste aún no es compartido por todos los países

Sesgos en la IA, el reto por venir

En el lado positivo, tenemos a las plataformas digitales habilitadas para la inteligencia artificial que proporcionan información y noticias, asientos para viajes, así como el apoyo durante la pandemia para el desarrollo de la vacuna. «Sabemos que, sin la inteligencia artificial, sin la impresionante capacidad de analizar datos y de utilizar datos, el desarrollo de las vacunas no hubiera sido tan rápido. El control de la pandemia de alguna forma también ha sido permitido por estas tecnologías», afirmó Ramos.

Pero uno de los puntos más álgidos con respecto a los riesgos del uso de los sistemas de inteligencia artificial es el tema del sesgo que se llega a presentar, a veces debido a un mal diseño, y que puede llevar a conclusiones que resulten en decisiones y juicios nocivos para algunas comunidades o para algún segmento de la población, como las mujeres. Además, su uso malintencionado «permite que sucedan cosas como la invasión al Capitolio o la manipulación de las elecciones en varios países, por ejemplo; por ello necesitamos este marco ético».

La directiva comentó que muchos ejercicios de inteligencia artificial, por ejemplo, reconocen menos a las mujeres afrodescendientes o a las mujeres latinas. «El hecho de que muchos de nuestros asistentes digitales tengan voz de mujer es algo que la UNESCO documentó hace algunos años, en el sentido de que parecería ser que siempre estamos repitiendo las discriminaciones del mundo real a través de estas tecnologías», señaló.

Sin embargo, la subdirectora general de Ciencias Sociales y Humanas de la UNESCO considera que se debe dar importancia a aristas de las cuales tenemos que estar muy conscientes, como el tema de la privacidad, considerada como un «derecho humano fundamental y piedra angular de la democracia».

«(Existen) riesgos al entrar a la vida privada para dar el seguimiento y rastreo (de los datos), que evidentemente pueden ser mal utilizados», advirtió Ramos, pues para nadie es un secreto que, durante la pandemia, hubo un incremento en la recolección de datos de las personas «simplemente porque nos hemos digitalizado mucho más, porque nos hemos ido a las plataformas, pero también se requería tener esta información. [No obstante,] una vez que se controle este estado de emergencia, creo que es bien importante que regresemos a una definición más limitada de la utilización de estos datos y del seguimiento a las personas por medio de estas tecnologías», resaltó.

Ramos explicó que la UNESCO ha recibido un mandato de sus países miembros para hacer una normalización, una coordinación y lograr tener una definición normativa global, un estándar global para avanzar la tecnología con todo su potencial positivo y controlar sus impactos. La vocera comentó que este organismo de la ONU está jugando un papel de convencimiento entre los países para la adopción de un marco normativo mundial de estas tecnologías, que armonice el crecimiento y el creciente número de estrategias nacionales y regionales. «Empezamos a trabajar hace dos años, aunque yo tengo solo un año [en su puesto] y solo me tocó la negociación, que tampoco fue poca cosa. Pero nos hemos embarcado en elaborar esta recomendación, que pone particular atención a la educación y la ciencia porque tienen un alcance global», dijo.

Aunque han existido intentos por normar la inteligencia artificial, el énfasis que la UNESCO pone es en las políticas públicas. «No se va a lograr el objetivo último si no lo traducimos en política pública. Tenemos una metodología con la que revisamos las bases de datos, los algoritmos, las definiciones para revisar cómo estamos», pero si eso no es aplicado por las naciones, puede quedar únicamente como una serie de buenas intenciones.

También, de alguna manera, se busca frenar la computadora. «Al final, las recomendaciones que las computadoras nos puedan hacer son resultado de lo que hicimos nosotros, como seres humanos. Les damos la concertación, por supuesto. En todo el ciclo del sistema –empezando por la investigación, la definición y las conclusiones a las que llegan– ni siquiera los que están desarrollando las tecnologías saben por qué las computadoras llegaron a algunas de estas conclusiones. Entonces, nuestro llamado es que siempre debe haber un ser humano que al final tenga el juicio», subrayó Ramos.

Sin embargo, el marco ético todavía «es un barco que no es compartido por todos los países de la misma forma. Todos los países tienen diferentes marcos éticos, pero difieren en ciertas formas, y hay que llegar a definiciones muy completas que incluyan temas de valores, el tema del respeto y la promoción de la protección y promoción de la dignidad humana, los derechos humanos y las libertades fundamentales», finalizó la subdirectora general de Ciencias Sociales y Humanas de la UNESCO.