Production Perig - stock.adobe.c

Noticias

La IA en ciberseguridad e identidad digital es un arma de doble filo

La escasez de habilidades especializadas, la gobernanza y la limitación de datos, la ética, la privacidad y la protección de datos, así como la regulación y la normatividad, están entre los principales retos para un uso responsable de IA.

Melisa Osores
por
Publicado:06 ago 2024

La creciente adopción de herramientas de inteligencia artificial en diversas organizaciones ha impulsado la demanda de expertos y personal calificado, capaces de implementarlas y asegurarlas, ya que junto a los beneficios de la IA surgen el mismo número de riesgos que deben ser abordados, antes de integrar estas tecnologías a los entornos laborales.

Los principales desafíos incluyen el aumento de la complejidad de las amenazas, las herramientas de desinformación, la escasez de habilidades especializadas y de cooperación entre humanos y sistemas automatizados, la gobernanza y la limitación de datos. A esto se suman los temas de la ética, la privacidad y la protección de datos, además de la regulación y normatividad. Así lo refiere el análisis "Innovando el ciberespacio: La poderosa revolución de la Inteligencia Artificial en la Ciberseguridad y la Identidad Digital”, realizado por IQSEC, que ofrece una perspectiva profunda sobre cómo la IA está transformando la ciberseguridad y gestionando la identidad digital.

“La IA es una tecnología que ha revolucionado al mundo, presentándose como una espada de dos filos, pues puede automatizar y facilitar tareas complicadas para una persona, pero también puede generar información o materiales para acciones maliciosas. Por ello, antes de su implementación generalizada se debe evaluar los pros y los contras, tomando en cuenta las habilidades y los conocimientos de su equipo de ciberseguridad para responder a las constantes amenazas que surgirán”, alertó Manuel Moreno, director de Ciberseguridad (CISO) de IQSEC.

Un vistazo al panorama latinoamericano

En particular, naciones como México y gran parte de América Latina enfrentan procesos lentos de conocimiento y aceptación del tema, a pesar de iniciativas del sector privado. Este rezago, agravado por la escasa discusión sobre la implementación y la regulación de la IA, ha propiciado un escenario donde otros actores, en su mayoría con intenciones negativas, impulsan su uso de manera perjudicial.

“Aunque México se ubica en la quinta posición del ‘Índice Latinoamericano de Inteligencia Artificial’ (ILIA) en alfabetización y formación de la IA en la región –superado por Chile, Brasil, Uruguay y Argentina–, nuestro país todavía tiene mucho camino por recorrer en lo referente a la alta especialización, capital humano e infraestructura”, refirió el especialista.

La inteligencia artificial, al ser una herramienta poderosa, requiere de un marco robusto que garantice no solo su efectividad, sino también su seguridad y equidad. La falta de una estrategia integral puede exponer a las organizaciones a riesgos graves, que van desde la explotación de vulnerabilidades hasta el uso indebido de datos sensibles. Por lo tanto, es crucial que las políticas y las prácticas de seguridad se integren de manera proactiva en el ciclo de vida de la IA para construir un entorno digital más seguro y confiable, que permita a México alcanzar una posición destacada en la región y a nivel global, remarcó el CISO de IQSEC.

Cómo llevar a cabo un uso responsable de la IA

IQSEC sugiere considerar las siguientes recomendaciones para una ejecución responsable de la IA:

  • Impulsar la transparencia en los algoritmos y en el proceso de toma de decisiones para generar confianza y comprender cómo se llega a ciertas conclusiones.
  • Establecer principios de ética y responsabilidad en el diseño, desarrollo y aplicación de la IA.
  • Promover la diversidad y representación equitativa en los conjuntos de datos, para evitar sesgos.
  • Respetar la privacidad y protección de datos cumpliendo las regulaciones vigentes locales e internacionales.
  • Contar con estrategias de seguridad y robustez para evitar vulnerabilidades que puedan ser explotadas.
  • Utilizar supervisión humana para validar y corregir decisiones.
  • Concientizar y capacitar sobre las amenazas cibernéticas y las mejores prácticas de seguridad, para reducir el riesgo de caer en engaños.
  • Hacer una evaluación exhaustiva de proveedores para elegir soluciones de IA seguras.
  • Colaborar y difundir incidentes con la comunidad de ciberseguridad para alertar de las últimas tácticas y vulnerabilidades.

Investigue más sobre Gestión de la seguridad