Guía Esencial

Navegue en las secciones
Noticias

Empleados adoptan IA generativa, pero no saben proteger los datos al usarla

Los empleados en todo el mundo están adoptando la IA generativa por sus ventajas, pero carecen de las habilidades de trabajar con fuentes confiables y asegurar los datos, lo que abre riesgos de ciberseguridad.

Colaborador de TechTarget
por
Publicado:16 ago 2023

La IA generativa ha llamado mucho la atención debido a las numerosas ventajas que ofrece a las empresas, como el aumento de la productividad y la mejora de la experiencia del cliente. Sin embargo, con esta tendencia surge un desafío relacionado con la seguridad de los datos, lo que plantea la pregunta de cómo garantizar su protección en este contexto de innovación.

De acuerdo con los últimos resultados de la “Generative AI Snapshot Research Series” de Salesforce, un estudio realizado a más de cuatro mil profesionales, el 73 % de los empleados cree que la IA generativa introduce nuevos riesgos de seguridad, aunque la mayoría utiliza o planea utilizar la tecnología. A pesar de estas preocupaciones, la investigación revela que pocos saben cómo proteger a sus empresas de dichos riesgos.

Según el estudio, aunque el 61 % de los colaboradores utiliza o planea utilizar IA generativa en el trabajo, casi el 60 % de quienes tienen previsto utilizar esta tecnología no sabe cómo hacerlo utilizando fuentes de datos confiables o garantizando la seguridad de los datos de origen o confidenciales.

La IA generativa transformará las relaciones con los clientes

Los profesionales ven el potencial de la IA generativa y ya están utilizando activamente la tecnología o planean utilizarla. Entre las razones que señalan para utilizarla, se encuentran ventajas como la posibilidad de atender mejor a los clientes (68 %), sacar más partido a otras inversiones en tecnología (como otras herramientas de IA y modelos de ML) (67 %) y ahorrar tiempo. Los colaboradores calculan que ahorran un promedio de cinco horas a la semana –el equivalente a un mes al año para los empleados a tiempo completo– utilizando IA generativa.

Sin embargo, para convertir la IA generativa en una tecnología segura y generalizada se requiere datos confiables, seguridad y la construcción de una base ética. El estudio de Salesforce muestra que los empleados afirman que estos tres elementos son necesarios para utilizar con éxito la IA generativa en su puesto y en su organización.

"La IA generativa tiene el potencial de ayudar a las empresas a conectarse con sus audiencias de maneras nuevas y más personalizadas", dijo Paula Goldman, jefa de Ética y Uso Humano de Salesforce. "A medida que las empresas adoptan esta tecnología, necesitan asegurarse de que existen directrices éticas y límites establecidos para un desarrollo y uso seguro de la IA generativa".

El estudio de Salesforce fue realizado en colaboración con YouGov del 18 al 25 de mayo de 2023, con base en una encuesta en línea cuyos resultados reflejan las respuestas de 4.135 colaboradores a tiempo completo de ventas, servicios, marketing y comercio.

Investigue más sobre Privacidad y protección de datos