Últimos reportajes
Temas destacados
Trending
La mitad de los empleados admite utilizar herramientas de IA generativa no autorizadas en el trabajo; la otra mitad miente. Bromas aparte, no cabe duda de que el auge de la IA generativa ha llamado la atención de empleados sobrecargados de trabajo, holgazanes y personas con espíritu emprendedor por igual. Te damos la bienvenida al mundo de la IA en la sombra.
Según una encuesta de Software AG, la mitad de los participantes utiliza IA en la sombra, un término que hace referencia a aplicaciones o herramientas de IA que no proporciona la empresa, en lugar de aquellas cuyo uso está expresamente prohibido. Un tercio de los encuestados afirmó recurrir a la IA en la sombra porque su equipo de TI no les ofrece las herramientas que necesitan para trabajar de forma más eficiente.
Esto significa que algunos empleados utilizan sistemas de IA generativa en su trabajo diario sin informar previamente a su jefe ni al equipo de TI. (Si tu jefe todavía no se ha dado cuenta, quizá te convenga seguir así: probablemente, en el futuro todos acabaremos cobrando por gestionar las instrucciones que damos a una máquina, y tú ya llevarás ventaja).
Algunas empresas han prohibido el uso de la IA generativa o de sistemas concretos, en la oficina. El año pasado, compañías como Apple, Amazon, Samsung y JPMorgan Chase prohibieron o restringieron considerablemente el uso de ChatGPT por parte de sus empleados, ante el temor de que compartieran inadvertidamente datos confidenciales o información de propiedad exclusiva con OpenAI.
Para que quede claro, utilizar Microsoft Copilot para crear invitaciones para la fiesta de cumpleaños de tus hijos o memes para compartir en tu grupo de WhatsApp no es IA en la sombra.
El término se refiere, más bien, a la instalación o el uso de servicios basados en IA no autorizados en una red corporativa con fines empresariales. También abarca los riesgos que esto puede generar, no solo para los departamentos de TI, sino para toda la organización.
El concepto procede de la expresión TI en la sombra (shadow IT), que describe el uso de dispositivos o programas no autorizados en una red corporativa. Puede haber buenas razones para ello: por ejemplo, que prefieras Microsoft Excel a Google Sheets. Sin embargo, esta práctica puede causar muchos problemas. Podrías filtrar datos de la empresa, ofrecer nuevas vías de ataque a los ciberdelincuentes y generar problemas de cumplimiento normativo.
Lo mismo ocurre con la IA en la sombra, aunque los riesgos son diferentes. Existe la posibilidad de sufrir daños reputacionales y obtener resultados inexactos, debido a las llamadas «alucinaciones» que suelen producir los modelos de lenguaje grandes. Y eso sin mencionar la preocupante posibilidad de que los empleados copien y peguen datos empresariales clave en chatbots.
Un artículo de BCS señala cuatro preocupaciones principales relacionadas con la IA en la sombra: la privacidad de los datos, el cumplimiento normativo, las vulnerabilidades de seguridad y la propiedad intelectual. Veámoslas una por una.
Privacidad de los datos. Si introduces datos de clientes o planes de negocio en ChatGPT, puedes poner en riesgo a tu empresa.
Cumplimiento normativo. Si la herramienta de IA que utilizas no cumple los requisitos normativos de sectores sensibles, como las finanzas o la sanidad, podrías provocar problemas legales.
Vulnerabilidades de seguridad. Cualquier programa que no se haya sometido a pruebas puede ser vulnerable a los ataques de los ciberdelincuentes.
Propiedad intelectual. Puedes generar problemas relacionados con la propiedad intelectual si utilizas contenidos o creas productos que en realidad no te pertenecen.
Además, los directivos deberían tener cuidado con los empleados que utilizan la IA para analizar datos y generar conclusiones sin contar con los controles adecuados.
Establecer directrices claras y comunicarlas adecuadamente puede ayudar a garantizar que los empleados, al menos, sean conscientes de que están incumpliendo las políticas de la empresa. Otra solución consiste en abandonar las prohibiciones absolutas o, como mínimo, ofrecer alternativas mejores.
En una publicación del año pasado, dos directivos de Google Cloud señalaron que las prohibiciones absolutas de la IA generativa son «teatro de seguridad» (security theatre), ya que no incorporan medidas técnicas para evitar un uso indebido y corren el riesgo de empujar su utilización «aún más a la clandestinidad».
Ambos sugieren que permitir el uso de herramientas de IA de nivel empresarial puede reducir los riesgos, ya que estas pueden configurarse para evitar que se compartan accidentalmente datos importantes al introducir instrucciones en un chatbot. Aunque no sorprende que esta recomendación proceda de una empresa que desarrolla IA, también es cierto que proporcionar a los empleados las herramientas que claramente quieren utilizar tiene bastante sentido.
Si decides prohibir las herramientas de IA, aplica también controles técnicos, como la supervisión de las aplicaciones utilizadas o el bloqueo de determinados sitios web. Ten en cuenta, sin embargo, que esto resulta más difícil cuando los empleados trabajan desde casa o utilizan sus propios dispositivos.
Dicho esto, puede haber buenas razones por las que tu empresa necesite mantener a sus empleados al margen de la IA por ahora. Asegúrate de que sepan por qué, ya sea por motivos de seguridad, cumplimiento normativo u otras razones, y ofréceles las herramientas adecuadas para facilitarles el trabajo, aunque no sean soluciones de IA.
Y si necesitas que los empleados analicen datos o realicen manualmente alguna otra tarea tediosa, dales tiempo suficiente para completarla o busca una forma de automatizarla sin recurrir a la IA. De lo contrario, no te sorprendas si acaban recurriendo a ChatGPT para hacer el trabajo.
