IA en la sombra: riesgos y gobernanza

IA en la sombra: riesgos y gobernanza

Rodrigo Acevedo, gerente general Entersoft

Un reciente informe del World Economic Forum, pone alerta en las vulnerabilidades vinculadas a la IA.  Crecen más rápido que el fraude y el ransomware. 

La IA en la sombra es conocido como Shadow AI.  Es un concepto que cada vez resuena más. En concreto, se trata del uso de herramientas de Inteligencia Artificial, como ChatGPT, Gemini u otros.

Incluso extensiones del navegador y agentes autónomos. Esto, por parte de empleados o colaboradores de una organización, pero sin permiso, autorización, supervisión o conocimiento del departamento de TI de la empresa. O de quien esté a cargo de la ciberseguridad. 

Como es de suponer, esta práctica, que se está volviendo más que habitual en los lugares de trabajo o de estudios.

Representa un grave riesgo de ciberseguridad y fuga de datos confidenciales.

Principalmente debido a que cuando se utilizan dichas plataformas no controladas se introduce información clave.  Muchas veces es personal o de la organización. 

El problema radica en que esas plataformas pueden guardar o reutilizar esa data. Por tanto, se pierde el control sobre ella. De esa manera, datos personales o de clientes, documentos internos o estrategias empresariales pueden terminar en bases de datos externas sin ninguna garantía de protección. 

Así, además de la fuga de información sensible y pérdida de control de los datos. El uso de herramientas gratuitas de IA para resumir documentos, traducir textos, programar código o transcribir reuniones, lleva al incumplimiento normativo (como RGPD). Con ello, a posibles sesgos en los resultados. 

Por lo mismo, lo prudente y aconsejable es fortalecer la gobernanza dentro de las organizaciones.

Esto, con el fin de implementar políticas claras, utilizar herramientas SaaS autorizadas. También formar a los empleados y monitorizar el uso de aplicaciones de IA. 

La gobernanza de la IA conlleva un conjunto de marcos y políticas. También procesos que garantizan el uso ético, seguro y responsable de esta innovadora tecnología. Esto abarca desde la gestión de datos hasta la supervisión humana, para mitigar sesgos, asegurar la transparencia y cumplir normativas.

Implementar la IA y su uso con un enfoque responsable.

Integrando evaluaciones automatizadas y alertas en tiempo real y manteniendo el control humano. Esto, especialmente en sistemas de agentes autónomos, es clave a la hora de integrar la IA en las organizaciones actuales.