IA en la sombra: riesgos y gobernanza
Rodrigo Acevedo, gerente general Entersoft
Un reciente informe del World Economic Forum, pone alerta en las vulnerabilidades vinculadas a la IA. Crecen más rápido que el fraude y el ransomware.
La IA en la sombra es conocido como Shadow AI. Es un concepto que cada vez resuena más. En concreto, se trata del uso de herramientas de Inteligencia Artificial, como ChatGPT, Gemini u otros.
Incluso extensiones del navegador y agentes autónomos. Esto, por parte de empleados o colaboradores de una organización, pero sin permiso, autorización, supervisión o conocimiento del departamento de TI de la empresa. O de quien esté a cargo de la ciberseguridad.
Como es de suponer, esta práctica, que se está volviendo más que habitual en los lugares de trabajo o de estudios.
Representa un grave riesgo de ciberseguridad y fuga de datos confidenciales.
Principalmente debido a que cuando se utilizan dichas plataformas no controladas se introduce información clave. Muchas veces es personal o de la organización.
El problema radica en que esas plataformas pueden guardar o reutilizar esa data. Por tanto, se pierde el control sobre ella. De esa manera, datos personales o de clientes, documentos internos o estrategias empresariales pueden terminar en bases de datos externas sin ninguna garantía de protección.
Así, además de la fuga de información sensible y pérdida de control de los datos. El uso de herramientas gratuitas de IA para resumir documentos, traducir textos, programar código o transcribir reuniones, lleva al incumplimiento normativo (como RGPD). Con ello, a posibles sesgos en los resultados.
Por lo mismo, lo prudente y aconsejable es fortalecer la gobernanza dentro de las organizaciones.
Esto, con el fin de implementar políticas claras, utilizar herramientas SaaS autorizadas. También formar a los empleados y monitorizar el uso de aplicaciones de IA.
La gobernanza de la IA conlleva un conjunto de marcos y políticas. También procesos que garantizan el uso ético, seguro y responsable de esta innovadora tecnología. Esto abarca desde la gestión de datos hasta la supervisión humana, para mitigar sesgos, asegurar la transparencia y cumplir normativas.
Implementar la IA y su uso con un enfoque responsable.
Integrando evaluaciones automatizadas y alertas en tiempo real y manteniendo el control humano. Esto, especialmente en sistemas de agentes autónomos, es clave a la hora de integrar la IA en las organizaciones actuales.
