Tecnología

IA en la sombra: riesgos y gobernanza

IA en la sombra: riesgos y gobernanza

Rodrigo Acevedo, gerente general Entersoft

Un reciente informe del World Economic Forum, pone alerta en las vulnerabilidades vinculadas a la IA.  Crecen más rápido que el fraude y el ransomware. 

La IA en la sombra es conocido como Shadow AI.  Es un concepto que cada vez resuena más. En concreto, se trata del uso de herramientas de Inteligencia Artificial, como ChatGPT, Gemini u otros.

Incluso extensiones del navegador y agentes autónomos. Esto, por parte de empleados o colaboradores de una organización, pero sin permiso, autorización, supervisión o conocimiento del departamento de TI de la empresa. O de quien esté a cargo de la ciberseguridad. 

Como es de suponer, esta práctica, que se está volviendo más que habitual en los lugares de trabajo o de estudios.

Representa un grave riesgo de ciberseguridad y fuga de datos confidenciales.

Principalmente debido a que cuando se utilizan dichas plataformas no controladas se introduce información clave.  Muchas veces es personal o de la organización. 

El problema radica en que esas plataformas pueden guardar o reutilizar esa data. Por tanto, se pierde el control sobre ella. De esa manera, datos personales o de clientes, documentos internos o estrategias empresariales pueden terminar en bases de datos externas sin ninguna garantía de protección. 

Así, además de la fuga de información sensible y pérdida de control de los datos. El uso de herramientas gratuitas de IA para resumir documentos, traducir textos, programar código o transcribir reuniones, lleva al incumplimiento normativo (como RGPD). Con ello, a posibles sesgos en los resultados. 

Por lo mismo, lo prudente y aconsejable es fortalecer la gobernanza dentro de las organizaciones.

Esto, con el fin de implementar políticas claras, utilizar herramientas SaaS autorizadas. También formar a los empleados y monitorizar el uso de aplicaciones de IA. 

La gobernanza de la IA conlleva un conjunto de marcos y políticas. También procesos que garantizan el uso ético, seguro y responsable de esta innovadora tecnología. Esto abarca desde la gestión de datos hasta la supervisión humana, para mitigar sesgos, asegurar la transparencia y cumplir normativas.

Implementar la IA y su uso con un enfoque responsable.

Integrando evaluaciones automatizadas y alertas en tiempo real y manteniendo el control humano. Esto, especialmente en sistemas de agentes autónomos, es clave a la hora de integrar la IA en las organizaciones actuales.

Gestor Noticias

Recent Posts

Cómo proteger tu información más sensible en tu Xiaomi con la función “Segundo Espacio”

La herramienta nativa de HyperOS permite operar dos escritorios separados dentro del mismo equipo, sin…

5 hours ago

Narbus celebra 60 años con una nueva flota Scania y servicio Cama Premium

La empresa incorporará diez buses Marcopolo Paradiso G8 sobre chasis Scania. Las unidades suman tecnología…

5 hours ago

Changan recibe seis nominaciones en los World Car Awards 2027

  Los modelos Nevo Q05, Deepal S05 y Deepal S07 fueron incluidos en la lista…

5 hours ago

ASUS ExpertGuardian te ayuda a mantener la seguridad de tu negocio

Ante la creciente frecuencia de ataques digitales en América Latina, ASUS presenta su ecosistema de…

5 hours ago

HP destaca su línea de estaciones de trabajo móviles ZBook, pensadas para potenciar la productividad de profesionales creativos y técnicos

Los modelos ZBook 8 G1i y ZBook X G1i combinan procesadores Intel Core Ultra, gráficos…

6 hours ago

¿Te cuesta subir escaleras o levantarte del sillón? Las señales de que tu cadera podría necesitar atención

El desgaste de la articulación de la cadera puede avanzar progresivamente. Puede afectar actividades tan…

6 hours ago