Un reciente informe del World Economic Forum, pone alerta en las vulnerabilidades vinculadas a la IA. Crecen más rápido que el fraude y el ransomware.
La IA en la sombra es conocido como Shadow AI. Es un concepto que cada vez resuena más. En concreto, se trata del uso de herramientas de Inteligencia Artificial, como ChatGPT, Gemini u otros.
Incluso extensiones del navegador y agentes autónomos. Esto, por parte de empleados o colaboradores de una organización, pero sin permiso, autorización, supervisión o conocimiento del departamento de TI de la empresa. O de quien esté a cargo de la ciberseguridad.
Como es de suponer, esta práctica, que se está volviendo más que habitual en los lugares de trabajo o de estudios.
Principalmente debido a que cuando se utilizan dichas plataformas no controladas se introduce información clave. Muchas veces es personal o de la organización.
El problema radica en que esas plataformas pueden guardar o reutilizar esa data. Por tanto, se pierde el control sobre ella. De esa manera, datos personales o de clientes, documentos internos o estrategias empresariales pueden terminar en bases de datos externas sin ninguna garantía de protección.
Así, además de la fuga de información sensible y pérdida de control de los datos. El uso de herramientas gratuitas de IA para resumir documentos, traducir textos, programar código o transcribir reuniones, lleva al incumplimiento normativo (como RGPD). Con ello, a posibles sesgos en los resultados.
Esto, con el fin de implementar políticas claras, utilizar herramientas SaaS autorizadas. También formar a los empleados y monitorizar el uso de aplicaciones de IA.
La gobernanza de la IA conlleva un conjunto de marcos y políticas. También procesos que garantizan el uso ético, seguro y responsable de esta innovadora tecnología. Esto abarca desde la gestión de datos hasta la supervisión humana, para mitigar sesgos, asegurar la transparencia y cumplir normativas.
Implementar la IA y su uso con un enfoque responsable.
Integrando evaluaciones automatizadas y alertas en tiempo real y manteniendo el control humano. Esto, especialmente en sistemas de agentes autónomos, es clave a la hora de integrar la IA en las organizaciones actuales.
La herramienta nativa de HyperOS permite operar dos escritorios separados dentro del mismo equipo, sin…
La empresa incorporará diez buses Marcopolo Paradiso G8 sobre chasis Scania. Las unidades suman tecnología…
Los modelos Nevo Q05, Deepal S05 y Deepal S07 fueron incluidos en la lista…
Ante la creciente frecuencia de ataques digitales en América Latina, ASUS presenta su ecosistema de…
Los modelos ZBook 8 G1i y ZBook X G1i combinan procesadores Intel Core Ultra, gráficos…
El desgaste de la articulación de la cadera puede avanzar progresivamente. Puede afectar actividades tan…