IA y datos sensibles

Por Luciano Muñoz, ingeniero ITQ Latam

La gestión de la información y sobre todo cuando se trata de data sensible, sin duda, está cada día más expuesta, debido al aumento de la ciberdelincuencia. En efecto, uno de los principales riesgos es que las plataformas públicas de IA no garantizan un correcto tratamiento de la información sensible.

Y es que, al utilizar plataformas públicas para procesar información sensible, la información entregada al modelo podría ser utilizada para reentrenar el modelo u otro fin no declarado.

Por lo mismo, es importante clasificar la información según su grado de sensibilidad y también aplicar controles, ya sean técnicos o administrativos, para asegurar el correcto tratamiento de la información por los usuarios de la organización al momento de trabajar con modelos de IA.

Por otro lado, existen riesgos basados en ataques maliciosos a través del uso de IA. En este sentido, también las herramientas de ciberseguridad disponen de métodos de protección automatizada y diseñada para prevenir este tipo de ataques.

De esa manera, se hace relevante la adopción de herramientas que mapeen el comportamiento usual de las plataformas, entendiendo a un nivel más profundo que puede ser considerado malicioso o generado por IA.

Por último, para una implementación responsable de IA en entornos críticos que permita a las áreas de ciberseguridad corporativa prevenir y enfrentar esos desafíos, es clave la implementación de políticas y estándares adecuados.

Así, en el contexto de la ciberseguridad, se mantienen vigentes estándares SGSI (Sistema de Gestión de Seguridad de la Información) a través de la ISO 27001, o bien del NIST, donde se plantea la gestión de riesgos y controles que también son aplicables a entornos de IA.

De igual forma, varias organizaciones se encuentran en desarrollo y adopción de modelos de IA privados para uso corporativo. De manera tal que se garantiza el correcto tratamiento de la información.

www.itqlatam.com