Empresas

IA y datos sensibles

Por Luciano Muñoz, ingeniero ITQ Latam

La gestión de la información y sobre todo cuando se trata de data sensible, sin duda, está cada día más expuesta, debido al aumento de la ciberdelincuencia. En efecto, uno de los principales riesgos es que las plataformas públicas de IA no garantizan un correcto tratamiento de la información sensible.

Y es que, al utilizar plataformas públicas para procesar información sensible, la información entregada al modelo podría ser utilizada para reentrenar el modelo u otro fin no declarado.

Por lo mismo, es importante clasificar la información según su grado de sensibilidad y también aplicar controles, ya sean técnicos o administrativos, para asegurar el correcto tratamiento de la información por los usuarios de la organización al momento de trabajar con modelos de IA.

Por otro lado, existen riesgos basados en ataques maliciosos a través del uso de IA. En este sentido, también las herramientas de ciberseguridad disponen de métodos de protección automatizada y diseñada para prevenir este tipo de ataques.

De esa manera, se hace relevante la adopción de herramientas que mapeen el comportamiento usual de las plataformas, entendiendo a un nivel más profundo que puede ser considerado malicioso o generado por IA.

Por último, para una implementación responsable de IA en entornos críticos que permita a las áreas de ciberseguridad corporativa prevenir y enfrentar esos desafíos, es clave la implementación de políticas y estándares adecuados.

Así, en el contexto de la ciberseguridad, se mantienen vigentes estándares SGSI (Sistema de Gestión de Seguridad de la Información) a través de la ISO 27001, o bien del NIST, donde se plantea la gestión de riesgos y controles que también son aplicables a entornos de IA.

De igual forma, varias organizaciones se encuentran en desarrollo y adopción de modelos de IA privados para uso corporativo. De manera tal que se garantiza el correcto tratamiento de la información.

www.itqlatam.com

Editor Banco de Noticias

Recent Posts

ESBUENISIMO LABS lanza SEO NIGHT: el evento que busca consolidar la comunidad SEO en Chile

SANTIAGO — En noviembre de este año se realizará la primera edición de SEO NIGHT…

2 days ago

Salesianos La Serena inaugura uno de los laboratorios educativos más avanzados de la región

Una nueva puerta al conocimiento y la innovación se abre para los jóvenes técnicos de…

2 days ago

¡Celebra el Día de la Cazuela!: tips infalibles para una preparación deliciosa y llena de sabor

Este 30 de julio, Chile le rinde homenaje a uno de sus platos más queridos…

2 days ago

Mac DeMarco agotada entradas y suma segunda fecha para su regreso Chile

En solo 25 minutos, Mac DeMarco agotó las entradas para su concierto en Chile, fijado…

3 days ago

“Star Rating for Schools”: Llega Santiago el programa mundial que transforma los entornos escolares para prevenir siniestros viales

Este proyecto internacional, que por primera vez llega a la comuna. Identifica las situaciones de…

3 days ago

Vuelve Chile Mercado Libre Experience, el evento de eCommerce más grande de América Latina

Por segunda vez, Mercado Libre Experience busca conectar emprendedores con voces referentes dentro del ecosistema…

3 days ago