Foto de Steve A Johnson en Unsplash

El nuevo dilema empresarial: cómo controlar sistemas de inteligencia artificial que comienzan a tomar decisiones por sí solos

• La irrupción de la inteligencia artificial agéntica está abriendo un nuevo desafío para las empresas.

• Mientras estas tecnologías prometen automatizar procesos complejos y acelerar la toma de decisiones, expertos advierten que muchas organizaciones aún no cuentan con mecanismos de gobernanza capaces de supervisar sistemas que actúan de manera autónoma.
• El desafío ya no es implementar IA. Es mantener el control sobre ella.

Durante años, la transformación digital estuvo enfocada en automatizar tareas, almacenar información y optimizar procesos. Sin embargo, una nueva generación de inteligencia artificial está cambiando las reglas del juego.

Se trata de la llamada IA agéntica.

Son sistemas capaces de analizar información y ejecutar acciones. También coordinar procesos e incluso tomar decisiones sin intervención humana permanente. 

Una evolución tecnológica que promete aumentar la productividad. Pero que también abre interrogantes sobre control y supervisión. Además de la responsabilidad dentro de las organizaciones.

Cristina Fritz es cofundadora de Digital eXp. La única empresa chilena especializada en Enterprise Technology. Cree que el desafío que enfrentan las compañías ya no es tecnológico, sino estratégico.

“Las empresas están entrando en una etapa donde la inteligencia artificial deja de ser una herramienta de apoyo. Esto, para convertirse en un actor dentro de los procesos de negocio. La pregunta ya no es cómo implementar IA. Es cómo gobernarla y asegurar que sus decisiones estén alineadas con los objetivos de la organización”, señala.

La preocupación no es menor. Diversos estudios internacionales muestran que la adopción de inteligencia artificial avanza más rápido que la capacidad de las empresas para gestionarla.

Mientras la mayoría de las organizaciones experimenta con algoritmos y automatización. Pero solo una pequeña parte logra capturar valor significativo. Esto, debido a problemas de gobernanza, integración y alineación estratégica.

Según Fritz, muchas compañías están repitiendo un error que ya vivieron durante la transformación digital. Incorporar tecnología sin una visión integral del negocio.

“Muchas organizaciones siguen comprando herramientas de manera aislada, sin una arquitectura tecnológica que conecte estrategia, procesos, datos y sistemas. Cuando eso ocurre, aparecen silos de información, decisiones desconectadas y una pérdida progresiva de control sobre la operación”, explica.

Desde Digital eXp sostienen que este fenómeno será aún más crítico con la llegada de agentes autónomos capaces de ejecutar tareas complejas. En áreas como atención de clientes, gestión financiera, operaciones, logística o recursos humanos, la inteligencia artificial comenzará a tomar decisiones que hasta hace poco dependían exclusivamente de personas.

La interrogante es quién supervisará esas decisiones.

“Las organizaciones necesitan establecer reglas claras de gobernanza antes de delegar procesos críticos a sistemas inteligentes. No basta con que la IA funcione. Debe ser auditable, explicable y estar alineada con las políticas, regulaciones y objetivos estratégicos de la empresa”, afirma Fritz.

La ejecutiva advierte que uno de los principales riesgos es que las empresas pierdan visibilidad sobre cómo se generan determinadas decisiones.

“Si una organización no entiende qué datos utiliza la IA, cómo procesa la información o bajo qué criterios recomienda una acción, corre el riesgo de tomar decisiones sin comprender realmente su impacto. Eso puede generar problemas operacionales, regulatorios y reputacionales.”

Para la especialista, este escenario explica por qué comienza a cobrar relevancia el concepto de Enterprise Technology, disciplina que busca alinear toda la arquitectura tecnológica con los objetivos del negocio, garantizando que la tecnología opere bajo una estrategia común y no como un conjunto de soluciones independientes.

“Durante años las empresas invirtieron en software, plataformas y herramientas digitales. El problema es que muchas veces lo hicieron sin una estrategia tecnológica integral. Hoy nos encontramos con ecosistemas complejos, costosos y difíciles de gobernar. La inteligencia artificial está acelerando esa necesidad de orden”, explica.

Desde Digital eXp aseguran que el crecimiento acelerado de la IA obliga a las organizaciones a replantear la forma en que gestionan sus sistemas tecnológicos.

“La inteligencia artificial necesita una base sólida. Si los datos están dispersos, los procesos no están definidos y los sistemas no conversan entre sí, la IA solo amplificará los problemas existentes. La gobernanza tecnológica será tan importante como la propia inteligencia artificial”, sostiene.

Para Cristina Fritz, la verdadera ventaja competitiva no estará en quién adopte más rápido la inteligencia artificial, sino en quién logre administrarla mejor.

“Muchas empresas creen que el desafío es implementar IA. Nosotros creemos que el desafío será gobernarla. Las organizaciones que logren integrar estrategia de negocio, datos, procesos y tecnología. Esto asegura que cada decisión tomada por un sistema inteligente contribuya realmente a los objetivos de la organización, serán las que efectivamente capturen valor y generen una ventaja competitiva real”.

En un escenario donde los sistemas inteligentes comienzan a asumir tareas cada vez más complejas, la pregunta que empieza a instalarse en los directorios y equipos ejecutivos es tan simple como inquietante. Cuando la inteligencia artificial tome decisiones por sí sola, ¿quién tendrá realmente el control?