Modelos locales de inteligencia artificial llegan al computador de cada usuario

Privacidad, autonomía y eficiencia incentivan una nueva forma de utilizar estas herramientas. Permitiendo que más personas y organizaciones incorporen capacidades avanzadas. Sin depender de servicios externos. Felipe Mancini, CEO de Asimov Consultores y presidente de Chiletec, explica las implicancias de esta transformación.

Los modelos locales de inteligencia artificial emergen como una de las tendencias más relevantes. En la evolución reciente de esta tecnología. Se trata de modelos que pueden ejecutarse directamente en el computador, teléfono u otro dispositivo del usuario. Sin depender de la nube o plataformas externas.

En la práctica, esto permite que el procesamiento de consultas, documentos o tareas ocurra dentro del propio equipo. Lo que entrega mayor control de los datos, operación sin conexión y nuevas posibilidades de uso. En contextos donde la privacidad, la conectividad o el costo son factores determinantes.

“La IA ya no está limitada a las grandes plataformas. Las herramientas Ollama, LM Studio y Jan han facilitado la ejecución de modelos como Llama, Gemma o Qwen y otros en computadores personales. Impulsados por el aumento de capacidad de los dispositivos, la optimización de modelos más livianos y la creciente preocupación por la privacidad de los datos”, afirma Felipe Mancini, CEO de Asimov Consultores, empresa chilena que desarrolla apps móviles, software e inteligencia para el sector público y privado.

Mancini, quien además es vicepresidente de Chiletec (Asociación de Empresas Chilenas de Tecnología), explica que entre las principales ventajas de usar esta tecnología se encuentra la privacidad. “Ya que la información sensible no necesariamente sale del dispositivo. La independencia operativa, porque pueden funcionar sin internet o con conectividad limitada. Y un cambio en el modelo de costos. Donde el gasto deja de asociarse a cada consulta en la nube. Y pasa a depender principalmente del hardware y no del uso diario del modelo”. Sin embargo, advierte que este enfoque no reemplaza completamente a los modelos en la nube. Ya que los sistemas más avanzados siguen requiriendo infraestructura centralizada. Configurando un escenario híbrido.

En cuanto a los usos, el especialista precisa “que estos modelos resumen textos, redactan, traducen, organizan información o analizan archivos. Sin enviarlos a servicios externos. Además de aplicaciones en educación, productividad y herramientas creativas”.

Ahora bien, las tendencias dicen que su adopción se concentra hoy en desarrolladores, investigadores, especialistas en ciberseguridad y empresas con datos sensibles. Mientras actores como Apple, Qualcomm y Meta motivan su integración en dispositivos y plataformas.

Instalar un modelo local es un proceso accesible. Ollama o LM Studio permiten descargar y ejecutar modelos en pocos pasos. Convirtiendo un computador convencional en un entorno de inteligencia artificial funcional.

Aunque el principal requisito, menciona Mancini, es la memoria disponible. “Con 8 GB de RAM es posible trabajar con modelos livianos. Mientras que con 16 GB o más se amplían las capacidades.

En equipos con Apple Silicon, en tanto, o tarjetas gráficas dedicadas, el rendimiento mejora de forma considerable. El software suele ser gratuito. Por lo que el costo de entrada depende principalmente del hardware. Y no del uso diario del modelo”.

“En perspectiva, la tendencia apunta a una expansión sostenida de esta tecnología. Impulsada por chips cada vez más preparados para ejecutar IA directamente en el dispositivo. Lo más probable es que avancemos hacia una IA híbrida”, resume el ejecutivo de Asimov Consultores.

Señalando que, en ese escenario, los computadores y teléfonos resolverán localmente muchas tareas del día a día. Mientras que la nube quedará reservada para procesos más complejos, modelos potentes y capacidades que requieran mayor infraestructura.