La inteligencia artificial avanzada ya no es exclusiva de servidores o la nube: cada vez más usuarios en Argentina y el mundo están ejecutando LLMs (Large Language Models) directamente en sus computadoras para ahorrar costos de suscripción y mantener el control total sobre sus proyectos. Gracias a modelos open weight y herramientas gratuitas, estudiantes, desarrolladores y entusiastas pueden experimentar con IA en laptops y PCs de escritorio, mientras las GPU GeForce RTX garantizan un rendimiento rápido y eficiente. Con Project G-Assist, los usuarios incluso pueden controlar su computadora con comandos de voz o texto, optimizando rendimiento, ventilación y batería.
Entre las herramientas más accesibles se encuentra Ollama, que permite interactuar con modelos de lenguaje mediante una interfaz sencilla, arrastrando PDFs, manteniendo chats y combinando texto e imágenes. Por su parte, AnythingLLM permite crear un asistente personal de IA que organiza notas, presentaciones y documentos, generando cuestionarios y tarjetas de estudio de manera privada y rápida. LM Studio, basado en llama.cpp, ofrece soporte para múltiples modelos locales, chats en tiempo real e incluso APIs locales para integrarlos en proyectos personalizados.
Las últimas actualizaciones de GeForce RTX AI PCs mejoran significativamente el rendimiento de estas herramientas. Ollama ahora ofrece hasta un 50% más de velocidad en GPT-OSS-20B y hasta un 60% en Gemma 3, mientras que llama.cpp y GGML optimizados aprovechan Flash Attention y núcleos CUDA para inferencias más rápidas. Además, la actualización G-Assist v0.1.18 agrega nuevos comandos para laptops y mejora la calidad de las respuestas. Microsoft también impulsa estas capacidades con Windows ML y NVIDIA TensorRT, aumentando hasta un 50% la velocidad de inferencia y ampliando el soporte para LLMs y modelos de difusión en Windows 11.
Con estas herramientas, la IA local en PCs ya es una realidad accesible y poderosa, permitiendo a los usuarios experimentar, aprender y crear con modelos de última generación sin depender de la nube. Para más detalles y guías de uso, se recomienda consultar el blog RTX AI Garage de NVIDIA, donde se explican los pasos para empezar a aprovechar la inteligencia artificial directamente en tu computadora.