NVIDIA amplía DGX Spark con una versión de 64 GB para ejecutar inteligencia artificial de forma local

NVIDIA anunció una nueva versión de DGX Spark con 64 GB de memoria unificada, un equipo compacto diseñado para desarrollar y ejecutar inteligencia artificial de manera local.

La nueva configuración estará disponible a partir del 23 de octubre mediante fabricantes como Acer, ASUS, Dell, Gigabyte, HP y MSI, con un precio inicial de 4 mil 999 dólares, de acuerdo con la compañía.

Aunque el producto está dirigido principalmente a desarrolladores y equipos técnicos, el cambio apunta a una tendencia más amplia: llevar tareas de inteligencia artificial que normalmente se procesan en grandes centros de datos o servicios en la nube hacia computadoras que pueden trabajar directamente en una oficina, laboratorio o espacio de investigación.

¿Qué significa “IA local”?

Cuando una herramienta de inteligencia artificial funciona en la nube, los datos deben enviarse a servidores externos para ser procesados.

Con un sistema como DGX Spark, una parte de ese trabajo puede realizarse directamente en el propio equipo.

En términos sencillos, esto permite que una organización pueda experimentar con modelos, documentos o información interna sin tener que enviar cada tarea a un servicio remoto.

Eso puede ser relevante para empresas, universidades o equipos de investigación que manejan información sensible o que necesitan mayor control sobre dónde se procesan sus datos.

NVIDIA señala que la versión de 64 GB puede ejecutar localmente modelos de hasta 100 mil millones de parámetros.

Ese número se refiere, de manera simplificada, al tamaño y complejidad del modelo. Cuantos más parámetros tiene un modelo, mayor capacidad de memoria y procesamiento suele requerir para funcionar.

Dos equipos pueden trabajar como uno

La compañía también presentó NVIDIA Sync Cluster Assistant, una herramienta que permite conectar dos equipos DGX Spark.

Al hacerlo, ambos sistemas pueden compartir recursos y alcanzar hasta 128 GB de memoria combinada, lo que permite trabajar con modelos más grandes.

Según NVIDIA, esa configuración puede soportar modelos de hasta 200 mil millones de parámetros.

La empresa también reporta mejoras de rendimiento al conectar dos equipos, aunque esas cifras provienen de pruebas realizadas por la propia NVIDIA y no de una evaluación independiente.

Por qué importa

El anuncio refleja un cambio importante en la evolución de la inteligencia artificial: no todo tendrá que ejecutarse en grandes servicios de nube.

Para ciertos usuarios, poder correr modelos de IA directamente en una máquina propia puede significar mayor control sobre sus datos, menor dependencia de conexiones externas y más flexibilidad para experimentar con herramientas personalizadas.

También abre la puerta a que agentes de IA —programas capaces de realizar tareas de manera más autónoma— puedan mantenerse funcionando dentro de una infraestructura controlada por la propia organización.

En otras palabras, la tendencia apunta a que parte de la inteligencia artificial empiece a trasladarse del centro de datos al escritorio.

Qué observar

El punto clave será ver hasta qué grado estos equipos pueden sustituir tareas que hoy dependen de servicios en la nube y para qué tipo de organizaciones resulta económicamente conveniente hacerlo.

También habrá que observar el costo real de operar varios equipos conectados, el consumo de energía, el desempeño con modelos distintos y si este tipo de infraestructura logra extenderse más allá de desarrolladores especializados.

La disponibilidad de herramientas cada vez más compactas para ejecutar IA local también podría impulsar nuevos modelos de trabajo en universidades, empresas y centros de investigación que buscan mantener mayor control sobre sus datos.