NVIDIA dio a conocer NVIDIA Project DIGITS, una supercomputadora personal de IA que proporciona a investigadores, científicos y estudiantes de todo el mundo acceso a la potencia de la plataforma NVIDIA Grace Blackwell.
Este lanzamiento incorpora el nuevo superchip NVIDIA GB10 Grace Blackwell, que ofrece un petaFLOP de rendimiento de cálculo de IA para la creación de prototipos, la puesta a punto y la ejecución de grandes modelos de Inteligencia Artificial.
Con Project DIGITS, los usuarios pueden desarrollar y ejecutar inferencias sobre modelos en su propio sistema de escritorio y, a continuación, implantarlos sin problemas en infraestructuras aceleradas de nube o centros de datos.
«La IA se generalizará en todas las aplicaciones de todos los sectores. Con Project DIGITS, el superchip Grace Blackwell llega a millones de desarrolladores», afirmó Jensen Huang, Fundador y CEO de NVIDIA. Además, sostuvo que poner una supercomputadora de IA en los escritorios de científicos, investigadores y estudiantes, los habilita para participar y forjar la era de la Inteligencia Artificial.
El GB10 incorpora una GPU NVIDIA Blackwell con núcleos CUDA de última generación y Tensor Cores de quinta generación, conectada a través de la interconexión Chip a Chip NVLink–C2C una CPU NVIDIA Grace de alto rendimiento, que incluye 20 núcleos de bajo consumo construidos con la arquitectura Arm.
El GB10 Superchip permite que Project DIGITS ofrezca un rendimiento potente utilizando únicamente una toma de corriente eléctrica estándar. Cada Project DIGITS cuenta con 128 GB de memoria unificada y coherente,y hasta 4 TB de almacenamiento NVMe. Con esta supercomputadora, los desarrolladores pueden ejecutar modelos de lenguaje de gran tamaño, de hasta 200.000 millones de parámetros, y potenciar así la innovación en IA. Además, utilizando la red NVIDIA ConnectX, dos superordenadores de IA del Proyecto DIGITS pueden conectarse para ejecutar modelos de hasta 405 mil millones de parámetros.
La supercomputación de IA Grace Blackwell está al alcance de la mano
Con esta arquitectura, las empresas y los investigadores pueden crear prototipos, perfeccionar y probar modelos en sistemas locales Project DIGITS que ejecutan el sistema operativo NVIDIA DGX OS basado en Linux, y luego implementarlos sin problemas en NVIDIA DGX Cloud, instancias aceleradas en la nube o infraestructura de centros de datos. Esto permite a los desarrolladores crear prototipos de IA en Project DIGITS y luego escalarlos en la nube o en la infraestructura del centro de datos, utilizando la misma arquitectura Grace Blackwell y la plataforma de software NVIDIA AI Enterprise.
Los usuarios de Project DIGITS pueden acceder a una amplia biblioteca de software de IA de la compañía para experimentar y crear prototipos, que incluye kits de desarrollo de software, herramientas de orquestación, frameworks y modelos disponibles en el catálogo de NVIDIA NGC y en el portal para desarrolladores. Además, pueden ajustar los modelos con el marco NVIDIA NeMo, acelerar la ciencia de datos con las librerías NVIDIA RAPIDS y ejecutar marcos comunes como PyTorch, Python y los cuadernos Jupyter.
Para crear aplicaciones de inteligencia artificial agéntica, los usuarios también pueden aprovechar los microservicios NVIDIA Blueprints y NVIDIA NIM, que están disponibles para investigación, desarrollo y pruebas a través del Programa para desarrolladores.
La empresa informó que su nueva supercomputadora está disponible a finales de este año.
