NVIDIA anuncia nueva clase de supercomputadoras DGX AI – TechCult

NVIDIA ha anunciado una nueva clase de supercomputadoras DGX AI llamada DGX GH200 en Computex 2023. La nueva supercomputadora funciona con Superchips NVIDIA GH200 Grace Hopper y el Sistema de conmutación NVIDIA NVLink para crear un modelo de próxima generación para generativo aplicaciones de IA.

Con usos masivos de espacio de memoria compartida Tecnología de interconexión NVLink con el sistema de interruptor NVLink que puede combinar 256 superchips GH200, lo que le permite funcionar como un solo sistema de GPU. Esta tecnología proporciona a la supercomputadora 1 exaflop de rendimiento y 144 terabytes de memoria compartida. La nueva computadora tendrá casi 500 veces más memoria que las generaciones anteriores de supercomputadoras NVIDIA.

jensenhuang, fundador y CEO de NVIDIA, dijo con el anuncio, “La IA generativa, los modelos de lenguaje grande y los sistemas de recomendación son los motores digitales de la economía moderna, DGX GH200 AI Las supercomputadoras integran las tecnologías de computación y redes aceleradas más avanzadas de NVIDIA para expandir la frontera de AI."

Los Superchips GH200 revolucionan la conexión PCIe convencional de CPU a GPU al integrar una CPU NVIDIA Grace basada en Arm con una GPU NVIDIA H100 Tensor Core en una sola unidad. Este avance es posible gracias a la implementación de Interconexiones de chip NVIDIA NVLink-C2C. Como resultado, el ancho de banda entre la GPU y la CPU experimenta un notable aumento de 7 veces en comparación con la tecnología PCIe más avanzada disponible.

Este diseño innovador reduce significativamente el consumo de energía de interconexión en más de 5 veces. Los Superchips GH200 también introducen la impresionante Bloque de construcción GPU de arquitectura Hopper de 600 GB, diseñado específicamente para las supercomputadoras DGX GH200.

DGX GH200 es el primero de su tipo en emparejarse Superchips Grace Hopper con el sistema de conmutador NVIDIA NVLink. La generación anterior de computadoras solo proporcionaba ocho GPU para combinar con NVLink como una GPU sin comprometer el rendimiento.

La nueva supercomputadora proporciona 0,48 veces más ancho de banda NVLink que los modelos anteriores, lo que le permite convertirse en una supercomputadora de inteligencia artificial masiva con la simplicidad de programar una sola GPU.

nube de google, Meta, y microsoft son algunos de los primeros en obtener acceso al DGX GH200 para explorar sus cargas de trabajo generativas de IA. Más temprano Microsoft también firmó un acuerdo de licencia de 10 años con NVIDIA. También se espera que la compañía proporcione el diseño de una nueva supercomputadora como modelo para los servicios en la nube y otros hiperescaladores para que puedan personalizar aún más su infraestructura.

Marcos Lohmeyer, vicepresidente de Computación en Google Cloud dijo, “La construcción de modelos generativos avanzados requiere enfoques innovadores para la infraestructura de IA, la nueva escala NVLink y la memoria compartida de Grace Hopper Los superchips abordan cuellos de botella clave en la IA a gran escala y esperamos explorar sus capacidades para Google Cloud y nuestra IA generativa. iniciativas.”

NVIDIA también trae Supercomputadora Helios que será alimentado por la tecnología DGX200. La máquina se presentará con NVIDIA Quantum-2 InfiniBand Redes para potenciar el rendimiento de datos para entrenar grandes modelos de IA.

A medida que NVIDIA anuncia una nueva clase de supercomputadoras DGX AI, la compañía trabaja continuamente para mejorar la integración de AI, NVIDIA presentó recientemente ACE para juegos en Computex 2023 para llevar la IA al mundo de los juegos. También se espera que las supercomputadoras Helios y NVIDIA DGX200 estén disponibles a fines de este año, lo que marca el comienzo de una nueva era en la IA y la tecnología informática.

Fuente: Sala de prensa de NVIDIA