NVIDIA H100 NVL 94GB H100
NVIDIA H100 NVL 94GB PCIe Accelerator
Этот ускоритель на базе архитектуры NVIDIA Hopper™ предоставляет невероятную производительность и поддерживает широкий спектр вычислительных задач, включая высокопроизводительные вычисления, генеративный ИИ и обработку больших языковых моделей.
ХАРАКТЕРИСТИКИ:
Форм-фактор: PCIe Accelerator
Графический процессор: NVIDIA Hopper™ (GH100)
Память: 94 ГБ HBM3
Пропускная способность памяти: 3.9 ТБ/с
Частота GPU: Пиковая производительность:
FP64: 34 TFLOPS
FP64 Tensor Core: 67 TFLOPS
FP32: 67 TFLOPS
TF32: 990 TFLOPS
FP16: 1,980 TFLOPS
BF16: 1,980 TFLOPS
FP8: 3,960 TFLOPS
INT8: 3,960 TOPS
CUDA Cores: 14,592 FP32 CUDA Cores
Tensor Cores: 456 четвертого поколения Tensor Cores
ECC: Да
Интерфейс: PCIe Gen 5.0, x16 lanes
NVLink Support: Да, поддержка до 3 мостов NVLink на пару GPU
Максимальное количество GPU: 1 ускоритель на карте
Multi-Instance GPU (MIG): Да, до 7 экземпляров GPU с памятью 12 ГБ каждый
Максимальное потребление энергии: 400 Вт
Тепловое решение: Пассивное охлаждение
API для вычислений: CUDA, DirectCompute, OpenCL, OpenACC
Размеры: Full height/length, double width
Гарантия: Стандартная гарантия NVIDIA
КЛЮЧЕВЫЕ ОСОБЕННОСТИ:
Генеративный ИИ и HPC: Повышенная производительность в вычислениях с большими языковыми моделями и научных вычислениях.
Низкое энергопотребление: Впечатляющая производительность при потреблении всего 400 Вт.
Широкая поддержка вычислений: Поддержка основных API, включая CUDA и OpenCL.
Поддержка NVLink: Обеспечивает межгрупповую связность с пропускной способностью до 600 ГБ/с.
Масштабируемость: Поддержка Multi-Instance GPU для параллельной работы на нескольких экземплярах GPU с раздельными вычислениями.
КОМУ ПОДОЙДЕТ:
Этот ускоритель идеально подходит для высокопроизводительных вычислений (HPC), научных исследований, машинного обучения и генеративного ИИ. Он обеспечит отличную производительность для крупных ИТ-организаций, исследовательских институтов и дата-центров, работающих с большими объемами данных.