Более высокая производительность с большей и более быстрой памятью
Графический процессор NVIDIA H200 Tensor Core обеспечивает генеративный искусственный интеллект и высокопроизводительные вычислительные нагрузки (HPC) с революционной производительностью и возможностями памяти. Основанный на архитектуре NVIDIA Hopper™, NVIDIA H200 является первым графическим процессором, предлагающим 141 гигабайт (ГБ) памяти HBM3e со скоростью 4,8 терабайт в секунду (ТБ/с), что почти вдвое превышает емкость графического процессора NVIDIA H100 Tensor Core с в 1,4 раза большей пропускной способностью памяти. Более крупная и быстрая память H200 ускоряет генеративный искусственный интеллект и большие языковые модели, одновременно продвигая научные вычисления для рабочих нагрузок HPC с лучшей энергоэффективностью и более низкой общей стоимостью владения.
Откройте для себя инсайты с высокопроизводительным выводом LLM
В постоянно развивающемся ландшафте искусственного интеллекта компании полагаются на большие языковые модели для удовлетворения разнообразных потребностей в выводе. Ускоритель вывода ИИ должен обеспечивать самую высокую пропускную способность при самой низкой совокупной стоимости владения при масштабном развертывании для огромной базы пользователей. H200 удваивает производительность вывода по сравнению с графическими процессорами HlO0 при работе с большими языковыми моделями, такими как Llama2 70B.
Ускорьте высокопроизводительные вычисления
Пропускная способность памяти имеет решающее значение для приложений HPC, поскольку она обеспечивает более быструю передачу данных и сокращает сложные узкие места обработки. Для приложений HPC с интенсивным использованием памяти, таких как моделирование, научные исследования и искусственный интеллект, более высокая пропускная способность памяти H200 обеспечивает эффективный доступ к данным и их обработку, что приводит к сокращению времени получения результатов в 110 раз.
Сокращение энергопотребления и совокупной стоимости владения
С внедрением H200 энергоэффективность и совокупная стоимость владения выходят на новый уровень. Эта передовая технология обеспечивает непревзойденную производительность, и все это в том же профиле мощности, что и H100 Tensor Core GPU. Фабрики искусственного интеллекта и суперкомпьютерные системы, которые не только быстрее, но и более экологичны, обеспечивают экономическое преимущество, что продвигает вперед сообщества искусственного интеллекта и научные сообщества.
Корпоративная готовность: программное обеспечение искусственного интеллекта упрощает разработку и развертывание
NVIDIA H200 NVL поставляется с пятилетней подпиской NVIDIA AI Enterprise и упрощает способ создания корпоративной платформы искусственного интеллекта. H200 ускоряет разработку и развертывание искусственного интеллекта для готовых к производству генеративных решений искусственного интеллекта, включая компьютерное зрение, речевой искусственный интеллект, расширенную генерацию (RAG) и многое другое. NVIDIA Al Enterprise включает NVIDIA NIM™, набор простых в использовании микросервисов, разработанных для ускорения развертывания корпоративного генеративного искусственного интеллекта. Вместе развертывания имеют корпоративную безопасность, управляемость, стабильность и поддержку. Это приводит к оптимизированным по производительности решениям ИИ, которые быстрее обеспечивают бизнес-ценность и полезные идеи.
