Shenzhen, Kína - 2025. július - Az AI és a nagy nyelvi modellszámítás áttörésekor az NVIDIA elindította aH100 141GBAz NVL Original, egy következő generációs megoldás, amelynek célja az AI teljesítmény, a memóriakapacitás és az energiahatékonyság határának megnyomása. A vállalati méretű AI munkaterhelésekkel szem előtt tartva a H100 NVL 141 GB-os modult úgy alakítják ki, hogy megfeleljen a mai élvonalbeli adatközpontok, a nyelvmodell edzés és a példátlan sebességgel és méretarányban történő következtetésekre.
3x gyorsabb LLM következtetés - az NVL architektúra hajtása
A standard SXM vagy a PCIe GPU-kkal ellentétben a H100 NVL egy egyedi forma tényező, amely két H100 GPU-t tartalmaz, amely NVLink segítségével van csatlakoztatva, és kettős GPU-megoldásként csomagolva, 141 GB megosztott HBM3 memóriával és memórialand-sávszélességgel több mint 7TB/s. Ez teszi ideális GPU -t:
GPT-3, GPT-4 és Llama 3 edzés
Nagyszabású transzformátor következtetési munkaterhelések
Többmodális AI feladatok (látásnyelv, beszéd stb.)
Az NVIDIA belső tesztelése szerint a H100 NVL akár 12x gyorsabb következtetést eredményez a nagy nyelvű modellekhez, mint az A100 80 GB.
